Większość platform AI dokleja generowanie mediów po fakcie. Osobna karta, osobny klucz API, model rozliczeń niemający nic wspólnego z twoim saldem czatu. ToRun zajmuje inne stanowisko: generowanie obrazu, wideo i muzyki to tryby — taka sama pełnoprawna powierzchnia produktu jak Czat czy Kod — i przechodzą dokładnie przez to samo kierowanie według zdolności i ten sam potok rozliczeń co każde inne wywołanie.
Ten tekst wyjaśnia mechanikę i to, dlaczego ma znaczenie.
Jak potok kierowania obchodzi się z mediami
Każde żądanie w ToRun zaczyna się od trybu: Czat, Obraz, Wideo, Muzyka, Badanie i tak dalej. Każdy tryb deklaruje wymagane zdolności. Generowanie obrazu wymaga zdolności image-gen. Wideo wymaga video-gen. Synteza muzyki i dźwięku wymaga audio-out. Żądanie łączące czat z wyjściem obrazowym — na przykład szkic koncepcyjny obok wyjaśnienia — wymaga text i image-gen naraz.
Potok kierowania bierze ten zbiór zdolności, filtruje katalog modeli do dostawców, którzy spełniają wszystkie, a następnie porządkuje kandydatów po cenie i jakości. Wybrany model nie jest nigdzie w twoim przepływie zaszyty; jeśli dostawca jest niedostępny albo wolny, łańcuch zapasowy automatycznie wybiera kolejny zdatny model. Nie piszesz kodu pod konkretnego dostawcę. Nie prowadzisz osobnych kluczy API dla modalności (chyba że chcesz, przez BYOK).
Najbardziej liczy się to, gdy łączysz modalności. Węzeł przepływu może poprosić model tekstowy o opis sceny, przekazać to wyjście do modelu generowania obrazu, a potem podać adres obrazu modelowi rozszerzania wideo — wszystko w tym samym DAG, wszystko rozliczone na tej samej księdze.
Jednostki cenowe, które naprawdę odpowiadają temu, co liczą dostawcy
Rozliczanie mediów było historycznie nieprzejrzyste, bo jednostki nie odwzorowują się na tokeny. ToRun używa dwunastu kanonicznych jednostek cenowych, żeby dokładnie pokryć każdą modalność:
- Za obraz — dla modeli dyfuzyjnych i tekst-na-obraz; cena obejmuje generowanie, a nie piksele.
- Za sekundę dźwięku — dla syntezy mowy, wyjścia mówionego i generowania muzyki.
- Za sekundę wideo — dla modeli generowania wideo; czas trwania i wariant rozdzielczości są w wierszu cenowym.
- Za znak syntezy mowy — dla interfejsów głosowych liczących za znak.
Obok nich zwykłe jednostki tokenowe (za milion tokenów wejścia, wyjścia i wejścia z pamięci podręcznej) pokrywają modele tekstowe uczestniczące w potoku medialnym.
Każde wywołanie zapisuje dokładnie jeden wpis rozliczeniowy. Ten wpis zamraża cenę w chwili wykonania: jednostkę cenową, stawkę za jednostkę, zużytą ilość, kwotę w dolarach po marży ToRun oraz migawkę kursu wymiany, jeśli waluta twojego konta nie jest dolarem. Jeśli dostawca zmieni jutro stawki, twój dzisiejszy rachunek pozostanie w pełni przeliczalny z księgi. Możesz wyeksportować surowe stawki i sprawdzić każdy grosz bez sieci.
Składanie generowania mediów z czatem i przepływami
Najbardziej ta architektura zwraca się w przepływach pracy.
Węzeł przepływu to po prostu krok deklarujący, czego potrzebuje: modelu o pewnych zdolnościach, schematu wejścia i schematu wyjścia. Węzeł muzyczny może przyjąć zapytanie tekstowe i czas trwania, a zwrócić adres CDN Bunny dla wygenerowanego dźwięku. Węzeł obrazu przyjmuje zapytanie, proporcje i wskazówkę stylu, a zwraca adres obrazu. Te węzły składają się jak każdy inny krok.
Możesz zbudować jeden przepływ, który:
- Przyjmuje brief produktowy na wejściu.
- Wywołuje model tekstowy, by wygenerować pięć wariantów hasła.
- Wywołuje model obrazowy, by wyrenderować po jednym kluczowym wizualu na wariant.
- Wywołuje model głosowy, by przeczytać wybrane hasło.
- Zwraca uporządkowany artefakt z tekstem, adresami obrazów i dźwiękiem.
Rozliczenie całego tego przebiegu rozkłada się na pięć wpisów — po jednym na wywołanie modelu — wszystkie związane z tym samym identyfikatorem wykonania przepływu. Widzisz rozbicie kosztu na kroki. Wykonawcy domyślnie biorą modele klasy jakościowej, bo wynik ma znaczenie; możesz to nadpisać na węźle.
Ta sama logika działa w czacie. Jeśli twoja rozmowa wyzwala wywołanie generowania obrazu — bo poprosiłeś wprost albo bo uruchomił je dołączony przepływ — to wywołanie przechodzi przez potok kierowania i pojawia się jako pozycja w podglądzie kosztów sesji. Nic nie kryje się w stawce ryczałtowej. Nic nie jest najpierw darmowe, a potem płatne.
Co działa teraz
Generowanie obrazu, wideo oraz muzyki i dźwięku jest dostępne w Fazie 1. Idzie przez ten sam katalog dostawców co tekst, rozlicza się na tej samej księdze i składa w tym samym konstruktorze przepływów. Które modele są konkretnie dostępne, zależy od tego, którzy dostawcy są w danej chwili w katalogu i jakie zdolności deklarują — warstwa kierowania pokazuje to na bieżąco.
Ceny są na /pricing. Wsparcie BYOK istnieje, jeśli chcesz kierować wywołania medialne przez własne konto u dostawcy przy niższych opłatach platformy.