Väčšina platforiem AI priskrutkuje generovanie médií dodatočne. Zvláštna karta, zvláštny API kľúč, účtovný model, ktorý nemá nič spoločné s vaším zostatkom chatu. ToRun zaujíma iný postoj: generovanie obrázkov, videa a hudby sú režimy — tá istá plnohodnotná produktová plocha ako Chat alebo Kód — a prechádzajú presne tým istým smerovaním podľa schopností a tou istou účtovnou linkou ako každé iné volanie.
Tento text vysvetľuje mechaniku a prečo na nej záleží.
Ako smerovacia linka zaobchádza s médiami
Každá požiadavka v ToRun začína režimom: Chat, Obrázok, Video, Hudba, Výskum a tak ďalej. Každý režim vyhlasuje schopnosti, ktoré vyžaduje. Generovanie obrázkov vyžaduje schopnosť image-gen. Video vyžaduje video-gen. Syntéza hudby a zvuku vyžaduje audio-out. Požiadavka spájajúca chat s obrazovým výstupom — napríklad pojmová skica vedľa vysvetlenia — vyžaduje text a image-gen naraz.
Smerovacia linka vezme túto sadu schopností, zúži katalóg modelov na poskytovateľov, ktorí ich spĺňajú všetky, a potom zoradí uchádzačov podľa ceny a kvality. Zvolený model nie je nikde vo vašom postupe napevno; ak je poskytovateľ mimo prevádzky alebo pomalý, záložná reťaz automaticky vyberie ďalší spôsobilý model. Nepíšete kód pre konkrétneho poskytovateľa. Nespravujete zvláštne API kľúče podľa modality (ibaže by ste chceli, cez BYOK).
Najviac na tom záleží, keď modality kombinujete. Uzol postupu môže nechať textový model napísať opis scény, odovzdať tento výstup modelu generujúcemu obrázky a potom podať adresu obrázka modelu rozširujúcemu video — všetko v tom istom DAG, všetko účtované na tú istú knihu.
Cenové jednotky, ktoré naozaj zodpovedajú tomu, čo poskytovatelia účtujú
Účtovanie médií bolo oddávna nepriehľadné, pretože jednotky sa nemapujú na tokeny. ToRun používa dvanásť kanonických cenových jednotiek, aby presne pokryl každú modalitu:
- Za obrázok — pre difúzne modely a modely text-na-obrázok; cena zachytáva generovanie, nie pixely.
- Za sekundu zvuku — pre syntézu reči, hovorený výstup a generovanie hudby.
- Za sekundu videa — pre modely generujúce video; dĺžka a variant rozlíšenia sú v cenovom riadku.
- Za znak syntézy reči — pre hlasové rozhrania účtujúce po znakoch.
Vedľa nich pokrývajú obvyklé tokenové jednotky (za milión vstupných tokenov, výstupných tokenov a tokenov zo vstupnej vyrovnávacej pamäte) textové modely, ktoré sa zúčastňujú mediálnej linky.
Každé volanie zapíše presne jeden účtovný záznam. Ten záznam zmrazí cenu v okamihu vykonania: cenovú jednotku, sadzbu za jednotku, spotrebované množstvo, sumu v dolároch po marži ToRun a odtlačok výmenného kurzu, ak mena vášho účtu nie je dolár. Ak poskytovateľ zajtra zmení sadzby, váš dnešný účet zostane plne prepočítateľný z knihy. Môžete vyexportovať surové sadzby a preveriť každý cent bez siete.
Skladanie generovania médií s chatom a postupmi
Najviac sa táto architektúra vyplatí v pracovných postupoch.
Uzol postupu je jednoducho krok, ktorý vyhlasuje, čo potrebuje: model s určitými schopnosťami, vstupnú schému a výstupnú schému. Hudobný uzol môže prijať textovú výzvu a dĺžku a vrátiť adresu CDN Bunny pre vygenerovaný zvuk. Obrázkový uzol prijme výzvu, pomer strán a náznak štýlu a vráti adresu obrázka. Tieto uzly sa skladajú ako každý iný krok.
Môžete postaviť jediný postup, ktorý:
- Vezme produktové zadanie na vstupe.
- Zavolá textový model, aby vytvoril päť variantov sloganu.
- Zavolá obrázkový model, aby vykreslil jeden hlavný vizuál na variant.
- Zavolá hlasový model, aby zvolený slogan nahovoril.
- Vráti štruktúrovaný artefakt s textom, adresami obrázkov a zvukom.
Účtovanie celého tohto behu sa rozloží do piatich záznamov — jeden na volanie modelu — všetky zviazané s tým istým identifikátorom vykonania postupu. Vidíte rozpis nákladu po krokoch. Vykonávatelia berú v predvolenom stave modely kvalitnej triedy, pretože na výsledku záleží; môžete to prepísať pri uzle.
Tá istá logika platí v chate. Ak váš rozhovor spustí volanie generovania obrázka — pretože ste o to priamo požiadali alebo pretože to začal pripojený postup — prejde toto volanie smerovacou linkou a objaví sa ako položka v prehľade nákladov relácie. Nič sa neskrýva v paušále. Nič nie je najprv zadarmo a potom platené.
Čo beží teraz
Generovanie obrázkov, videa a hudby či zvuku je dostupné vo Fáze 1. Prechádza tým istým katalógom poskytovateľov ako text, účtuje sa na tú istú knihu a skladá sa v tej istej stavebnici postupov. Ktoré modely sú konkrétne dostupné, závisí od toho, ktorí poskytovatelia sú práve v katalógu a aké schopnosti vyhlasujú — smerovacia vrstva to ukazuje v reálnom čase.
Ceny sú na /pricing. Podpora BYOK existuje, ak chcete mediálne volania smerovať cez vlastný účet u poskytovateľa s nižšími poplatkami platformy.