Většina platforem AI přišroubuje generování médií dodatečně. Zvláštní karta, zvláštní API klíč, účetní model, který nemá nic společného s vaším zůstatkem chatu. ToRun zaujímá jiný postoj: generování obrázků, videa a hudby jsou režimy — tatáž plnohodnotná produktová plocha jako Chat nebo Kód — a procházejí přesně týmž směrováním podle schopností a touž účetní linkou jako každé jiné volání.
Tento text vysvětluje mechaniku a proč na ní záleží.
Jak směrovací linka zachází s médii
Každý požadavek v ToRun začíná režimem: Chat, Obrázek, Video, Hudba, Výzkum a tak dále. Každý režim vyhlašuje schopnosti, které vyžaduje. Generování obrázků vyžaduje schopnost image-gen. Video vyžaduje video-gen. Syntéza hudby a zvuku vyžaduje audio-out. Požadavek spojující chat s obrazovým výstupem — třeba pojmová skica vedle vysvětlení — vyžaduje text a image-gen naráz.
Směrovací linka vezme tuto sadu schopností, zúží katalog modelů na poskytovatele, kteří je splňují všechny, a pak seřadí uchazeče podle ceny a kvality. Zvolený model není nikde ve vašem postupu napevno; je-li poskytovatel mimo provoz nebo pomalý, záložní řetěz automaticky vybere další způsobilý model. Nepíšete kód pro konkrétního poskytovatele. Nespravujete zvláštní API klíče podle modality (leda byste chtěli, přes BYOK).
Nejvíc na tom záleží, když modality kombinujete. Uzel postupu může nechat textový model napsat popis scény, předat tento výstup modelu generujícímu obrázky a pak podat adresu obrázku modelu rozšiřujícímu video — vše v témž DAG, vše účtováno na tutéž knihu.
Cenové jednotky, které opravdu odpovídají tomu, co poskytovatelé účtují
Účtování médií bylo odedávna neprůhledné, protože jednotky se nemapují na tokeny. ToRun používá dvanáct kanonických cenových jednotek, aby přesně pokryl každou modalitu:
- Za obrázek — pro difuzní modely a modely text-na-obrázek; cena zachycuje generování, ne pixely.
- Za sekundu zvuku — pro syntézu řeči, mluvený výstup a generování hudby.
- Za sekundu videa — pro modely generující video; délka a varianta rozlišení jsou v cenovém řádku.
- Za znak syntézy řeči — pro hlasová rozhraní účtující po znacích.
Vedle nich pokrývají obvyklé tokenové jednotky (za milion vstupních tokenů, výstupních tokenů a tokenů ze vstupní mezipaměti) textové modely, které se účastní mediální linky.
Každé volání zapíše přesně jeden účetní záznam. Ten záznam zmrazí cenu v okamžiku provedení: cenovou jednotku, sazbu za jednotku, spotřebované množství, částku v dolarech po marži ToRun a otisk směnného kurzu, není-li měna vašeho účtu dolar. Změní-li poskytovatel zítra sazby, váš dnešní účet zůstane plně přepočitatelný z knihy. Můžete vyexportovat surové sazby a prověřit každý haléř bez sítě.
Skládání generování médií s chatem a postupy
Nejvíc se tato architektura vyplatí v pracovních postupech.
Uzel postupu je prostě krok, který vyhlašuje, co potřebuje: model s určitými schopnostmi, vstupní schéma a výstupní schéma. Hudební uzel může přijmout textovou výzvu a délku a vrátit adresu CDN Bunny pro vygenerovaný zvuk. Obrázkový uzel přijme výzvu, poměr stran a náznak stylu a vrátí adresu obrázku. Tyto uzly se skládají jako každý jiný krok.
Můžete postavit jediný postup, který:
- Vezme produktové zadání na vstupu.
- Zavolá textový model, aby vytvořil pět variant sloganu.
- Zavolá obrázkový model, aby vykreslil jeden hlavní vizuál na variantu.
- Zavolá hlasový model, aby zvolený slogan namluvil.
- Vrátí strukturovaný artefakt s textem, adresami obrázků a zvukem.
Účtování celého tohoto běhu se rozloží do pěti záznamů — jeden na volání modelu — všechny svázané s týmž identifikátorem provedení postupu. Vidíte rozpis nákladu po krocích. Vykonavatelé berou ve výchozím stavu modely kvalitní třídy, protože na výsledku záleží; můžete to přepsat u uzlu.
Tatáž logika platí v chatu. Spustí-li váš rozhovor volání generování obrázku — protože jste o to přímo požádali nebo protože to zahájil připojený postup — projde toto volání směrovací linkou a objeví se jako položka v přehledu nákladů sezení. Nic se neschovává v paušálu. Nic není nejdřív zdarma a potom placené.
Co běží teď
Generování obrázků, videa a hudby či zvuku je dostupné ve Fázi 1. Prochází týmž katalogem poskytovatelů jako text, účtuje se na tutéž knihu a skládá se v téže stavebnici postupů. Které modely jsou konkrétně dostupné, závisí na tom, kteří poskytovatelé jsou právě v katalogu a jaké schopnosti vyhlašují — směrovací vrstva to ukazuje v reálném čase.
Ceny jsou na /pricing. Podpora BYOK existuje, chcete-li mediální volání směrovat přes vlastní účet u poskytovatele s nižšími poplatky platformy.