A legtöbb MI-platform utólag csavarozza rá a médiagenerálást. Külön lap, külön API-kulcs, számlázási modell, amelynek semmi köze a beszélgetési egyenlegéhez. A ToRun más álláspontot foglal el: a kép-, videó- és zenegenerálás módok — ugyanolyan teljes értékű termékfelület, mint a Beszélgetés vagy a Kód —, és pontosan ugyanazon a képesség szerinti irányításon és ugyanazon a számlázási csővezetéken mennek át, mint bármely más hívás.
Ez a szöveg elmagyarázza a működést és azt, miért számít.
Hogyan kezeli az irányítási csővezeték a médiát
Minden kérés a ToRunban móddal kezdődik: Beszélgetés, Kép, Videó, Zene, Kutatás és így tovább. Minden mód kijelenti, mely képességeket követeli meg. A képgenerálás az image-gen képességet követeli. A videó a video-gen-t. A zene- és hangszintézis az audio-out-ot. Egy kérés, amely beszélgetést köt kép kimenettel — mondjuk fogalmi vázlat egy magyarázat mellé —, egyszerre követeli a text-et és az image-gen-t.
Az irányítási csővezeték veszi ezt a képességkészletet, a modellkatalógust azokra a szolgáltatókra szűkíti, amelyek mindet teljesítik, majd ár és minőség szerint rangsorolja a jelölteket. A kiválasztott modell sehol nincs beégetve a munkafolyamatába; ha egy szolgáltató üzemen kívül van vagy lassú, a tartalékos lánc automatikusan a következő alkalmas modellt választja. Nem ír szolgáltatóspecifikus kódot. Nem kezel külön API-kulcsokat módozatonként (hacsak nem akar, BYOK-on át).
Leginkább akkor számít ez, ha módozatokat kombinál. Egy munkafolyamat-csomópont megkérheti a szövegmodellt, hogy írjon jelenetleírást, ezt a kimenetet átadhatja képgeneráló modellnek, majd a kép címét videókiterjesztő modellnek — mindezt ugyanabban a DAG-ban, mindezt ugyanarra a könyvre számlázva.
Árazási egységek, amelyek valóban megfelelnek annak, amit a szolgáltatók számláznak
A média számlázása történetileg átláthatatlan volt, mert az egységek nem képezhetők le tokenekre. A ToRun tizenkét kanonikus árazási egységet használ, hogy minden módozatot pontosan lefedjen:
- Képenként — diffúziós és szövegből képet készítő modellekhez; az ár a generálást fogja meg, nem a képpontokat.
- Hangmásodpercenként — beszédszintézishez, kimondott kimenethez és zenegeneráláshoz.
- Videómásodpercenként — videógeneráló modellekhez; az időtartam és a felbontásváltozat az ársorban áll.
- Beszédszintézis-karakterenként — a karakter alapján számlázó hangfelületekhez.
Emellett a szokásos tokenegységek (millió bemeneti token, kimeneti token és bemeneti gyorsítótárból származó token) fedik le a médiacsővezetékben részt vevő szövegmodelleket.
Minden hívás pontosan egy számlázási tételt ír. Ez a tétel a végrehajtás pillanatában befagyasztja az árat: az árazási egységet, az egységenkénti díjat, a felhasznált mennyiséget, a ToRun árrése utáni dollárösszeget és az árfolyam-pillanatképet, ha a fiókja pénzneme nem dollár. Ha egy szolgáltató holnap árat változtat, a mai számlája továbbra is teljesen újraszámolható a könyvből. Kiexportálhatja a nyers díjakat, és hálózat nélkül ellenőrizhet minden fillért.
A médiagenerálás összeállítása beszélgetéssel és munkafolyamatokkal
Ez az építészet a munkafolyamatokban térül meg a leginkább.
Egy munkafolyamat-csomópont egyszerűen olyan lépés, amely kijelenti, mire van szüksége: bizonyos képességű modellre, bemeneti sémára és kimeneti sémára. Egy zenei csomópont fogadhat szöveges kérést és időtartamot, és visszaadhat egy Bunny CDN-címet a generált hanghoz. Egy képcsomópont fogad egy kérést, egy oldalarányt és egy stílusjelzést, és képcímet ad vissza. Ezek a csomópontok úgy állnak össze, mint bármely más lépés.
Építhet egyetlen munkafolyamatot, amely:
- Termékösszefoglalót vesz bemenetnek.
- Szövegmodellt hív, hogy öt szlogenváltozatot állítson elő.
- Képmodellt hív, hogy változatonként egy fő látványt rajzoljon ki.
- Hangmodellt hív, hogy felmondja a kiválasztott szlogent.
- Szerkezetes műterméket ad vissza szöveggel, képcímekkel és hanggal.
Ennek az egész futásnak a számlázása öt tételre oszlik — modellhívásonként egyre —, mind ugyanahhoz a munkafolyamat-végrehajtási azonosítóhoz kötve. Látja a költségbontást lépésenként. A végrehajtók alapból minőségi osztályú modelleket vesznek, mert az eredmény számít; ezt csomópontonként felülbírálhatja.
Ugyanez a logika érvényes a beszélgetésben. Ha a beszélgetése képgenerálási hívást indít — mert közvetlenül kérte, vagy mert egy csatolt munkafolyamat indította —, ez a hívás áthalad az irányítási csővezetéken, és tételként jelenik meg a munkamenet költségnézetében. Semmi sem rejtőzik átalánydíjban. Semmi sem ingyenes előbb és fizetős utóbb.
Mi működik most
A kép-, videó- és zene- vagy hanggenerálás mind elérhető az 1. fázisban. Ugyanazon a szolgáltatói katalóguson megy át, mint a szöveg, ugyanarra a könyvre számlázódik, és ugyanabban a munkafolyamat-építőben áll össze. Hogy konkrétan mely modellek érhetők el, attól függ, mely szolgáltatók vannak épp a katalógusban, és milyen képességeket jelentenek be — az irányítási réteg ezt valós időben mutatja.
Az árak a /pricing alatt vannak. BYOK-támogatás létezik, ha a médiahívásokat saját szolgáltatói fiókján át kívánja irányítani alacsonyabb platformdíjakkal.