Večina platform umetne inteligence privije ustvarjanje medijev naknadno. Ločen zavihek, ločen API ključ, obračunski model, ki nima nič skupnega z vašim stanjem klepeta. ToRun zavzema drugačno stališče: ustvarjanje slik, videa in glasbe so načini — ista polnopravna površina izdelka kot Klepet ali Koda — in gredo skozi natanko isto usmerjanje po zmožnostih in isti obračunski cevovod kot vsak drug klic.
To besedilo pojasnjuje mehaniko in zakaj je pomembna.
Kako usmerjevalni cevovod ravna z mediji
Vsaka zahteva v ToRunu se začne z načinom: Klepet, Slika, Video, Glasba, Raziskava in tako naprej. Vsak način objavi zmožnosti, ki jih zahteva. Ustvarjanje slik zahteva zmožnost image-gen. Video zahteva video-gen. Sinteza glasbe in zvoka zahteva audio-out. Zahteva, ki združuje klepet z izhodom slike — recimo pojmovna skica ob razlagi — zahteva text in image-gen hkrati.
Usmerjevalni cevovod vzame ta nabor zmožnosti, zoži katalog modelov na ponudnike, ki jih vse izpolnjujejo, in nato razvrsti kandidate po ceni in kakovosti. Izbrani model nikjer v vašem toku ni trdno zapisan; če je ponudnik zunaj obratovanja ali počasen, rezervna veriga samodejno izbere naslednji ustrezen model. Ne pišete kode za posameznega ponudnika. Ne vodite ločenih API ključev po modalnosti (razen če želite, prek BYOK).
Najbolj je to pomembno, ko modalnosti združujete. Vozlišče toka lahko besedilnemu modelu naroči, naj napiše opis prizora, ta izhod preda modelu za ustvarjanje slik in nato naslov slike izroči modelu za razširitev videa — vse v istem DAG, vse zaračunano na isto knjigo.
Cenovne enote, ki res ustrezajo temu, kar ponudniki zaračunavajo
Zaračunavanje medijev je bilo zgodovinsko nepregledno, ker se enote ne preslikajo na žetone. ToRun uporablja dvanajst kanonskih cenovnih enot, da natančno pokrije vsako modalnost:
- Na sliko — za difuzijske modele in modele besedilo-v-sliko; cena zajema ustvarjanje, ne slikovnih pik.
- Na sekundo zvoka — za sintezo govora, govorjeni izhod in ustvarjanje glasbe.
- Na sekundo videa — za modele, ki ustvarjajo video; trajanje in različica ločljivosti sta v cenovni vrstici.
- Na znak sinteze govora — za glasovne vmesnike, ki zaračunavajo po znaku.
Ob njih običajne žetonske enote (na milijon vhodnih žetonov, izhodnih žetonov in žetonov iz vhodnega predpomnilnika) pokrivajo besedilne modele, ki sodelujejo v medijskem cevovodu.
Vsak klic zapiše natanko en obračunski zapis. Ta zapis zamrzne ceno v trenutku izvedbe: cenovno enoto, ceno na enoto, porabljeno količino, znesek v dolarjih po marži ToRuna in odtis menjalnega tečaja, če valuta vašega računa ni dolar. Če ponudnik jutri spremeni cene, vaš današnji račun ostane povsem preračunljiv iz knjige. Surove cene lahko izvozite in preverite vsak cent brez omrežja.
Sestavljanje ustvarjanja medijev s klepetom in tokovi
Najbolj se ta arhitektura obrestuje v delovnih tokovih.
Vozlišče toka je preprosto korak, ki objavi, kaj potrebuje: model z določenimi zmožnostmi, vhodno shemo in izhodno shemo. Glasbeno vozlišče lahko sprejme besedilni poziv in trajanje ter vrne naslov Bunny CDN za ustvarjen zvok. Slikovno vozlišče sprejme poziv, razmerje stranic in namig sloga ter vrne naslov slike. Ta vozlišča se sestavljajo kot vsak drug korak.
Zgradite lahko en sam tok, ki:
- Vzame izdelčni povzetek na vhodu.
- Pokliče besedilni model, da ustvari pet različic slogana.
- Pokliče slikovni model, da izriše po eno glavno podobo za vsako različico.
- Pokliče glasovni model, da izbrani slogan prebere.
- Vrne strukturiran artefakt z besedilom, naslovi slik in zvokom.
Zaračunavanje celotnega tega poteka se razporedi na pet zapisov — po enega na klic modela — vsi vezani na isto oznako izvedbe toka. Vidite razčlembo stroška po korakih. Izvajalci privzeto vzamejo modele kakovostnega razreda, ker je izid pomemben; to lahko povozite pri vozlišču.
Ista logika velja v klepetu. Če vaš pogovor sproži klic za ustvarjanje slike — ker ste zanj neposredno prosili ali ker ga je sprožil priložen tok — gre ta klic skozi usmerjevalni cevovod in se pojavi kot postavka v pregledu stroška seje. Nič se ne skriva v pavšalu. Nič ni najprej brezplačno, potem pa zaračunano.
Kaj teče zdaj
Ustvarjanje slik, videa ter glasbe in zvoka je na voljo v Fazi 1. Gre skozi isti katalog ponudnikov kot besedilo, se zaračunava na isto knjigo in se sestavlja v istem graditelju tokov. Kateri modeli so konkretno na voljo, je odvisno od tega, kateri ponudniki so v danem trenutku v katalogu in katere zmožnosti objavljajo — usmerjevalna plast to prikazuje v realnem času.
Cene so na /pricing. Podpora za BYOK obstaja, če želite medijske klice usmerjati prek lastnega računa pri ponudniku ob nižjih pristojbinah platforme.