Problém prístupu „vezmi GPT-4 a hotovo"
Väčšina platforiem AI za vás urobí tiché rozhodnutie: vyberie model, ktorý sa im páči, napojí naň všetko a ide ďalej. Funguje to, kým to fungovať neprestane — kým model nespadne, kým konkurent nevydá niečo lepšie pre konkrétnu úlohu, kým si nebudete chcieť priniesť vlastný API kľúč a držať náklady na svojom účte, kým nebudete potrebovať generovať obrázky a predvolený model to nevie.
Obvyklým liekom je rozbaľovací zoznam. Vyberte model, používajte ho všade, s kompromismi si poraďte sami. To nie je smerovanie, to je delegovanie. ToRun robí niečo štrukturálne iné.
Linka, ktorá stavia schopnosti na prvé miesto
Každá požiadavka v ToRun prechádza štyrmi krokmi, než sa dotkne modelu.
1. Režim určuje produktovú plochu. Keď otvoríte reláciu Chatu alebo spustíte úlohu Výskumu, volíte Režim. Režim nie je len nálepka rozhrania: nesie určenú sadu povinných a voliteľných schopností. Úloha Výskumu potrebuje nástroje (vyhľadávanie na webe), dlhý kontext a štruktúrovaný výstup. Bežná relácia chatu potrebuje v predvolenom stave len generovanie textu.
2. Sada schopností sa stáva filtrom. ToRun vedie katalóg modelov mnohých poskytovateľov — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral a ďalších. Každá položka nesie zjednotenie schopností, ktoré model skutočne podporuje: zrak, nástroje, spúšťanie kódu, generovanie obrázkov, zvuk na vstupe, zvuk na výstupe, generovanie videa, vnorenia, preraďovanie, prenos v reálnom čase, uvažovanie a ďalšie. Sada z prvého kroku sa porovná s týmto katalógom. Modely, ktoré nesplnia všetky povinné schopnosti, vypadnú.
3. Poradie cena-kvalita vyberie víťaza. Medzi modelmi, ktoré prejdú filtrom, radí ToRun podľa toho, čím požiadavka naozaj je. Krátka jednoduchá otázka sa radí podľa nákladov, takže dostanete rýchlu a lacnú odpoveď. Dlhšia alebo ťažšia sa radí podľa schopnosti na jednotku nákladu, proti prahu kvality. Ťah nesúci obrázok sa radí podľa toho, ako dobre model vidí, nie podľa uvažovania za euro. Vykonávatelia postupov prepínajú na kvalitu na prvom mieste, pretože automatizovaná linka bežiaca bez dozoru má mieriť na najlepší výsledok, nie na najlacnejšiu skratku. Používatelia BYOK vstupujú do ceny inak, pretože požiadavka ide cez ich vlastný účet u poskytovateľa.
4. Záložné reťaze pohlcujú výpadky poskytovateľa. Ak zvolený model vráti chybu služby, tá istá linka prebehne znova s vylúčením tohto modelu. Odpovie druhý najlepší spôsobilý model. Neuvidíte žiadnu chybu, iba ak sú všetci schodní kandidáti mimo prevádzky.
Konkrétny príklad: zrak plus nástroje
Dajme tomu, že vložíte snímku obrazovky a požiadate ToRun, aby na webe vyhľadal kontext toho, čo je na nej. Takáto požiadavka sa dotýka dvoch schopností naraz: zraku (model musí prijať obrázok na vstupe) a nástrojov (model musí vedieť zavolať funkciu vyhľadávania na webe).
Pri prístupe s jedným modelom uviaznete: vaša platforma tú kombináciu podporuje, alebo nie. Pri smerovaní podľa schopností ToRun obe požiadavky pretne. Filter prežijú len modely s potvrdenou podporou zraku I volania nástrojov. Z tohto krátkeho zoznamu vyberie poradie podľa ceny a kvality najlepší pre váš aktuálny režim. Ak je hlavný kandidát obmedzený alebo mimo prevádzky, ďalší požiadavku obslúži bez toho, aby ste čokoľvek urobili.
V praxi na tom záleží: množina modelov so zrakom sa za posledný rok veľmi zmenila a meniť sa bude ďalej. Smerovanie podľa schopností spôsobuje, že ToRun automaticky zvažuje novo pridané modely hneď, ako sú zaradené do katalógu, bez akejkoľvek aktualizácie z vašej strany.
Prečo to vyhráva nad uzamknutím
Platforma s jedným modelom má jedinú záložnú stratégiu: čakať, kým poskytovateľ výpadok opraví. Platforma stavajúca schopnosti na prvé miesto má katalóg. Keď má OpenAI incident, požiadavky, ktoré zvládne Anthropic alebo Gemini, sú obslúžené tam. Keď nový model Mistralu ponúkne lepší pomer ceny a kvality pri štruktúrovanom výstupe, vstúpi do poradia príslušných režimov bez nútenej migrácie.
Tá istá logika platí pre BYOK. Keď pridáte vlastný API kľúč pre poskytovateľa, tieto prístupové údaje zostanú uzavreté vnútri smerovacej vrstvy. Požiadavky zodpovedajúce spôsobilým modelom toho poskytovateľa môžu siahnuť po vašom kľúči namiesto účtu ToRun a presunúť náklad do vášho vzťahu s poskytovateľom na príslušnom účtovnom stupni. Smerovacia linka sa nemení: mení sa len to, ktoré prístupové údaje sa v okamihu vykonania použijú.
Kompromisom je poctivosť: ToRun nemôže zaručiť, že najlacnejší model bude pre vašu úlohu najmúdrejší. Poradie je zjavné — vidíte, čo bolo zvolené a prečo, a môžete to prepísať. Tá priehľadnosť je cieľom. Každá požiadavka zapíše účtovný záznam s použitým modelom, cenovou jednotkou aktívnou pri vykonaní a rozpisom nákladu. Ktorékoľvek volanie môžete preveriť aj po mesiacoch, aj po zmene sadzieb poskytovateľa, pretože odtlačok je zmrazený v okamihu, keď požiadavka bežala.
Jeden model, ktorý zvládne všetko, je pohodlná výmyselnosť. Čo naozaj chcete, je platforma, ktorá nájde správny model pre každú úlohu a urobí túto voľbu čitateľnou.