Problém přístupu „vezmi GPT-4 a hotovo"
Většina platforem AI za vás učiní tiché rozhodnutí: vybere model, který se jim líbí, napojí na něj všechno a jde dál. Funguje to, dokud to fungovat nepřestane — dokud model nespadne, dokud konkurent nevydá něco lepšího pro konkrétní úlohu, dokud si nebudete chtít přinést vlastní API klíč a držet náklady na svém účtu, dokud nebudete potřebovat generovat obrázky a výchozí model to neumí.
Obvyklým lékem je rozbalovací seznam. Vyberte model, používejte ho všude, s kompromisy si poraďte sami. To není směrování, to je delegování. ToRun dělá něco strukturálně jiného.
Linka, která staví schopnosti na první místo
Každý požadavek v ToRun prochází čtyřmi kroky, než se dotkne modelu.
1. Režim určuje produktovou plochu. Když otevřete sezení Chatu nebo spustíte úlohu Výzkumu, volíte Režim. Režim není jen nálepka rozhraní: nese určenou sadu povinných a volitelných schopností. Úloha Výzkumu potřebuje nástroje (vyhledávání na webu), dlouhý kontext a strukturovaný výstup. Běžné sezení chatu potřebuje ve výchozím stavu jen generování textu.
2. Sada schopností se stává filtrem. ToRun vede katalog modelů mnoha poskytovatelů — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral a dalších. Každá položka nese sjednocení schopností, které model skutečně podporuje: zrak, nástroje, spouštění kódu, generování obrázků, zvuk na vstupu, zvuk na výstupu, generování videa, vnoření, přeřazování, přenos v reálném čase, uvažování a další. Sada z prvního kroku se porovná s tímto katalogem. Modely, které nesplní všechny povinné schopnosti, vypadnou.
3. Pořadí cena-kvalita vybere vítěze. Mezi modely, které projdou filtrem, řadí ToRun podle toho, čím požadavek doopravdy je. Krátká jednoduchá otázka se řadí podle nákladů, takže dostanete rychlou a levnou odpověď. Delší nebo těžší se řadí podle schopnosti na jednotku nákladu, proti prahu kvality. Tah nesoucí obrázek se řadí podle toho, jak dobře model vidí, ne podle uvažování za korunu. Vykonavatelé postupů přepínají na kvalitu na prvním místě, protože automatizovaná linka běžící bez dozoru má mířit na nejlepší výsledek, ne na nejlevnější zkratku. Uživatelé BYOK vstupují do ceny jinak, protože požadavek jde přes jejich vlastní účet u poskytovatele.
4. Záložní řetězy pohlcují výpadky poskytovatele. Vrátí-li zvolený model chybu služby, tatáž linka proběhne znovu s vyloučením tohoto modelu. Odpoví druhý nejlepší způsobilý model. Neuvidíte žádnou chybu, ledaže jsou všichni schůdní kandidáti mimo provoz.
Konkrétní příklad: zrak plus nástroje
Dejme tomu, že vložíte snímek obrazovky a požádáte ToRun, aby na webu vyhledal kontext toho, co je na něm. Takový požadavek se dotýká dvou schopností naráz: zraku (model musí přijmout obrázek na vstupu) a nástrojů (model musí umět zavolat funkci vyhledávání na webu).
Při přístupu s jedním modelem uvíznete: vaše platforma tu kombinaci podporuje, nebo ne. Při směrování podle schopností ToRun oba požadavky protne. Filtr přežijí jen modely s potvrzenou podporou zraku I volání nástrojů. Z tohoto krátkého seznamu vybere pořadí podle ceny a kvality nejlepší pro váš aktuální režim. Je-li hlavní kandidát omezený nebo mimo provoz, další požadavek obslouží, aniž byste cokoli udělali.
V praxi na tom záleží: množina modelů se zrakem se za poslední rok hodně změnila a měnit se bude dál. Směrování podle schopností způsobuje, že ToRun automaticky zvažuje nově přidané modely, jakmile jsou zkatalogizovány, bez jakékoli aktualizace z vaší strany.
Proč to vyhrává nad uzamčením
Platforma s jedním modelem má jedinou záložní strategii: čekat, až poskytovatel výpadek opraví. Platforma stavějící schopnosti na první místo má katalog. Když má OpenAI incident, požadavky, které zvládne Anthropic nebo Gemini, jsou obslouženy tam. Když nový model Mistralu nabídne lepší poměr ceny a kvality u strukturovaného výstupu, vstoupí do pořadí příslušných režimů bez nucené migrace.
Tatáž logika platí pro BYOK. Když přidáte vlastní API klíč pro poskytovatele, tyto přístupové údaje zůstanou uzavřené uvnitř směrovací vrstvy. Požadavky odpovídající způsobilým modelům toho poskytovatele mohou sáhnout po vašem klíči místo účtu ToRun a přesunout náklad do vašeho vztahu s poskytovatelem na příslušném účetním stupni. Směrovací linka se nemění: mění se jen to, které přístupové údaje se v okamžiku provedení použijí.
Kompromisem je poctivost: ToRun nemůže zaručit, že nejlevnější model bude pro vaši úlohu nejchytřejší. Pořadí je zjevné — vidíte, co bylo zvoleno a proč, a můžete to přepsat. Ta průhlednost je cílem. Každý požadavek zapíše účetní záznam s použitým modelem, cenovou jednotkou aktivní při provedení a rozpisem nákladu. Kterékoli volání můžete prověřit i po měsících, i po změně sazeb poskytovatele, protože otisk je zmrazen v okamžiku, kdy požadavek běžel.
Jeden model, který zvládne všechno, je pohodlná smyšlenka. Co doopravdy chcete, je platforma, která najde správný model pro každou úlohu a učiní tuto volbu čitelnou.