Past jediného modelu
Každý velký poskytovatel AI chce, abyste věřili, že jeho vlajkový model je správnou odpovědí na jakoukoli otázku. To přesvědčení je pro něj obchodně pohodlné a pro vás technicky nepravdivé.
Model, který září v právním uvažování s dlouhým kontextem, není ten pravý pro vytvoření desetislovného popisku. Model se špičkovým zrakem je předimenzovaný — a nejspíš příliš drahý — pro dávkovou úlohu přeformátovávající strukturovaný JSON. Model, jehož cena je vyladěna na průtok, může být tou nejhorší volbou, když potřebujete odpověď do dvou sekund.
Stavíte-li na jediném modelu, nevybíráte nejlepší nástroj. Vybíráte nejlepší nástroj dostupný uvnitř umělého omezení. Časem se to omezení hromadí: přeplácíte jednoduché úlohy, nedotahujete složité, a když má ten poskytovatel výpadek nebo zdraží, celý váš produkt stojí.
Schopnosti, ne jména
Užitečnou abstrakcí není „který model", ale „jaké schopnosti tento požadavek potřebuje". Ta otázka má přesnou odpověď.
Zpráva chatu s přiloženým snímkem obrazovky potřebuje zrak. Krok postupu volající vnější API potřebuje nástroje. Kódový asistent, který má ověřovat vlastní výstup, potřebuje spouštění kódu. Noční shrnovací linka, která nemusí být rychlá, může využít dávkové ceny; asistent uvnitř produktu, na kterého někdo čeká, ne.
Vyjmenujete-li nejprve požadavky na schopnosti, volba modelu se stane úlohou filtrování a řazení. Máte-li požadovanou sadu — řekněme text, zrak a strukturovaný výstup — najdete všechny modely podporující všechny tři a pak je seřadíte podle kvality a ceny pro současný kontext požadavku. To řazení se může měnit požadavek od požadavku podle toho, co daný člověk dělá a jak je na tom s prostředky.
Přesně tohle dělá směrovací linka ToRun. Režim (Chat, Kód, Obrázek, Výzkum a další) se mapuje na sadu schopností. Sada filtruje katalog modelů. Pořadí podle ceny a kvality vybere vítěze. Výsledkem je, že můžete používat DeepSeek pro strukturovanou extrakci ve velkém objemu, Claude nebo modely třídy GPT-4 pro jemné uvažování, Google Gemini pro práci s dokumenty v dlouhém kontextu a specializovaný obrázkový model pro generování — vše z téže produktové plochy, aniž byste psali rozdělovací logiku.
Záloha není milý bonus
Výpadky poskytovatelů nejsou vzácné okrajové případy. Dějí se napříč odvětvím několikrát měsíčně. Má-li váš produkt závislost na jediném poskytovateli a jeho API se zhorší, váš produkt se zhorší s ním.
Záložní řetěz je provozní minimum: vrátí-li hlavní model u požadavku přechodnou chybu, platforma jej zopakuje na dalším nejlepším způsobilém modelu. To předpokládá, že směrovací vrstva už ví, které modely jsou způsobilé — a přesně to směrování podle schopností dodává.
Záloha má ještě jednu méně zřejmou výhodu: udržuje vaše účetní chování předvídatelné. Je-li model první volby dočasně nad limitem užití, uhnutí na další způsobilý model udrží náklad v rozmezí, aniž by se uživateli ukázala chyba.
Praktický závěr
Při posuzování platforem AI položte dvě otázky: jak vybírá model pro každý požadavek a co se stane, když je ten model nedostupný nebo příliš drahý?
Je-li odpověď na kteroukoli z nich „vždycky bere model X", je to architektonický zápach. Modely dostupné dnes nebudou nejlepšími modely za půl roku. Objevují se noví poskytovatelé. Ceny se posouvají. Hranice schopností se mění. Architektura, která pojímá volbu modelu jako úlohu směrování — ne jako rozhodnutí konfigurace — stárne lépe, stojí časem méně a pod tlakem se zhoršuje elegantněji.
Jeden model je výchozí bod. Směrovací vrstva je skutečný základ.