Zamka jednog modela
Svaki veliki pružatelj umjetne inteligencije želi da vjerujete kako je njegov vodeći model pravi odgovor na svako pitanje. To je uvjerenje njemu poslovno udobno, a vama tehnički netočno.
Model koji blista u pravnom zaključivanju s dugim kontekstom nije pravi za stvaranje potpisa od deset riječi. Model s vrhunskim vidom pretjeran je — i vjerojatno preskup — za skupni posao koji preoblikuje strukturirani JSON. Model čija je cijena podešena na propusnost može biti najgori mogući izbor kad odgovor trebate za dvije sekunde.
Gradite li na jednom modelu, ne birate najbolji alat. Birate najbolji alat dostupan unutar umjetnog ograničenja. S vremenom se to ograničenje gomila: preplaćujete jednostavne zadatke, podbacujete na složenima, a kad taj pružatelj ima kvar ili poskupljenje, cijeli vaš proizvod stoji.
Sposobnosti, a ne imena
Korisna apstrakcija nije „koji model", nego „koje sposobnosti ovaj zahtjev treba". To pitanje ima točan odgovor.
Poruka razgovora s priloženom snimkom zaslona treba vid. Korak tijeka koji poziva vanjski API treba alate. Pomoćnik za kod koji treba provjeravati vlastiti izlaz treba izvršavanje koda. Noćni cjevovod sažimanja koji ne mora biti brz može koristiti skupne cijene; pomoćnik unutar proizvoda na kojeg netko čeka ne može.
Nabrojite li najprije zahtjeve na sposobnosti, izbor modela postaje zadatak filtriranja i poretka. Uz traženi skup — recimo tekst, vid i strukturirani izlaz — nađete sve modele koji podržavaju sva tri, a zatim ih poretkate po kvaliteti i cijeni za trenutačni kontekst zahtjeva. Taj se poredak može mijenjati od zahtjeva do zahtjeva ovisno o tome što osoba radi i kako stoji sa sredstvima.
Točno to radi cjevovod usmjeravanja ToRuna. Način rada (Razgovor, Kod, Slika, Istraživanje i drugi) preslikava se na skup sposobnosti. Skup filtrira katalog modela. Poredak po cijeni i kvaliteti bira pobjednika. Ishod je da možete koristiti DeepSeek za strukturirano izvlačenje u velikom obujmu, Claude ili modele razreda GPT-4 za istančano zaključivanje, Google Gemini za rad s dokumentima u dugom kontekstu i specijaliziran slikovni model za stvaranje — sve s iste površine proizvoda, bez pisanja logike raspodjele.
Pričuva nije ugodan dodatak
Kvarovi pružatelja nisu rijetki rubni slučajevi. Događaju se diljem djelatnosti više puta mjesečno. Ovisi li vaš proizvod o jednom pružatelju i njegov API oslabi, vaš proizvod slabi s njim.
Pričuvni lanac pogonski je minimum: vrati li glavni model za zahtjev prolaznu pogrešku, platforma ga ponavlja na sljedećem najboljem prikladnom modelu. To pretpostavlja da sloj usmjeravanja već zna koji su modeli prikladni — a upravo to daje usmjeravanje prema sposobnostima.
Pričuva ima još jednu manje očitu korist: čini vaše ponašanje naplate predvidljivim. Ako je model prvog izbora privremeno iznad granice uporabe, skretanje na sljedeći prikladan model drži trošak u rasponu bez prikazivanja pogreške.
Praktičan zaključak
Pri prosudbi platformi umjetne inteligencije postavite dva pitanja: kako bira model za svaki zahtjev i što se događa kad taj model nije dostupan ili postane preskup?
Ako je odgovor na bilo koje „uvijek uzima model X", to je arhitektonski zadah. Modeli dostupni danas neće biti najbolji modeli za pola godine. Pojavljuju se novi pružatelji. Cijene se pomiču. Granice sposobnosti se mijenjaju. Arhitektura koja izbor modela shvaća kao zadatak usmjeravanja — a ne kao odluku postavljanja — bolje stari, s vremenom manje stoji i pod pritiskom slabi ljepše.
Jedan model polazna je točka. Sloj usmjeravanja pravi je temelj.