Problem podejścia „bierz GPT-4 i koniec"
Większość platform AI podejmuje za ciebie cichą decyzję: wybiera model, który im odpowiada, podpina do niego wszystko i idzie dalej. Działa to do chwili, gdy przestaje działać — dopóki model nie padnie, dopóki konkurent nie wypuści czegoś lepszego do konkretnego zadania, dopóki nie zechcesz przynieść własnego klucza API i trzymać kosztów na swoim koncie, dopóki nie będziesz musiał generować obrazów, a domyślny model tego nie potrafi.
Zwykłym lekarstwem jest lista rozwijana. Wybierz model, używaj wszędzie, sam radź sobie z kompromisami. To nie jest kierowanie, to przekazanie odpowiedzialności. ToRun robi coś strukturalnie innego.
Potok stawiający zdolności na pierwszym miejscu
Każde żądanie w ToRun przechodzi cztery etapy, zanim dotknie modelu.
1. Tryb wyznacza powierzchnię produktu. Gdy otwierasz sesję Czatu albo uruchamiasz zadanie Badania, wybierasz Tryb. Tryb to nie tylko etykieta interfejsu: niesie określony zbiór zdolności wymaganych i opcjonalnych. Zadanie Badania potrzebuje narzędzi (wyszukiwanie w sieci), długiego kontekstu i wyjścia strukturalnego. Zwykła sesja czatu domyślnie potrzebuje tylko generowania tekstu.
2. Zbiór zdolności staje się filtrem. ToRun prowadzi katalog modeli wielu dostawców — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral i innych. Każdy wpis niesie sumę zdolności, które model rzeczywiście obsługuje: widzenie, narzędzia, wykonywanie kodu, generowanie obrazów, dźwięk na wejściu, dźwięk na wyjściu, generowanie wideo, osadzenia, przeporządkowanie, strumieniowanie w czasie rzeczywistym, rozumowanie i więcej. Zbiór z kroku pierwszego zestawia się z tym katalogiem. Modele, które nie spełniają wszystkich wymaganych zdolności, odpadają.
3. Ranking cena-jakość wyłania zwycięzcę. Wśród modeli, które przeszły filtr, ToRun porządkuje według tego, czym żądanie naprawdę jest. Krótkie, proste pytanie porządkowane jest po koszcie, więc dostajesz szybką i tanią odpowiedź. Dłuższe albo trudniejsze porządkowane jest po zdolności na jednostkę kosztu, wobec progu jakości. Tura niosąca obraz porządkowana jest po tym, jak dobrze model widzi, a nie po rozumowaniu za złotówkę. Wykonawcy przepływów przechodzą na priorytet jakości, bo zautomatyzowany potok działający bez nadzoru powinien sięgać po najlepszy wynik, a nie po najtańszy skrót. Użytkownicy BYOK wchodzą w wycenę inaczej, bo żądanie idzie przez ich własne konto u dostawcy.
4. Łańcuchy zapasowe pochłaniają awarie dostawcy. Jeśli wybrany model zwróci błąd usługi, ten sam potok uruchamia się ponownie z wyłączeniem tego modelu. Odpowiada drugi najlepszy zdolny model. Nie zobaczysz żadnego błędu, chyba że wszyscy realni kandydaci są niedostępni.
Konkretny przykład: widzenie plus narzędzia
Załóżmy, że wklejasz zrzut ekranu i prosisz ToRun o wyszukanie w sieci kontekstu tego, co on pokazuje. Takie żądanie dotyka dwóch zdolności naraz: widzenia (model musi przyjąć obraz na wejściu) i narzędzi (model musi umieć wywołać funkcję wyszukiwania w sieci).
Przy podejściu jednomodelowym utykasz: twoja platforma obsługuje to połączenie albo nie. Przy kierowaniu według zdolności ToRun przecina oba wymagania. Filtr przeżywają tylko modele z potwierdzoną obsługą zarówno widzenia, JAK I wywoływania narzędzi. Z tej krótkiej listy ranking ceny i jakości wybiera najlepszy dla twojego bieżącego trybu. Jeśli główny kandydat jest ograniczony albo niedostępny, następny obsługuje żądanie bez żadnego twojego działania.
W praktyce to ma znaczenie: zbiór modeli z widzeniem mocno zmienił się w ostatnim roku i będzie się zmieniał dalej. Kierowanie według zdolności sprawia, że ToRun automatycznie bierze pod uwagę nowo dodane modele, gdy tylko trafią do katalogu, bez żadnej aktualizacji z twojej strony.
Dlaczego to wygrywa z uwiązaniem
Platforma jednomodelowa ma jedną strategię zapasową: czekać, aż dostawca naprawi awarię. Platforma stawiająca zdolności na pierwszym miejscu ma katalog. Gdy OpenAI ma incydent, żądania, które mogą obsłużyć Anthropic albo Gemini, są obsługiwane tam. Gdy nowy model Mistrala daje lepszy stosunek ceny do jakości na wyjściu strukturalnym, wchodzi do rankingu odpowiednich trybów bez przymusowej migracji.
Ta sama logika dotyczy BYOK. Gdy dodajesz własny klucz API dla dostawcy, te poświadczenia pozostają zamknięte wewnątrz warstwy kierowania. Żądania pasujące do zdolnych modeli tego dostawcy mogą sięgać po twój klucz zamiast po konto ToRun, przenosząc koszt do twojej relacji z dostawcą na właściwym poziomie rozliczeń. Potok kierowania się nie zmienia: zmienia się tylko to, które poświadczenia są używane w chwili wykonania.
Kompromisem jest uczciwość: ToRun nie może zagwarantować, że najtańszy model będzie najmądrzejszy do twojego zadania. Ranking jest jawny — widzisz, co wybrano i dlaczego, i możesz to nadpisać. Ta przejrzystość jest celem. Każde żądanie zapisuje wpis rozliczeniowy z użytym modelem, jednostką cenową aktywną przy wykonaniu i rozbiciem kosztu. Możesz zbadać dowolne wywołanie miesiące później, nawet po zmianie stawek dostawcy, bo migawka jest zamrożona w chwili, gdy żądanie się wykonało.
Jeden model, który robi wszystko, to wygodna fikcja. Naprawdę chcesz platformy, która znajdzie właściwy model do każdego zadania i uczyni ten wybór czytelnym.