Il problema dello «usa GPT-4 e basta»
La maggior parte delle piattaforme di IA prende una decisione silenziosa al posto tuo: sceglie un modello che le piace, ci collega tutto e va avanti. Funziona finché non funziona più — finché il modello non va giù, finché un concorrente non pubblica qualcosa di migliore per un compito specifico, finché non vuoi portare la tua chiave API e tenere i costi sul tuo account, finché non ti serve generare immagini e il modello predefinito non sa farlo.
Il rimedio abituale è un menu a tendina. Scegli un modello, usalo ovunque, arrangiati con i compromessi. Non è instradamento, è delega. ToRun fa qualcosa di strutturalmente diverso.
La pipeline che mette le capacità al primo posto
Ogni richiesta in ToRun attraversa quattro fasi prima di toccare un modello.
1. La modalità identifica la superficie di prodotto. Quando apri una sessione di Chat o avvii un compito di Ricerca, stai scegliendo una Modalità. La modalità non è solo un'etichetta di interfaccia: porta con sé un insieme definito di capacità richieste e opzionali. Un compito di Ricerca richiede strumenti (ricerca web), contesto lungo e output strutturato. Una sessione di chat di base richiede solo generazione di testo per impostazione predefinita.
2. L'insieme di capacità diventa un filtro. ToRun mantiene un catalogo di modelli di molti fornitori — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral e altri. Ogni voce porta l'unione delle capacità effettivamente supportate: visione, strumenti, esecuzione di codice, generazione di immagini, audio in ingresso, audio in uscita, generazione video, embedding, riordinamento, streaming in tempo reale, ragionamento e altro. L'insieme del passo uno viene confrontato con questo catalogo. I modelli che non soddisfano tutte le capacità richieste vengono scartati.
3. La classifica prezzo-qualità sceglie il vincitore. Tra i modelli che superano il filtro, ToRun ordina in base a ciò che la richiesta è realmente. Una domanda breve e semplice viene ordinata sul costo, così ottieni una risposta rapida ed economica. Una più lunga o più difficile viene ordinata sulla capacità per unità di costo, con una soglia minima di qualità. Un turno che porta un'immagine viene ordinato su quanto bene un modello vede, non sul ragionamento per euro. Gli esecutori di flussi passano alla priorità qualità, perché una pipeline automatizzata che gira senza supervisione dovrebbe puntare al risultato migliore, non alla scorciatoia più economica. Gli utenti BYOK entrano nel prezzo in modo diverso, perché la richiesta passa dal loro account fornitore.
4. Le catene di ripiego assorbono i guasti del fornitore. Se il modello scelto restituisce un errore di servizio, la stessa pipeline viene rieseguita escludendo quel modello. Risponde il secondo miglior modello capace. Non vedi alcun errore, a meno che tutti i candidati validi non siano fuori uso.
Un esempio concreto: visione più strumenti
Supponiamo che incolli una schermata e chieda a ToRun di cercare sul web il contesto di ciò che mostra. Quella richiesta tocca due capacità insieme: visione (il modello deve accettare un'immagine in ingresso) e strumenti (il modello deve poter invocare una funzione di ricerca web).
Con un approccio a modello singolo sei bloccato: la tua piattaforma supporta quella combinazione oppure no. Con l'instradamento per capacità, ToRun incrocia entrambi i requisiti. Sopravvivono al filtro solo i modelli con supporto confermato sia della visione SIA della chiamata di strumenti. Da quella lista breve, la classifica prezzo-qualità sceglie il migliore per la tua modalità corrente. Se il candidato principale è limitato o giù, il successivo gestisce la richiesta senza che tu faccia nulla.
Questo conta in pratica: l'insieme dei modelli dotati di visione è cambiato molto nell'ultimo anno e continuerà a cambiare. L'instradamento per capacità fa sì che ToRun consideri automaticamente i modelli appena aggiunti non appena vengono catalogati, senza alcun aggiornamento da parte tua.
Perché questo batte il vincolo
Una piattaforma a modello singolo ha una sola strategia di ripiego: aspettare che il fornitore ripari il guasto. Una piattaforma che mette le capacità al primo posto ha un catalogo. Quando OpenAI ha un incidente, le richieste che Anthropic o Gemini possono servire vengono servite lì. Quando un nuovo modello Mistral offre un miglior rapporto prezzo-qualità sull'output strutturato, entra nella classifica delle modalità pertinenti senza migrazione forzata.
La stessa logica vale per BYOK. Quando aggiungi la tua chiave API per un fornitore, quella credenziale resta confinata all'interno del livello di instradamento. Le richieste che corrispondono ai modelli capaci di quel fornitore possono attingere alla tua chiave invece che all'account ToRun, spostando il costo sulla tua relazione con il fornitore al livello di fatturazione appropriato. La pipeline di instradamento non cambia: cambia solo quale credenziale viene usata al momento dell'esecuzione.
Il compromesso è l'onestà: ToRun non può garantire che il modello più economico sia il più intelligente per il tuo compito. La classifica è esplicita — puoi vedere cosa è stato scelto e perché, e puoi sovrascrivere. Quella trasparenza è l'obiettivo. Ogni richiesta scrive un record di fatturazione con il modello usato, l'unità di prezzo attiva all'esecuzione e la ripartizione del costo. Puoi verificare qualsiasi chiamata mesi dopo, anche dopo cambi di tariffa del fornitore, perché l'istantanea è congelata al momento in cui la richiesta è stata eseguita.
Un modello che fa tutto è una comoda finzione. Ciò che vuoi davvero è una piattaforma che trovi il modello giusto per ogni compito e renda quella scelta leggibile.