La trappola del modello singolo
Ogni grande fornitore di IA vuole farti credere che il suo modello di punta sia la risposta giusta a qualsiasi domanda. Quella convinzione è commercialmente comoda per lui e tecnicamente falsa per te.
Un modello che eccelle nel ragionamento giuridico a contesto lungo non è quello giusto per produrre una didascalia di dieci parole. Un modello con visione allo stato dell'arte è sovradimensionato — e probabilmente troppo costoso — per un lavoro a lotti che riformatta JSON strutturato. Un modello il cui prezzo è ottimizzato per la portata può essere la scelta peggiore possibile quando ti serve una risposta in due secondi.
Quando costruisci su un singolo modello, non stai scegliendo lo strumento migliore. Stai scegliendo il miglior strumento disponibile dentro un vincolo artificiale. Col tempo quel vincolo si accumula: paghi troppo per i compiti semplici, resti sotto su quelli complessi, e quando quel fornitore ha un guasto o un aumento di prezzo, tutto il tuo prodotto si ferma.
Capacità, non nomi
L'astrazione utile non è «quale modello», ma «di quali capacità ha bisogno questa richiesta». Quella domanda ha una risposta precisa.
Un messaggio di chat con una schermata allegata ha bisogno di visione. Un passo di flusso che chiama un'API esterna ha bisogno di strumenti. Un assistente di codice che deve verificare il proprio output ha bisogno di esecuzione di codice. Una pipeline notturna di riassunto che non deve essere veloce può usare prezzi a lotti; un assistente dentro il prodotto con l'utente che aspetta, no.
Quando elenchi prima i requisiti di capacità, la selezione del modello diventa un problema di filtro e ordinamento. Dato un insieme richiesto — poniamo testo, visione e output strutturato — trovi tutti i modelli che supportano tutti e tre, poi li ordini per qualità e prezzo nel contesto corrente della richiesta. Quell'ordinamento può cambiare da richiesta a richiesta a seconda di cosa fa chi la invia e di come stanno i suoi fondi.
È esattamente ciò che fa la pipeline di instradamento di ToRun. La modalità (Chat, Codice, Immagine, Ricerca e altre) corrisponde a un insieme di capacità. L'insieme filtra il catalogo dei modelli. La classifica prezzo-qualità sceglie il vincitore. Il risultato è che puoi usare DeepSeek per estrazione strutturata ad alto volume, Claude o modelli di classe GPT-4 per ragionamento sfumato, Google Gemini per lavoro documentale a contesto lungo e un modello di immagine specializzato per la generazione — tutto dalla stessa superficie di prodotto, senza scrivere tu la logica di smistamento.
Il ripiego non è un optional gradito
I guasti dei fornitori non sono casi rari. Accadono più volte al mese in tutto il settore. Se il tuo prodotto dipende da un singolo fornitore e la sua API si degrada, il tuo prodotto si degrada con essa.
Una catena di ripiego è il minimo operativo: quando il modello principale restituisce un errore transitorio per una richiesta, la piattaforma la riprova con il miglior modello idoneo successivo. Ciò presuppone che il livello di instradamento sappia già quali modelli sono idonei — che è precisamente ciò che l'instradamento per capacità fornisce.
Il ripiego ha un altro beneficio meno ovvio: mantiene prevedibile il tuo comportamento di fatturazione. Se il modello di prima scelta è temporaneamente oltre un limite d'uso, deviare al modello idoneo successivo tiene il costo nell'intervallo senza mostrare un errore a chi usa il sistema.
La conclusione pratica
Quando valuti piattaforme di IA, fai due domande: come sceglie un modello per ogni richiesta, e cosa succede quando quel modello non è disponibile o è troppo caro?
Se la risposta a una delle due è «usa sempre il modello X», è un odore architetturale. I modelli disponibili oggi non sono i modelli migliori che esisteranno fra sei mesi. Compaiono nuovi fornitori. I prezzi si spostano. I confini delle capacità cambiano. Un'architettura che tratta la scelta del modello come un problema di instradamento — non come una decisione di configurazione — invecchia meglio, costa meno nel tempo e si degrada con più eleganza sotto pressione.
Un modello è un punto di partenza. Un livello di instradamento è la vera fondazione.