Die Einzelmodell-Falle
Jeder große KI-Anbieter möchte, dass du glaubst, sein Spitzenmodell sei die richtige Antwort auf jede Frage. Dieser Glaube ist für ihn kommerziell bequem und für dich technisch falsch.
Ein Modell, das in juristischem Schließen mit langem Kontext glänzt, ist nicht das richtige, um eine Bildunterschrift aus zehn Wörtern zu erzeugen. Ein Modell mit modernstem Sehvermögen ist überdimensioniert — und womöglich zu teuer — für einen Stapeljob, der strukturiertes JSON umformatiert. Ein Modell, dessen Preis auf Durchsatz optimiert ist, kann die denkbar schlechteste Wahl sein, wenn du eine Antwort in zwei Sekunden brauchst.
Wenn du auf einem einzigen Modell baust, wählst du nicht das beste Werkzeug. Du wählst das beste verfügbare Werkzeug innerhalb einer künstlichen Beschränkung. Mit der Zeit summiert sich diese Beschränkung: Du gibst für einfache Aufgaben zu viel aus, lieferst bei komplexen zu wenig, und wenn dieser Anbieter einen Ausfall oder eine Preiserhöhung hat, steht dein ganzes Produkt.
Fähigkeiten, nicht Namen
Die brauchbare Abstraktion ist nicht „welches Modell“, sondern „welche Fähigkeiten braucht diese Anfrage“. Diese Frage hat eine präzise Antwort.
Eine Chat-Nachricht mit hochgeladenem Screenshot braucht Sehen. Ein Workflow-Schritt, der eine externe API aufruft, braucht Werkzeuge. Ein Coding-Assistent, der seine eigene Ausgabe prüfen soll, braucht Codeausführung. Eine nächtliche Zusammenfassungsstrecke, die nicht schnell sein muss, kann Batch-Preise nutzen; ein Assistent im Produkt, auf den der Nutzer wartet, kann das nicht.
Zählst du zuerst die Fähigkeitsanforderungen auf, wird die Modellauswahl zu einem Filter-und-Sortier-Problem. Bei einer geforderten Menge — sagen wir Text, Sehen und strukturierte Ausgabe — findest du jedes Modell, das alle drei unterstützt, und sortierst dann nach Qualität und Preis für den aktuellen Anfragekontext. Diese Sortierung kann sich von Anfrage zu Anfrage ändern, je nachdem, was der Nutzer tut und wie es um seine Mittel steht.
Genau das tut die Routing-Pipeline von ToRun. Der Modus (Chat, Code, Bild, Recherche und andere) bildet auf einen Fähigkeitssatz ab. Der Fähigkeitssatz filtert den Modellkatalog. Preis- und Qualitätsrang wählen den Sieger. Das Ergebnis: Du kannst DeepSeek für strukturierte Extraktion in großer Menge nutzen, Claude oder Modelle der GPT-4-Klasse für differenziertes Schließen, Google Gemini für Dokumentarbeit mit großem Kontext und ein spezialisiertes Bildmodell für Generierung — alles auf derselben Produktoberfläche, ohne selbst Verteilungslogik zu schreiben.
Fallback ist kein Nice-to-have
Anbieterausfälle sind keine seltenen Randfälle. Sie passieren branchenweit mehrmals im Monat. Hat dein Produkt eine Abhängigkeit von einem Anbieter und dessen API schwächelt, schwächelt dein Produkt mit.
Eine Fallback-Kette ist das betriebliche Minimum: Gibt das primäre Modell einer Anfrage einen vorübergehenden Fehler zurück, versucht die Plattform es beim nächstbesten geeigneten Modell. Das setzt voraus, dass die Routing-Schicht bereits weiß, welche Modelle geeignet sind — genau das liefert fähigkeitsorientiertes Routing.
Fallback hat noch einen weniger offensichtlichen Vorteil: Es hält dein Abrechnungsverhalten vorhersagbar. Liegt das Erstwahl-Modell vorübergehend über einer Nutzungsgrenze, hält ein Ausweichen auf das nächste geeignete Modell die Kosten im Rahmen, ohne dem Nutzer einen Fehler zu zeigen.
Das Fazit für die Praxis
Wenn du KI-Plattformen bewertest, stell zwei Fragen: Wie wählt sie für jede Anfrage ein Modell, und was passiert, wenn dieses Modell nicht verfügbar oder zu teuer ist?
Lautet die Antwort auf eine der beiden „sie nimmt immer Modell X“, ist das ein Architekturgeruch. Die heute verfügbaren Modelle sind nicht die besten Modelle, die es in sechs Monaten geben wird. Neue Anbieter treten auf. Preise verschieben sich. Fähigkeitsgrenzen verändern sich. Eine Architektur, die Modellauswahl als Routing-Problem behandelt — nicht als Konfigurationsentscheidung — altert besser, kostet über die Zeit weniger und degradiert unter Druck eleganter.
Ein Modell ist ein Ausgangspunkt. Eine Routing-Schicht ist das eigentliche Fundament.