Jemand fragte, wie und wann ein gängiges Antidepressivum einzunehmen sei, ob vor oder nach dem Essen, und was darin enthalten ist. Die Frage war auf Russisch. Die Oberfläche war auf Türkisch. Die Engine im Auto-Modus antwortete mit einer vorgefertigten Ablehnung — auf Englisch. Aufgefordert, auf Russisch zu antworten, lehnte sie erneut ab, diesmal auf Russisch. Eine Minute später wurde der Chat gelöscht. Jeder andere Assistent beantwortet diese Frage, und die Person hatte recht, dasselbe zu erwarten.
Eine gelöschte Unterhaltung, vier Mängel.
Information ist kein Rat
Wofür ein Medikament ist, wie es eingenommen wird, was es enthält, ob es rezeptpflichtig ist — das steht im Beipackzettel, öffentlich und dokumentiert. Der Systemprompt sagt das jetzt unmissverständlich: beantworten, einen Satz hinzufügen, der für die persönliche Entscheidung auf eine Fachperson verweist, und weiterhin ablehnen, was abgelehnt werden muss — Überdosierung, Selbstverletzung, Wege um ein Rezept herum. Das Erweitern dessen, was beantwortet wird, hat nicht erweitert, was erlaubt ist; es hat die Stille in der Mitte benannt, in der ein kleines Modell sich eine eigene Richtlinie ausgedacht hatte.
Eine Ablehnung ist eine Antwort
Die Regel, dass Antworten der Sprache der Nachricht folgen, saß weit vom Ende eines langen Prompts entfernt, und eine Ablehnungsvorlage war die Antwort, die sie am ehesten überspringen würde. Die Regel wird jetzt dort wiederholt, wo ein Modell zuletzt liest, und die Oberflächensprache ist nur ein Tiebreaker für eine nackte Zahl oder einen Link. Eine russische Frage auf einem türkischen Bildschirm wird auf Russisch beantwortet und, wenn nötig, auf Russisch abgelehnt.
Darunter lag eine tiefere Ursache. Der Teil des Servers, der eine Antwort streamt, läuft losgelöst von der Anfrage, und die Kultur der Anfrage folgte ihm dorthin nicht — sodass jeder gestreamte Turn in der eigenen Sprache des Servers lief, und die zwanzig-ungeraden Systemmeldungen, die ein Stream ausgeben kann, kamen ebenfalls darin heraus. Die Kultur wird jetzt zu Beginn erfasst und innerhalb des Runners erneut angewendet. Jeder streamende Client, im Web wie auf dem Handy, sendet seine Sprache jetzt ebenfalls mit der Anfrage — was drei von vieren zuvor nicht taten.
Eine leere Antwort ist ein Fehler mit einem besseren Statuscode
Eine Engine gab manchmal eine abgeschlossene Antwort mit nichts darin zurück. Die App las das als ein sauberes Ende des Turns und zeigte einen Platzhalter, der sagte, die Werkzeuge seien fertig. Das wird jetzt wie jeder andere Fehler vor dem ersten Token behandelt: Im Auto-Modus übernimmt eine Schwester-Engine den Turn; bei einer expliziten Wahl siehst du einen ehrlichen, lokalisierten Fehler. Die Engines, die das am häufigsten taten, verließen den Auto-Pool — derselbe Test, der früher im Sommer eine Modellklasse entfernte, angewendet auf dieselbe Evidenz.
Es gibt kein Später
"Ich schicke es in ein paar Minuten" ist etwas, das ein Mensch sagt. Ein Chat-Turn kann das nicht: Was jetzt nicht produziert wird, kommt nie an, und das Versprechen ist ein Fehler in einem höflichen Satz verkleidet. Antworten, die ein Später versprachen, werden so lange wiederholt, bis sie es im Turn liefern, in allen neunundzwanzig Sprachen, die die App spricht, und sowohl in der Assistenten-Blase als auch im Chat.
Keines davon ist ein Modell-Upgrade. Es ist die Verrohrung rund um das Modell, die dafür sorgt, dass die Versprechen eingehalten werden, die die Oberfläche bereits macht.