Alguien preguntó cómo y cuándo tomar un antidepresivo común, si antes o después de comer, y qué contiene. Preguntó en ruso. La interfaz estaba en turco. El motor en Auto respondió con un rechazo enlatado — en inglés. Al pedirle que respondiera en ruso, volvió a rechazar, esta vez en ruso. Un minuto después, el chat fue borrado. Cualquier otro asistente responde esa pregunta, y la persona tenía razón en esperar lo mismo.
Una conversación borrada, cuatro defectos.
La información no es un consejo
Para qué sirve un medicamento, cómo se toma, qué contiene, si necesita receta — eso es el prospecto, público y documentado. El prompt del sistema ahora lo dice con claridad: respóndelo, añade una línea que remita a un profesional para la decisión personal, y sigue rechazando lo que debe rechazarse — sobredosis, autolesión, formas de evadir una receta. Ampliar lo que se responde no amplió lo que está permitido; nombró el silencio en el medio donde un modelo pequeño se había inventado su propia política.
Un rechazo es una respuesta
La regla de que las respuestas siguen el idioma del mensaje estaba lejos del final de un prompt largo, y una plantilla de rechazo era la respuesta con más probabilidad de saltársela. La regla ahora se repite donde un modelo lee al final, y el idioma de la interfaz es solo un desempate para un número desnudo o un enlace. Una pregunta en ruso en una pantalla turca se responde en ruso, y se rechaza en ruso si llega el caso.
Había una causa más profunda debajo. La parte del servidor que transmite una respuesta se ejecuta separada de la solicitud, y la cultura de la solicitud no la seguía hasta ahí — así que cada turno transmitido se ejecutaba en el propio idioma del servidor, y los veintitantos mensajes de sistema que un flujo puede emitir también salían en él. La cultura ahora se captura al principio y se vuelve a aplicar dentro del ejecutor. Cada cliente que transmite, tanto en la web como en el teléfono, también envía ahora su idioma con la solicitud, algo que tres de los cuatro no hacían.
Una respuesta vacía es un fallo con un mejor código de estado
Un motor a veces devolvía una respuesta completada sin nada dentro. La app leía eso como un final de turno limpio y mostraba un marcador de posición que decía que las herramientas habían terminado. Ahora se trata como cualquier otro fallo antes del primer token: en Auto, un motor hermano toma el turno; en una elección explícita, ves un error honesto y localizado. Los motores que hacían esto con más frecuencia salieron del grupo de Auto — la misma prueba que retiró una clase de modelos a principios del verano, aplicada a la misma evidencia.
No hay un después
"Lo envío en unos minutos" es algo que dice una persona. Un turno de chat no puede: lo que no se produce ahora nunca llegará, y la promesa es un fallo disfrazado de frase educada. Las respuestas que prometían un después ahora se reintentan hasta que lo entregan en el turno, en los veintinueve idiomas que habla la app, y tanto en la burbuja del asistente como en el chat.
Nada de esto es una mejora de modelo. Es la fontanería alrededor del modelo, hecha para que cumpla las promesas que la interfaz ya hace.