La mayoría de los productos de IA fracasan en una dimensión que nada tiene que ver con la calidad del modelo. Fracasan en honestidad — no en el sentido de mentir abiertamente, sino en las formas más silenciosas: ocultar lo que cuesta una llamada, afirmar tonterías con seguridad y sin matices, dejar que desaparezca un estado que quien usa el sistema no puede recuperar y no aprender nunca de la fricción que causan. Esos fallos son decisiones de diseño, aunque parezcan descuidos.
A continuación va el marco de cinco patrones que usamos internamente en ToRun para evaluar cada superficie que construimos. No afirmamos superarlo siempre. Afirmamos que son las preguntas correctas.
Transparencia: mostrar el estado real y el coste real
El patrón deshonesto clásico es un vago «se han consumido algunos créditos». La facturación transparente significa que quien usa el sistema puede mirar cualquier llamada pasada y reconstruir exactamente qué se cobró y por qué — proveedor, modelo, modalidad, unidades consumidas, tarifa en el momento de la ejecución, conversión de moneda si aplica y el margen de la plataforma. Si falta cualquiera de esos campos, o se estima después del hecho, la factura es ficción.
Un fallo de transparencia más sutil es ocultar la elección de modelo. Si un producto degrada en silencio tu petición a un modelo más barato porque alcanzaste un límite blando, quizá recibas una respuesta peor sin enterarte nunca. Lo honesto es decir qué modelo corrió, por qué se eligió y cuáles eran las alternativas. La decisión de enrutado debería ser inspeccionable, no una caja negra.
La transparencia aplica también al estado. Si hay un trabajo en segundo plano corriendo para ti, la interfaz debería decirlo y darte una forma de detenerlo. Los indicadores de «procesando» que no se pueden cancelar son pequeñas mentiras.
Reversibilidad: dejar deshacer
La irreversibilidad es el fallo de interfaz más infravalorado en productos de IA. Le pides a un flujo que envíe un correo o publique en un canal, se dispara al instante, y la única forma de recuperarte es un mensaje de disculpa escrito a mano. Sin paso intermedio. Sin confirmación cuando hay mucho en juego. Sin deshacer.
El patrón de reversibilidad exige que los productos distingan entre operaciones de lectura y de escritura, muestren pasos de confirmación para acciones con consecuencias y conserven el estado el tiempo suficiente para que los errores se puedan detectar. Para contenido generado por IA, eso significa que los borradores existen antes de publicar, que los artefactos generados se pueden recuperar tras borrarlos y que las sesiones de chat se pueden exportar o bifurcar antes de perderlas.
La reversibilidad aplica también a la configuración. Si cambiar un ajuste tiene efectos posteriores — por ejemplo, cambiar el modelo por defecto de todas las sesiones futuras — el producto debería decir qué va a cambiar antes de que cambie, no después.
Cuidado anticipado: advertir antes del daño, no después
Un producto honesto dice «este mensaje va a consumir una parte importante de tu saldo» antes de la llamada, no en un recibo posterior. Dice «este paso del flujo no tiene manejo de errores; si la herramienta previa falla, la ejecución se detendrá en silencio» mientras lo construyes, no cuando hay un incidente a las dos de la madrugada.
Cuidado anticipado significa que el producto modela lo que podría salir mal desde el punto de vista de quien lo usa y lo expone en el punto de decisión. Es más difícil de lo que parece, porque exige que el producto entienda la intención y no solo ejecute órdenes. Alguien que pide una generación por lotes de 200 imágenes probablemente quiere conocer el coste estimado antes, incluso sin pedirlo explícitamente.
El patrón de fallo aquí es optimizar para la conversión — suprimir advertencias de coste porque provocan dudas. A corto plazo puede subir la activación. A largo plazo enseña a la gente a no confiar en ti.
Honestidad epistémica: decir lo que no sabes
Los modelos de IA alucinan. Todo equipo que construye productos de IA lo sabe. La respuesta de diseño deshonesta es presentar las salidas del modelo con una confianza uniforme y dejar que quien lo usa descubra el problema más tarde. La respuesta honesta es construir vías explícitas de señalización de incertidumbre.
Eso significa: cuando un modelo cita fuentes, las citas deben ser reales y enlazables. Cuando un modelo dice «según mi corte de entrenamiento», ese matiz debe seguir visible en la interfaz y no eliminarse para que el texto quede más limpio. Cuando las respuestas con recuperación caen de vuelta al conocimiento paramétrico porque no se encontró ningún fragmento relevante, la respuesta debería decirlo en lugar de presentar la respuesta paramétrica como si estuviera fundamentada.
La honestidad epistémica se extiende al propio producto. «Esta función es experimental» no es un aviso que esconder — es la información que hace falta para calibrar su confianza. Si existe una puntuación de confianza y es baja, muéstrala. Si la tubería de enrutado se desvió a un modelo secundario porque el principal no estaba disponible, dilo en los metadatos de la llamada.
Bucle de aprendizaje: cerrar el circuito de retroalimentación
El fallo de interfaz más insidioso es un producto que nunca mejora en servirte porque nunca observa dónde te frustró. Pulsar cuatro veces con rabia un botón que parece deshabilitado pero no lo está es una señal. Abandonar sistemáticamente una generación a mitad de camino es una señal. Escribir la misma corrección después de cada respuesta es una señal.
Una plataforma honesta captura esas señales de forma expuesta, las usa para mejorar el enrutado y los valores por defecto, y muestra lo que aprendió. No «usamos tus datos para mejorar el producto» en una nota al pie de los términos de servicio — sino una retroalimentación visible: «hemos notado que en tareas de código sueles cambiar del modelo elegido automáticamente a uno concreto; ¿lo ponemos por defecto?».
El bucle de aprendizaje incluye también reconocer cuando la plataforma se equivocó. Si un modelo produjo una respuesta factualmente incorrecta que el usuario corrigió, esa corrección vale más que mil señales de pulgar arriba. Tratarla así es un acto de honestidad hacia quien usa el sistema y hacia la propia calibración del producto.
El listón
Ninguno de estos cinco patrones es técnicamente difícil de implementar. Lo difícil es priorizarlos, porque a veces reducen métricas de interacción a corto plazo. Quien ve advertencias de coste duda. Quien ve avisos de incertidumbre confía menos en respuestas concretas. Quien puede deshacer está menos atrapado.
La apuesta del diseño honesto es que esas fricciones construyen confianza duradera, y que la confianza duradera es el único cimiento sobre el que un producto puede sostenerse en una categoría tan consecuente como la IA. Las plataformas que se saltan el listón de honestidad no están construyendo relaciones — están gestionando una extracción lenta. La diferencia se nota en la rotación, en el volumen de soporte y en el tipo de recomendación boca a boca que de verdad suma.
Evaluamos cada superficie de ToRun contra estos cinco patrones antes de lanzarla. Aun así fallamos. Cuando eso pasa, el rastro de auditoría está lo bastante expuesto como para que la gente pueda decírnoslo.