La plupart des produits d'IA échouent sur une dimension qui n'a rien à voir avec la qualité du modèle. Ils échouent sur l'honnêteté — non pas au sens du mensonge ouvert, mais par des voies plus discrètes : dissimuler ce que coûte un appel, affirmer des absurdités avec assurance et sans nuance, laisser disparaître un état que l'utilisateur ne peut pas récupérer, et ne jamais apprendre des frictions qu'ils causent. Ces échecs sont des choix de conception, même quand ils ressemblent à des oublis.
Voici le cadre en cinq motifs que nous utilisons en interne chez ToRun pour évaluer chaque surface que nous construisons. Nous ne prétendons pas toujours le franchir. Nous prétendons que ce sont les bonnes questions.
Transparence : montrer l'état réel et le coût réel
Le motif malhonnête classique, c'est un vague « des crédits ont été consommés ». Une facturation transparente signifie que l'utilisateur peut consulter n'importe quel appel passé et reconstituer exactement ce qui a été facturé et pourquoi — fournisseur, modèle, modalité, unités consommées, taux au moment de l'exécution, conversion de devise le cas échéant, et marge de la plateforme. S'il manque l'un de ces champs, ou s'il est estimé après coup, la facture est une fiction.
Un échec de transparence plus subtil consiste à masquer le choix du modèle. Si un produit rétrograde silencieusement votre requête vers un modèle moins cher parce que vous avez atteint une limite souple, vous obtenez peut-être une moins bonne réponse sans jamais le savoir. La démarche honnête consiste à dire quel modèle a tourné, pourquoi il a été choisi et quelles étaient les alternatives. La décision d'acheminement devrait être inspectable, pas une boîte noire.
La transparence vaut aussi pour l'état. Si une tâche de fond tourne pour vous, l'interface devrait le dire et vous donner un moyen de l'arrêter. Les indicateurs « traitement en cours » qu'on ne peut pas annuler sont de petits mensonges.
Réversibilité : laisser annuler
L'irréversibilité est l'échec d'interface le plus sous-estimé dans les produits d'IA. Vous demandez à un flux d'envoyer un courriel ou de publier dans un canal, il part immédiatement, et le seul recours est un message d'excuse rédigé à la main. Aucune étape intermédiaire. Aucune confirmation quand l'enjeu est élevé. Aucune annulation.
Le motif de réversibilité exige que les produits distinguent les opérations de lecture et d'écriture, montrent des étapes de confirmation pour les actions à conséquence et conservent l'état assez longtemps pour que les erreurs soient repérables. Pour le contenu généré par IA, cela signifie que les brouillons existent avant publication, que les artefacts générés sont récupérables après suppression et que les sessions de chat peuvent être exportées ou dupliquées avant d'être perdues.
La réversibilité s'applique aussi à la configuration. Si modifier un réglage a des effets en aval — par exemple changer le modèle par défaut de toutes les sessions futures — le produit devrait dire ce qui va changer avant que cela ne change, pas après.
Sollicitude anticipée : prévenir avant le dommage, pas après
Un produit honnête dit « ce message va consommer une part importante de votre solde » avant l'appel, pas dans un reçu après coup. Il dit « cette étape de flux n'a pas de gestion d'erreur ; si l'outil en amont échoue, l'exécution s'arrêtera en silence » pendant que vous la construisez, pas lors d'un incident à deux heures du matin.
La sollicitude anticipée signifie que le produit modélise ce qui pourrait mal tourner du point de vue de l'utilisateur et l'expose au point de décision. C'est plus difficile qu'il n'y paraît, car cela exige que le produit comprenne l'intention et pas seulement qu'il exécute des ordres. Quelqu'un qui demande une génération par lots de 200 images veut probablement connaître le coût estimé d'avance, même sans le demander explicitement.
Le schéma d'échec ici, c'est l'optimisation pour la conversion — supprimer les avertissements de coût parce qu'ils provoquent l'hésitation. À court terme, cela peut augmenter l'activation. À long terme, cela apprend aux gens à ne pas vous faire confiance.
Honnêteté épistémique : dire ce qu'on ne sait pas
Les modèles d'IA hallucinent. Toute équipe qui construit des produits d'IA le sait. La réponse de conception malhonnête consiste à présenter les sorties du modèle avec une confiance uniforme et à laisser l'utilisateur découvrir le problème plus tard. La réponse honnête consiste à construire des voies explicites de signalement de l'incertitude.
Cela veut dire : quand un modèle cite des sources, les citations doivent être réelles et cliquables. Quand un modèle dit « d'après ma date de coupure d'entraînement », cette nuance doit rester visible dans l'interface et ne pas être supprimée pour un texte plus net. Quand des réponses avec récupération retombent sur la connaissance paramétrique parce qu'aucun passage pertinent n'a été trouvé, la réponse devrait le dire au lieu de présenter la réponse paramétrique comme ancrée.
L'honnêteté épistémique s'étend au produit lui-même. « Cette fonction est expérimentale » n'est pas un avertissement à cacher — c'est l'information nécessaire pour calibrer sa confiance. S'il existe un score de confiance et qu'il est faible, montrez-le. Si le pipeline d'acheminement a bifurqué vers un modèle secondaire parce que le principal était indisponible, dites-le dans les métadonnées de l'appel.
Boucle d'apprentissage : refermer le circuit de retour
L'échec d'interface le plus insidieux, c'est un produit qui ne s'améliore jamais à vous servir parce qu'il n'observe jamais où il vous a frustré. Cliquer quatre fois avec rage sur un bouton qui semble désactivé mais ne l'est pas est un signal. Abandonner régulièrement une génération à mi-parcours est un signal. Écrire la même correction après chaque réponse est un signal.
Une plateforme honnête capte ces signaux de façon exposée, s'en sert pour améliorer l'acheminement et les valeurs par défaut, et montre ce qu'elle a appris. Pas « nous utilisons vos données pour améliorer le produit » en note de bas de page des conditions d'utilisation — mais un retour visible : « nous avons remarqué que sur les tâches de code vous passez souvent du modèle choisi automatiquement à un modèle précis ; voulez-vous en faire votre défaut ? »
La boucle d'apprentissage inclut aussi d'admettre quand la plateforme s'est trompée. Si un modèle a produit une réponse factuellement fausse que l'utilisateur a corrigée, cette correction vaut plus que mille pouces levés. La traiter ainsi est un acte d'honnêteté envers l'utilisateur et envers le propre étalonnage du produit.
La barre
Aucun de ces cinq motifs n'est techniquement difficile à mettre en œuvre. Le difficile est de les prioriser, car ils font parfois baisser les indicateurs d'engagement à court terme. Qui voit des avertissements de coût hésite. Qui voit des avis d'incertitude fait moins confiance à des réponses isolées. Qui peut annuler est moins captif.
Le pari de la conception honnête, c'est que ces frictions bâtissent une confiance durable, et que la confiance durable est la seule fondation sur laquelle un produit peut tenir dans une catégorie aussi lourde de conséquences que l'IA. Les plateformes qui sautent la barre d'honnêteté ne bâtissent pas des relations — elles gèrent une extraction lente. La différence se voit dans l'attrition, le volume de support et le type de bouche-à-oreille qui compte vraiment.
Nous évaluons chaque surface de ToRun contre ces cinq motifs avant de la livrer. Nous les manquons quand même. Quand cela arrive, la piste d'audit est assez exposée pour qu'on puisse nous le dire.