多数人工智能产品失败在一个与模型质量无关的维度上。它们失败在诚实——不是公然撒谎那种,而是更安静的路数:藏起一次调用的成本、以笃定的口吻不加保留地断言荒谬之事、任由无法找回的状态消失、以及从不从自己造成的摩擦中学习。这些失败即便看起来像疏忽,也都是设计上的决定。
下面是我们在 ToRun 内部用来衡量所建每一个界面的五种范式框架。我们不声称总能越过它。我们声称这些是正确的问题。
透明:展示真实的状态与真实的成本
经典的不诚实范式,是一句含糊的「消耗了一些额度」。透明计费意味着可以回看任何一次过往调用,并精确重建出收了什么、为什么收——供应商、模型、形态、消耗的单位、执行时刻的价格、必要时的货币折算,以及平台的加成。若这些字段缺了任何一项,或是事后估的,那份账单就是虚构。
更细微的透明失败,是把模型选择藏起来。若某产品因为你撞上一道软性上限,就悄悄把你的请求降到更便宜的模型,你可能拿到更差的回答却始终不知情。诚实的做法是说明哪个模型跑了、为什么被选中、备选是什么。分流的决定应当可查看,而不是黑箱。
透明也适用于状态。若有后台任务在为你运行,界面应当说明,并给你一个停止它的办法。无法取消的「处理中」提示,是小小的谎言。
可逆:让人能够撤销
不可逆是人工智能产品中最被低估的交互失败。你让一条工作流发一封邮件或在频道里发帖,它立刻就发了出去,而唯一的救生索是一句手写的道歉。没有中间步骤,没有事关重大时的确认,没有撤销。
可逆这一范式要求产品区分读与写的操作,为有后果的动作展示确认步骤,并把状态保留足够久,好让错误来得及被发现。对人工智能生成的内容而言,这意味着草稿在发布之前存在、生成的产物在删除后可恢复、对话会话在丢失之前可以导出或分叉。
可逆同样适用于配置。若改动一项设置会在后面产生影响——比如为今后所有会话更换默认模型——产品应当在改变之前说明将要改变什么,而不是在之后。
预先的关照:在损害之前提醒,而不是之后
诚实的产品会在调用之前说「这条消息会用掉你余额中相当一部分」,而不是在事后的收据里。它会在你搭建时说「这个工作流步骤没有错误处理;若上一个工具失败,运行会悄悄停住」,而不是在凌晨两点的故障之中。
预先的关照,意味着产品从使用者的视角去设想哪里可能出错,并在决策的当口把它摆出来。这比听上去难,因为它要求产品理解意图,而不只是执行命令。要求批量生成两百张图像的人,多半在事先就想知道估算成本,哪怕没有明确开口问。
这里的失败范式是为转化率调优——因为成本提醒会引起犹豫就把它压下去。短期或许能抬高开通率。长期则是在教人不要信任你。
认知上的诚实:说出自己不知道的
人工智能模型会编造。每一个做人工智能产品的团队都知道。不诚实的设计回应,是把模型输出以齐一的笃定端出去,让问题稍后被发现。诚实的回应,是建起明确的不确定性提示通道。
这意味着:模型引用来源时,那些引用必须真实且可打开。模型说「据我训练截止时」时,这层保留必须在界面上留着,不能为了文字更整洁而剪掉。当带检索的回答因为没找到相关段落而退回到模型内部知识时,回答应当如实说明,而不是把那份内部作答当作有据可依端出来。
认知上的诚实也延及产品本身。「此功能处于试验阶段」不是要藏起来的告示——它是调校信任所需的信息。若有置信分数且分数偏低,把它显示出来。若分流管线因主模型不可用而绕到备选模型,就在调用的元数据里说明。
学习回路:把反馈闭合
最阴险的交互失败,是一个永远不会更懂得服务你的产品,因为它从不观察自己在哪里惹恼了你。对着一个看着像禁用其实没禁用的按钮气恼地点四下,是信号。习惯性地在生成到一半时放弃,是信号。每次回答之后都写同一句更正,是信号。
诚实的平台会敞开地捕捉这些信号,用它们改进分流与默认值,并展示自己学到了什么。不是服务条款脚注里的「我们使用你的数据以改进产品」,而是看得见的反馈:「我们注意到你在代码任务上常从自动选择的模型切到某个特定模型;要把它设为你的默认吗?」
学习回路也包括承认平台错了。若模型给出了事实错误的回答而有人纠正了它,这份纠正比一千个点赞更有价值。这样对待它,既是对那个人的诚实,也是对产品自身校准的诚实。
那道杆
这五种范式在技术上没有一项难做。难的是把它们排在前面,因为它们有时会拉低短期的互动指标。看到成本提醒的人会犹豫。看到不确定性提示的人会更少信任单条回答。能够撤销的人更不受束缚。
诚实设计的赌注是:这些摩擦筑起持久的信任,而在人工智能这样后果深远的门类里,持久的信任是产品唯一能立足的地基。跳过诚实之杆的平台并不是在建立关系——它们在经营一场缓慢的攫取。这份差别显现在流失里、在客服的工单量里,也在那种真正会累积的口碑里。
我们在发布之前,会用这五种范式衡量 ToRun 的每一个界面。我们仍会错过。真出了这种事,审计轨迹也敞开得足够,好让人能来告诉我们。