Yearly Pay yearly and get 2 months free on every paid plan. See plans
登录 免费开始

每个人工智能产品都该越过的诚实之杆

多数人工智能产品失败在一个与模型质量无关的维度上。它们失败在诚实——不是公然撒谎那种,而是更安静的路数:藏起一次调用的成本、以笃定的口吻不加保留地断言荒谬之事、任由无法找回的状态消失、以及从不从自己造成的摩擦中学习。这些失败即便看起来像疏忽,也都是设计上的决定。 下面是我们在 ToRun 内部用来衡量所建每一个界面的五种范式框架。我们不声称总能越过它。我们声称这些是正确的问题。 透明:展示真实的状态与真实的成本 经典的不诚实范式,是一句…

多数人工智能产品失败在一个与模型质量无关的维度上。它们失败在诚实——不是公然撒谎那种,而是更安静的路数:藏起一次调用的成本、以笃定的口吻不加保留地断言荒谬之事、任由无法找回的状态消失、以及从不从自己造成的摩擦中学习。这些失败即便看起来像疏忽,也都是设计上的决定。

下面是我们在 ToRun 内部用来衡量所建每一个界面的五种范式框架。我们不声称总能越过它。我们声称这些是正确的问题。

透明:展示真实的状态与真实的成本

经典的不诚实范式,是一句含糊的「消耗了一些额度」。透明计费意味着可以回看任何一次过往调用,并精确重建出收了什么、为什么收——供应商、模型、形态、消耗的单位、执行时刻的价格、必要时的货币折算,以及平台的加成。若这些字段缺了任何一项,或是事后估的,那份账单就是虚构。

更细微的透明失败,是把模型选择藏起来。若某产品因为你撞上一道软性上限,就悄悄把你的请求降到更便宜的模型,你可能拿到更差的回答却始终不知情。诚实的做法是说明哪个模型跑了、为什么被选中、备选是什么。分流的决定应当可查看,而不是黑箱。

透明也适用于状态。若有后台任务在为你运行,界面应当说明,并给你一个停止它的办法。无法取消的「处理中」提示,是小小的谎言。

可逆:让人能够撤销

不可逆是人工智能产品中最被低估的交互失败。你让一条工作流发一封邮件或在频道里发帖,它立刻就发了出去,而唯一的救生索是一句手写的道歉。没有中间步骤,没有事关重大时的确认,没有撤销。

可逆这一范式要求产品区分读与写的操作,为有后果的动作展示确认步骤,并把状态保留足够久,好让错误来得及被发现。对人工智能生成的内容而言,这意味着草稿在发布之前存在、生成的产物在删除后可恢复、对话会话在丢失之前可以导出或分叉。

可逆同样适用于配置。若改动一项设置会在后面产生影响——比如为今后所有会话更换默认模型——产品应当在改变之前说明将要改变什么,而不是在之后。

预先的关照:在损害之前提醒,而不是之后

诚实的产品会在调用之前说「这条消息会用掉你余额中相当一部分」,而不是在事后的收据里。它会在你搭建时说「这个工作流步骤没有错误处理;若上一个工具失败,运行会悄悄停住」,而不是在凌晨两点的故障之中。

预先的关照,意味着产品从使用者的视角去设想哪里可能出错,并在决策的当口把它摆出来。这比听上去难,因为它要求产品理解意图,而不只是执行命令。要求批量生成两百张图像的人,多半在事先就想知道估算成本,哪怕没有明确开口问。

这里的失败范式是为转化率调优——因为成本提醒会引起犹豫就把它压下去。短期或许能抬高开通率。长期则是在教人不要信任你。

认知上的诚实:说出自己不知道的

人工智能模型会编造。每一个做人工智能产品的团队都知道。不诚实的设计回应,是把模型输出以齐一的笃定端出去,让问题稍后被发现。诚实的回应,是建起明确的不确定性提示通道。

这意味着:模型引用来源时,那些引用必须真实且可打开。模型说「据我训练截止时」时,这层保留必须在界面上留着,不能为了文字更整洁而剪掉。当带检索的回答因为没找到相关段落而退回到模型内部知识时,回答应当如实说明,而不是把那份内部作答当作有据可依端出来。

认知上的诚实也延及产品本身。「此功能处于试验阶段」不是要藏起来的告示——它是调校信任所需的信息。若有置信分数且分数偏低,把它显示出来。若分流管线因主模型不可用而绕到备选模型,就在调用的元数据里说明。

学习回路:把反馈闭合

最阴险的交互失败,是一个永远不会更懂得服务你的产品,因为它从不观察自己在哪里惹恼了你。对着一个看着像禁用其实没禁用的按钮气恼地点四下,是信号。习惯性地在生成到一半时放弃,是信号。每次回答之后都写同一句更正,是信号。

诚实的平台会敞开地捕捉这些信号,用它们改进分流与默认值,并展示自己学到了什么。不是服务条款脚注里的「我们使用你的数据以改进产品」,而是看得见的反馈:「我们注意到你在代码任务上常从自动选择的模型切到某个特定模型;要把它设为你的默认吗?」

学习回路也包括承认平台错了。若模型给出了事实错误的回答而有人纠正了它,这份纠正比一千个点赞更有价值。这样对待它,既是对那个人的诚实,也是对产品自身校准的诚实。

那道杆

这五种范式在技术上没有一项难做。难的是把它们排在前面,因为它们有时会拉低短期的互动指标。看到成本提醒的人会犹豫。看到不确定性提示的人会更少信任单条回答。能够撤销的人更不受束缚。

诚实设计的赌注是:这些摩擦筑起持久的信任,而在人工智能这样后果深远的门类里,持久的信任是产品唯一能立足的地基。跳过诚实之杆的平台并不是在建立关系——它们在经营一场缓慢的攫取。这份差别显现在流失里、在客服的工单量里,也在那种真正会累积的口碑里。

我们在发布之前,会用这五种范式衡量 ToRun 的每一个界面。我们仍会错过。真出了这种事,审计轨迹也敞开得足够,好让人能来告诉我们。

分享 LinkedIn X 电子邮件
用你自己的工作试试每条回复都会显示它的费用。从免费方案开始。 免费开始
Get product updates, not noise New models, features, and changelog highlights - a short email when something actually ships.
订阅即表示你同意接收 ToRun 的产品更新邮件。你可以随时退订。 隐私政策