عتبة الصدق التي ينبغي لكل منتج ذكاء اصطناعي أن يتجاوزها

تخفق أغلب منتجات الذكاء الاصطناعي في بُعد لا صلة له بجودة النموذج. تخفق في الصدق — لا بمعنى الكذب الصريح بل على الدروب الأهدأ: إخفاء كلفة النداء، والجزم بالهراء بثقة وبلا تحفّظ، وترك حالة تختفي لا تُستردّ، وعدم التعلّم قط من الاحتكاك الذي تولّده. وهذه الإخفاقات قرارات تصميم حتى حين تبدو سهوًا.

وفي ما يلي إطار الأنماط الخمسة الذي نستعمله داخل ToRun لتقويم كل سطح نبنيه. ولا ندّعي أننا نتجاوزه دائمًا. ندّعي أنها الأسئلة الصحيحة.

الشفافية: إظهار الحالة الحقيقية والكلفة الحقيقية

النمط غير الصادق الكلاسيكي عبارة ضبابية: «استُهلك بعض الرصيد». والفوترة الشفّافة تعني أن بالإمكان النظر في أي نداء سابق وإعادة بناء ما حُسب ولِمَ بالضبط — المزوّد، والنموذج، والنمط، والوحدات المستهلكة، والسعر لحظة التنفيذ، وتحويل العملة إن وُجد، وهامش المنصّة. فإن غاب أي من هذه الحقول أو قُدّر بعد وقوع الأمر، كانت الفاتورة اختلاقًا.

وثمّة إخفاق أدقّ في الشفافية هو إخفاء اختيار النموذج. فإن خفّض منتجٌ طلبَك في صمت إلى نموذج أرخص لأنك بلغت حدًّا ليّنًا، فقد تنال جوابًا أضعف ولا تدري به أبدًا. والصادق أن يُقال أي نموذج عمل، ولِمَ اختير، وما كانت البدائل. وينبغي أن يكون قرار التوجيه قابلًا للفحص لا صندوقًا أسود.

وتسري الشفافية على الحالة كذلك. فإن كانت مهمّة خلفية تعمل لأجلك، فينبغي للواجهة أن تقول ذلك وتمنحك سبيلًا لإيقافها. ومؤشّرات «قيد المعالجة» التي لا تُلغى أكاذيب صغيرة.

قابلية التراجع: أتِح للناس أن يعودوا

عدم قابلية التراجع أكثر إخفاقات الواجهة استهانةً في هذه المنتجات. تطلب من سير عمل أن يرسل بريدًا أو ينشر في قناة، فينطلق فورًا، ويكون خيط النجاة الوحيد اعتذارًا مكتوبًا باليد. لا خطوة وسيطة. ولا تأكيد حين تعلو المخاطر. ولا تراجع.

ونمط قابلية التراجع يقتضي أن تميّز المنتجات بين عمليات القراءة والكتابة، وأن تعرض خطوات تأكيد للأفعال ذات العواقب، وأن تُمسك الحالة مدّةً تكفي لالتقاط الأخطاء. ويعني ذلك في المحتوى المولَّد أن توجد المسوّدات قبل النشر، وأن تكون الأعمال المولّدة قابلة للاسترجاع بعد المحو، وأن تُصدَّر جلسات المحادثة أو تُفرَّع قبل أن تفقدها.

وتسري قابلية التراجع على الإعدادات أيضًا. فإن كان لتغيير إعداد أثر لاحق — كتبديل النموذج الافتراضي لكل الجلسات المقبلة — فينبغي للمنتج أن يقول ما الذي سيتغيّر قبل أن يتغيّر، لا بعده.

العناية الاستباقية: التحذير قبل الضرر لا بعده

المنتج الصادق يقول «ستستهلك هذه الرسالة جزءًا معتبرًا من رصيدك» قبل النداء لا في إيصال لاحق. ويقول «لا معالجة أخطاء في خطوة سير العمل هذه؛ فإن أخفقت الأداة السابقة توقّف الشوط في صمت» وأنت تبنيه، لا أثناء عطل في الثانية بعد منتصف الليل.

والعناية الاستباقية تعني أن ينمذج المنتج ما قد يعتلّ من وجهة نظر المستخدم ويعرضه عند نقطة القرار. وهذا أصعب ممّا يبدو، لأنه يقتضي أن يفهم المنتج القصد لا أن ينفّذ الأوامر فحسب. فمن يطلب توليد مئتي صورة دفعةً واحدة يرجّح أنه يريد الكلفة المقدّرة سلفًا، وإن لم يسأل صراحةً.

ونمط الإخفاق هنا هو الضبط على التحوّل — كبت تحذيرات الكلفة لأنها تسبّب التردّد. وقد يرفع ذلك التفعيل على المدى القصير. لكنه على المدى الطويل يعلّم الناس ألّا يثقوا بك.

الصدق المعرفي: قل ما لا تعرفه

النماذج تختلق. ويعرف ذلك كل فريق يبني هذه المنتجات. والجواب التصميمي غير الصادق أن تُقدَّم مخرجات النموذج بيقين موحّد وتُترك المشكلة لتُكتشف لاحقًا. أما الجواب الصادق فبناء مسارات صريحة للإشارة إلى عدم اليقين.

ومعنى ذلك: حين يذكر نموذج مصادر، وجب أن تكون تلك الإحالات حقيقية وقابلة للفتح. وحين يقول نموذج «بحسب حدّ تدريبي»، وجب أن يبقى ذلك التحفّظ ظاهرًا في الواجهة ولا يُقصّ من أجل نصّ أنظف. وحين ترتدّ الأجوبة ذات الاسترجاع إلى معرفة النموذج الداخلية لعدم العثور على مقطع ذي صلة، وجب أن يقول الجواب ذلك بدل أن يُقدَّم الجواب الداخلي وكأنه مؤسَّس.

ويمتدّ الصدق المعرفي إلى المنتج نفسه. فـ«هذه الميزة تجريبية» ليست تحذيرًا يُخبّأ — بل هي المعلومة اللازمة لضبط الثقة. فإن وُجدت درجة يقين وكانت منخفضة، فأظهرها. وإن انحرف مسار التوجيه إلى نموذج ثانوي لعدم إتاحة الأساسي، فقل ذلك في بيانات النداء الوصفية.

حلقة التعلّم: إغلاق دائرة التغذية الراجعة

أمكر إخفاقات الواجهة منتجٌ لا يصير أفضل في خدمتك أبدًا لأنه لا يلاحظ قط أين أضجرك. فالنقر أربع مرّات بغضب على زرّ يبدو معطّلًا وليس كذلك إشارة. وترك التوليد في منتصفه بانتظام إشارة. وكتابة التصحيح نفسه بعد كل جواب إشارة.

والمنصّة الصادقة تلتقط هذه الإشارات على المكشوف، وتستعملها لتحسين التوجيه والقيم الافتراضية، وتُظهر ما تعلّمته. لا عبارة «نستعمل بياناتك لتحسين المنتج» في حاشية الشروط — بل تغذية راجعة مرئية: «لاحظنا أنك في مهامّ الشيفرة كثيرًا ما تنتقل من النموذج المختار تلقائيًّا إلى نموذج بعينه؛ أنجعله افتراضيًّا لك؟»

وتشمل حلقة التعلّم الاعترافَ بأن المنصّة أخطأت. فإن أنتج نموذج جوابًا خاطئًا واقعيًّا وصحّحه أحد، فذلك التصحيح أثمن من ألف إعجاب. ومعاملته كذلك فعلُ صدق تجاه ذلك الشخص وتجاه معايرة المنتج نفسه.

تلك العتبة

ليس أيٌّ من هذه الأنماط الخمسة عسيرًا تقنيًّا. العسير أن تُقدَّم، لأنها تخفض أحيانًا مؤشّرات التفاعل قصيرة الأجل. فمن يرى تحذيرات الكلفة يتردّد. ومن يرى إشعارات عدم اليقين يثق أقلّ بالأجوبة المفردة. ومن يستطيع التراجع يكون أقلّ ارتباطًا.

ورهان التصميم الصادق أن هذا الاحتكاك يبني ثقة باقية، وأن الثقة الباقية هي الأساس الوحيد الذي يقف عليه منتج في مجال بهذا القدر من العواقب. والمنصّات التي تقفز فوق عتبة الصدق لا تبني علاقات — إنها تدير استخراجًا بطيئًا. ويظهر الفرق في المغادرة، وفي حجم أسئلة الدعم، وفي ذلك الصنف من الكلام المتناقل الذي يتراكم فعلًا.

نقوّم كل سطح في ToRun بهذه الأنماط الخمسة قبل إصداره. ومع ذلك نخطئها. وحين يقع ذلك، يبقى أثر التدقيق مكشوفًا بما يكفي ليقال لنا.