ذكاء اصطناعي مُستنِد إلى المصدر: لماذا يجب أن يذكر مساعدك مصادره

أصبحت المساعدات الذكية بارعة في أن تبدو على حق، وهنا تكمن المشكلة. فالمساعد العام يكتب نصًا سلسًا وواثقًا سواء عرف الإجابة أم لم يعرفها، وفي العمل الخاضع للرقابة تكون الإجابة الخاطئة الواثقة أسوأ من غياب الإجابة.

لماذا لا تعني السلاسة الصحة

تولّد النماذج اللغوية الكبيرة الكلمات الأكثر ترجيحًا. اسأل أحدها عن سياسة الإجازات في شركتك، أو بند في عقد مورّد، أو موعد إغلاق ملاحظة تدقيق، فقد يقدّم إجابة محكمة الصياغة لكنها مختلَقة ببساطة: رقم سياسة غير موجود، أو بند لم يُوقَّع، أو تاريخ لم يُحدَّد. وتُسمّى هذه الظاهرة «الهلوسة»، ولا يجعلها أي قدر من التنميق آمنة.

الاستناد إلى المصدر ببساطة

المساعد المستند إلى المصدر لا يجيب من ذاكرته، بل من مصادرك المعتمدة، ويُريك أيّها استخدم. وتسير العملية هكذا:

1. السؤال. يطرح الشخص سؤاله بكلماته.
2. الاسترجاع. يبحث المساعد في مستنداتك وسجلّاتك عن المقاطع التي تتناول السؤال فعلًا.
3. الإجابة من المصادر. يصوغ الإجابة مما وجده فقط.
4. التوثيق. يعرض المستند أو القسم أو السجل الذي جاء منه كل جزء من الإجابة، ليتمكّن أي شخص من التحقّق.
5. الإحالة. حين لا تغطي المصادر السؤال، يقول ذلك ويحيله إلى موظف.

أن يعرف متى لا يجيب

أهم سلوك في المساعد الموثوق هو الذي نادرًا ما تُظهره العروض التوضيحية: الامتناع. فإجابة مثل «لم أجد ذلك في سياساتنا، وقد أحلت سؤالك إلى فريق الموارد البشرية» إجابة جيدة، تحمي السائل والمؤسسة ومصداقية المساعد.

المستندات ليست المصدر الوحيد

كثير من الأسئلة تتعلّق بسجلات حيّة لا بمستندات: ما الملاحظات المتأخّرة، وكم يدين العميل، وأي العقود تنتهي هذا الربع. والمساعد الجيد يستعلم النظام عنها بصلاحيات الشخص السائل نفسها، بدل التخمين. وحين ينفّذ إجراءً نيابةً عن أحد، يُسجَّل هذا الإجراء.

ستة أسئلة تطرحها على أي مزوّد ذكاء اصطناعي

1. هل تعرض كل إجابة مصدرها، وهل يمكنني فتحه؟
2. ماذا يحدث حين لا تكون الإجابة في مستنداتنا؟
3. هل يحترم المساعد صلاحيات كل مستخدم؟
4. أين تُحفظ مستنداتنا وأسئلتنا وسجلّاتنا؟
5. هل يمكننا تدقيق ما قاله، ولمن، ولماذا؟
6. هل يعمل بالعربية بالجودة نفسها التي يعمل بها بالإنجليزية؟