نحو ذكاء اصطناعي أكثر تواضعًا: معالجة مشكلة الثقة المفرطة في الإجابات

رغم القدرات الهائلة التي يمتلكها الذكاء الاصطناعي بفضل مخزونه المعرفي الواسع، إلا أن إحدى أبرز مشكلاته تكمن في ما يُعرف بـ"الثقة المفرطة". فالنماذج تميل إلى تقديم إجاباتها بنفس الدرجة من اليقين، سواء كانت مبنية على تحليل دقيق أو مجرد تخمين، ما قد يحد من موثوقيتها في الاستخدامات الحساسة.

وقد توصّل باحثون في معهد ماساتشوستس للتكنولوجيا إلى أن أصل هذه المشكلة يعود إلى طريقة تدريب النماذج نفسها، حيث لا تميّز أساليب التعلم الحالية بين الإجابة الصحيحة الناتجة عن استدلال منطقي، وتلك التي تأتي عن طريق الصدفة أو التخمين.

تعتمد النماذج الحديثة على تقنيات التعلم المعزز، التي تكافئ الإجابة الصحيحة وتعاقب الخاطئة، دون النظر إلى كيفية الوصول إلى النتيجة. ومع مرور الوقت، يؤدي ذلك إلى ترسيخ سلوك يجعل النموذج يقدّم إجابات واثقة حتى عندما لا يمتلك أدلة كافية، وهو ما يشكّل خطرا في مجالات مثل الطب والقانون والتمويل.

ولمعالجة هذه الإشكالية، طوّر الباحثون منهجية جديدة تُعرف باسم RLCR (التعلم المعزز باستخدام مكافآت المعايرة)، والتي تعتمد على تدريب النماذج لتقديم إجابات مرفقة بتقدير لمستوى الثقة. وقد عُرضت هذه الطريقة في بحث على منصة arXiv، ومن المقرر تقديمها ضمن فعاليات المؤتمر الدولي للتعلم الآلي ICLR 2026.

تقوم هذه المنهجية على دمج مقياس "براير" (Brier score) ضمن عملية التدريب، لقياس مدى توافق ثقة النموذج مع دقته الفعلية. وبهذا، يتم معاقبة الإجابات الخاطئة ذات الثقة العالية، وكذلك الإجابات الصحيحة التي يُعبّر عنها بعدم يقين غير مبرر، ما يساعد على تحقيق توازن أدق بين صحة الإجابة ومستوى الثقة المصاحب لها.