هل يمكن للذكاء الاصطناعي أن يستدل بموثوقية ويعرف متى يخطئ؟
اختراق في الأفق
لماذا يهمّ
تخمّن نماذج الذكاء الاصطناعي أحيانًا عندما لا تكون متأكدة، فتنتج عبارات معقولة الظاهر لكنها خاطئة تُضعف الثقة. والذكاء الاصطناعي الذي يستدل بشكل موثوق ويعترف عندما لا يعرف سيكون أكثر فائدة وأجدر بالثقة لمن يعتمدون عليه.
ما نعرفه
تحسنت نماذج الاستدلال تحسنًا حادًا في الرياضيات والبرمجة.
ما يعيقنا
لا تزال تقول أشياء خاطئة بثقة وتخطئ في تقدير عدم يقينها.
المسارات الحالية
التحقق الآلي من الإجابات، والتدريب على نتائج مدققة، وثقة معايَرة.
أسئلة فرعية
كيف يمكن للذكاء الاصطناعي أن يتعلم إدراك حدود معرفته؟
هل سيختلق الذكاء الاصطناعي إجابات خاطئة أقل لو توقفت الاختبارات عن مكافأة التخمين بدلًا من قول «لا أعرف»؟
لماذا قد يجعل التدريب الإضافي النموذجَ أسوأ في تقدير مدى الثقة التي ينبغي أن تكون لديه؟