क्या AI भरोसेमंद ढंग से तर्क कर सकता है और जान सकता है कि वह कब गलत है?
सफलता निकट
यह क्यों महत्वपूर्ण है
AI मॉडल अनिश्चित होने पर कभी-कभी अनुमान लगा लेते हैं और ऐसे कथन देते हैं जो विश्वसनीय लगते हैं पर गलत होते हैं, जिससे भरोसा कमज़ोर होता है। जो AI भरोसेमंद ढंग से तर्क करे और न जानने पर यह स्वीकार करे, वह उस पर निर्भर लोगों के लिए अधिक उपयोगी और अधिक विश्वसनीय होगा।
हम क्या जानते हैं
तर्क करने वाले मॉडलों में गणित और कोड में तेज़ सुधार हुआ है।
रुकावट क्या है
वे अब भी गलत बातें पूरे विश्वास से कहते हैं और अपनी अनिश्चितता का गलत आकलन करते हैं।
वर्तमान सुराग
उत्तरों का स्वचालित सत्यापन, जाँचे हुए परिणामों पर प्रशिक्षण, अंशांकित आत्मविश्वास।
उप-प्रश्न
कोई AI अपने ज्ञान की सीमाओं को पहचानना कैसे सीख सकता है?
अगर परीक्षाएँ ‘मुझे नहीं पता’ कहने के बजाय अनुमान लगाने को इनाम देना बंद कर दें, तो क्या AI कम गलत जवाब गढ़ेंगे?
अतिरिक्त प्रशिक्षण किसी मॉडल को यह आँकने में बदतर क्यों बना सकता है कि उसे कितना आश्वस्त होना चाहिए?