आज किसी AI के मूल्य मुख्य रूप से उसके डेवलपर तय करते हैं, और लोगों के विचार अलग-अलग हो सकते हैं। बहुत से लोगों की राय को किसी मॉडल के व्यवहार के बारे में सामूहिक निर्णयों में जोड़ने के वैध तरीके खोजना यह तय करने में मदद करेगा कि AI प्रणालियाँ आखिरकार किसके मूल्यों का पालन करेंगी।
हम क्या जानते हैं
मॉडलों को लिखित सिद्धांतों और मानवीय प्रतिक्रिया से प्रशिक्षित किया जाता है।
रुकावट क्या है
लोगों और संस्कृतियों में मतभेद है, और उनके विचारों को मिलाने का कोई स्वीकृत तरीका नहीं है।
वर्तमान सुराग
जन-सहभागिता की प्रक्रियाएँ, AI मॉडलों के लिए प्रकाशित संविधान।
उप-प्रश्न
बहुत-से लोगों के परस्पर विरोधी विचारों को इस बारे में सुसंगत नियमों में कैसे जोड़ा जाए कि किसी AI को कैसा व्यवहार करना चाहिए?
क्या मतदान और सामूहिक निर्णयों का विज्ञान (सामाजिक चयन) हमें बता सकता है कि किसी AI के मूल्य कैसे चुने जाएँ?