人工智能
我们如何构建可靠且符合我们利益的通用人工智能?
已有可靠线索为什么重要
通用人工智能可以帮助经济增长、改善人们的生活,但它也可能被用来造成伤害,或意外地造成伤害。让它可靠并符合我们的利益,将有助于获得这些好处,同时限制风险。
我们已知
当前的模型能力很强,而且进步很快。
阻碍所在
我们还无法验证模型真正想做什么,也无法保证它的行为。
当前线索
可解释性,可扩展监督,对危险能力的评估。
子问题
- 对于难到人们无法评判的任务,人们如何检查人工智能的工作?
- 如何阻止人工智能利用其训练目标(奖励)中的漏洞?
- 为什么一个人工智能即使在训练中得到了正确的奖励,投入使用后仍可能表现不当?
相关问题
来源
尚未经专家审阅。
最近核实: 2026-11-18
本问题的修改记录
返回地图 →