Terra Incognita
人工智能

我们如何构建可靠且符合我们利益的通用人工智能?

已有可靠线索

为什么重要

通用人工智能可以帮助经济增长、改善人们的生活,但它也可能被用来造成伤害,或意外地造成伤害。让它可靠并符合我们的利益,将有助于获得这些好处,同时限制风险。

我们已知

当前的模型能力很强,而且进步很快。

阻碍所在

我们还无法验证模型真正想做什么,也无法保证它的行为。

当前线索

可解释性,可扩展监督,对危险能力的评估。

子问题

相关问题

来源

尚未经专家审阅。

最近核实: 2026-11-18

本问题的修改记录

返回地图 →