Terra Incognita
人工智能

人工智能能可靠地推理并知道自己何时出错吗?

突破在望

为什么重要

人工智能模型在不确定时有时会猜测,给出看似合理却错误的说法,从而削弱人们的信任。能够可靠推理、并在不知道时坦承的人工智能,对依赖它的人来说会更有用,也更值得信赖。

我们已知

推理模型在数学和代码方面已有显著进步。

阻碍所在

它们仍会信心十足地陈述错误内容,并错误判断自己的不确定性。

当前线索

答案的自动验证,用经过核对的结果训练,校准置信度。

子问题

相关问题

来源

尚未经专家审阅。

最近核实: 2026-11-18

本问题的修改记录

返回地图 →