人工智能
我们能理解神经网络内部发生了什么吗?
已有可靠线索为什么重要
弄清神经网络内部发生了什么,可以让人们对人工智能系统的行为更有把握,也可能揭示有关智能本质的科学问题。
我们已知
我们能在大型语言模型中分离出内部的概念和回路。
阻碍所在
模型规模巨大,而且每个神经元都混杂着多个概念。
当前线索
特征词典,回路追踪,自动化分析工具。
子问题
- 在神经网络内部,究竟什么才算一个“特征”或概念?
- 我们如何检验对网络行为的某个解释是否真的正确?
- 随着模型不断变大,理解人工智能模型的工作能否实现自动化并保持成本可承受?
相关问题
来源
尚未经专家审阅。
最近核实: 2026-11-18
本问题的修改记录
返回地图 →