Terra Incognita
Inteligência artificial

A IA pode raciocinar de forma confiável e saber quando está errada?

Avanço à vista

Por que isso importa

Os modelos de IA às vezes chutam quando não têm certeza, produzindo afirmações plausíveis, mas falsas, que minam a confiança. Uma IA que raciocine de forma confiável e admita quando não sabe seria mais útil e mais confiável para as pessoas que dependem dela.

O que sabemos

Os modelos de raciocínio melhoraram muito em matemática e programação.

O que nos trava

Eles ainda afirmam coisas falsas com confiança e avaliam mal a própria incerteza.

Pistas atuais

Verificação automática das respostas, treinamento com resultados checados, confiança calibrada.

Subperguntas

Perguntas relacionadas

Fontes

Ainda não revisado por um especialista.

Última verificação: 2026-11-18

Histórico desta pergunta

Voltar ao mapa →