Terra Incognita
Inteligência artificial

Como construir uma IA geral confiável e alinhada aos nossos interesses?

Pistas sérias

Por que isso importa

A IA de uso geral poderia ajudar a fazer as economias crescerem e a melhorar vidas, mas também pode ser usada para causar danos ou causá-los por acidente. Torná-la confiável e alinhada aos nossos interesses ajudaria a garantir esses benefícios limitando os riscos.

O que sabemos

Os modelos atuais são muito capazes e melhoram rapidamente.

O que nos trava

Ainda não conseguimos verificar o que um modelo realmente busca fazer, nem garantir seu comportamento.

Pistas atuais

Interpretabilidade, supervisão escalável, avaliações de capacidades perigosas.

Subperguntas

Perguntas relacionadas

Fontes

Ainda não revisado por um especialista.

Última verificação: 2026-11-18

Histórico desta pergunta

Voltar ao mapa →