Terra Incognita
Inteligência artificial

Os valores de quem a IA deve seguir?

Horizonte distante

Por que isso importa

Hoje são, em grande parte, os desenvolvedores de uma IA que escolhem os valores que ela segue, e as opiniões das pessoas podem divergir. Encontrar formas legítimas de combinar a contribuição de muitas pessoas em escolhas coletivas sobre o comportamento de um modelo ajudaria a decidir de quem são os valores que os sistemas de IA acabam seguindo.

O que sabemos

Os modelos são treinados com princípios escritos e com feedback humano.

O que nos trava

As pessoas e as culturas divergem, e não há uma forma aceita de combinar seus pontos de vista.

Pistas atuais

Processos de consulta pública, constituições publicadas para modelos de IA.

Subperguntas

Perguntas relacionadas

Fontes

Ainda não revisado por um especialista.

Última verificação: 2026-11-18

Histórico desta pergunta

Voltar ao mapa →