Hoje são, em grande parte, os desenvolvedores de uma IA que escolhem os valores que ela segue, e as opiniões das pessoas podem divergir. Encontrar formas legítimas de combinar a contribuição de muitas pessoas em escolhas coletivas sobre o comportamento de um modelo ajudaria a decidir de quem são os valores que os sistemas de IA acabam seguindo.
Os modelos são treinados com princípios escritos e com feedback humano.
As pessoas e as culturas divergem, e não há uma forma aceita de combinar seus pontos de vista.
Processos de consulta pública, constituições publicadas para modelos de IA.