Hoy son en gran medida los desarrolladores de una IA quienes eligen los valores que sigue, y las opiniones de la gente pueden divergir. Encontrar formas legítimas de combinar las aportaciones de muchas personas en decisiones colectivas sobre el comportamiento de un modelo ayudaría a decidir de quién son los valores que acaban siguiendo los sistemas de IA.
Los modelos se entrenan con principios escritos y retroalimentación humana.
Las personas y las culturas discrepan, y no hay una forma aceptada de combinar sus puntos de vista.
Procesos de consulta pública, constituciones publicadas para modelos de IA.