Aujourd'hui, ce sont surtout les développeurs d'une IA qui choisissent les valeurs qu'elle suit, et les avis des gens peuvent diverger. Trouver des moyens légitimes de combiner l'avis de nombreuses personnes en choix collectifs sur le comportement d'un modèle aiderait à décider à qui appartiennent les valeurs que les systèmes d'IA finissent par suivre.
Les modèles sont entraînés avec des principes écrits et des retours humains.
Les personnes et les cultures divergent, et aucune méthode reconnue ne combine leurs points de vue.
Processus de consultation publique, constitutions publiées pour les modèles.