Terra Incognita
Intelligence artificielle

Les valeurs de qui l'IA doit-elle suivre ?

Horizon lointain

Pourquoi c'est important

Aujourd'hui, ce sont surtout les développeurs d'une IA qui choisissent les valeurs qu'elle suit, et les avis des gens peuvent diverger. Trouver des moyens légitimes de combiner l'avis de nombreuses personnes en choix collectifs sur le comportement d'un modèle aiderait à décider à qui appartiennent les valeurs que les systèmes d'IA finissent par suivre.

Ce qu'on sait

Les modèles sont entraînés avec des principes écrits et des retours humains.

Ce qui bloque

Les personnes et les cultures divergent, et aucune méthode reconnue ne combine leurs points de vue.

Pistes en cours

Processus de consultation publique, constitutions publiées pour les modèles.

Sous-questions

Questions liées

Sources

Pas encore relu par un spécialiste.

Dernière vérification: 2026-11-18

Historique de cette question

Retour à la carte →