Terra Incognita
Intelligence artificielle

Comment construire une IA générale fiable et alignée sur nos intérêts ?

Pistes sérieuses

Pourquoi c'est important

L'IA à usage général pourrait aider à faire croître les économies et à améliorer les conditions de vie, mais elle peut aussi être utilisée pour nuire ou causer des dommages par accident. La rendre fiable et alignée sur nos intérêts aiderait à obtenir ces bénéfices tout en limitant les risques.

Ce qu'on sait

Les modèles actuels sont très capables et progressent vite.

Ce qui bloque

On ne sait pas encore vérifier ce qu'un modèle cherche vraiment à faire, ni garantir son comportement.

Pistes en cours

Interprétabilité, supervision à grande échelle, évaluations des capacités dangereuses.

Sous-questions

Questions liées

Sources

Pas encore relu par un spécialiste.

Dernière vérification: 2026-11-18

Historique de cette question

Retour à la carte →