Beaucoup de gens pourraient en venir à croire que les systèmes d'IA avec lesquels ils échangent sont conscients. Savoir si cela peut être vrai importe pour de profondes questions morales et sociales, et pour ne pas être trompé par des systèmes qui ne font que sembler conscients.
Ce qu'on sait
Il n'existe aucune méthode reconnue pour tester la conscience d'un système artificiel.
Ce qui bloque
La réponse dépend de la question non résolue de la conscience humaine.
Pistes en cours
Grilles d'indicateurs tirées des théories scientifiques de la conscience.
Sous-questions
La conscience n'est-elle qu'une question d'effectuer les bons calculs, quel que soit le matériau dont le système est fait ?
Pourquoi ne peut-on pas simplement tester le comportement d'une IA pour savoir si elle est consciente, alors qu'elle peut être entraînée à imiter les humains ?
Comment éviter de croire que des systèmes d'IA sont conscients alors qu'ils semblent seulement l'être ?