Pourquoi un ordinateur ne sera jamais vraiment conscient

De nombreux projets d’intelligence artificielle avancée disent qu’ils sont en vue de bâtiment a machine conscientequi repose sur l’idée que le cerveau ne fonctionne que coder et traiter les informations multisensorielles. On part donc du principe qu’une fois que les fonctions cérébrales sont bien comprises, il devrait être possible de les programmer dans un ordinateur. Microsoft a récemment annoncé qu’il dépenser 1 milliard de dollars US pour un projet pour faire cela.

Jusqu’à présent, cependant, les tentatives de construction de cerveaux de superordinateurs sont loin d’avoir abouti. A un projet européen de plusieurs milliards de dollars qui a commencé en 2013 est maintenant largement compris comme ayant échoué. Cet effort s’est déplacé pour ressembler davantage à un projet similaire mais moins ambitieux aux États-Unis, en développant de nouveaux outils logiciels pour les chercheurs pour étudier les données du cerveau, plutôt que de simuler un cerveau.

Certains chercheurs continuent d’insister sur le fait que simuler les neurosciences par ordinateur est la voie à suivre. AutresComme moi, nous considérons que ces efforts sont voués à l’échec parce que nous ne croient pas que la conscience soit calculable. Notre argument de base est que le cerveau intègre et comprime de multiples composantes d’une expérience, y compris la vue et l’odorat – qui ne peuvent tout simplement pas être traitées de la manière dont les ordinateurs d’aujourd’hui détectent, traitent et stockent les données.

Le cerveau ne fonctionne pas comme un ordinateur

Les organismes vivants stockent les expériences dans leur cerveau en adapter les connexions neuronales dans un processus actif entre le sujet et l’environnement. En revanche, un ordinateur enregistre les données dans des blocs de mémoire à court et à long terme. Cette différence signifie que le traitement de l’information par le cerveau doit également être différent du fonctionnement des ordinateurs.

L’esprit explore activement l’environnement pour trouver les éléments qui guident la réalisation de telle ou telle action. La perception n’est pas directement liée aux données sensorielles : Une personne peut d’identifier un tableau sous plusieurs angles différentssans avoir à interpréter consciemment les données puis à demander à sa mémoire si ce modèle pourrait être créé par des vues alternatives d’un élément identifié quelque temps auparavant.

Une autre perspective sur ce sujet est que les tâches de mémoire les plus banales sont associées à de multiples zones du cerveau – dont certaines sont assez vastes. L’apprentissage des compétences et l’expertise impliquent la réorganisation et les changements physiquescomme la modification de la force des connexions entre les neurones. Ces transformations ne peuvent pas être entièrement reproduites dans un ordinateur à architecture fixe.

Calcul et sensibilisation

Dans mes propres travaux récents, j’ai mis en évidence certains des raisons supplémentaires pour lesquelles la conscience n’est pas calculable.

Une personne consciente est consciente de ce qu’elle pense, et a la capacité d’arrêter de penser à une chose et de commencer à penser à une autre – peu importe où elle se trouvait dans le train de pensée initial. Mais c’est impossible pour un ordinateur. Il y a plus de 80 ans, l’informaticien britannique Alan Turing a montré qu’il n’y avait aucun moyen de prouver qu’un un programme informatique pourrait s’arrêter de lui-même – et pourtant, cette capacité est au cœur de la conscience.

Son argument repose sur un tour de passe-passe logique dans lequel il crée une contradiction inhérente : Imaginez qu’il y ait un processus général qui pourrait déterminer si un programme qu’elle a analysé s’arrêterait. Le résultat de ce processus serait soit « oui, il s’arrêtera », soit « non, il ne s’arrêtera pas ». C’est assez simple. Mais ensuite, Turing a imaginé qu’un ingénieur rusé a écrit un programme qui inclut le processus de contrôle d’arrêt, avec un élément crucial : une instruction pour maintenir le programme en cours d’exécution si la réponse du contrôleur d’arrêt était « oui, il s’arrêtera ».

L’exécution du processus d’arrêt de ce nouveau programme permettrait rendent nécessairement le contrôleur d’arrêt erroné: S’il détermine que le programme s’arrêtera, les instructions du programme lui diront de ne pas s’arrêter. En revanche, si le contrôleur d’arrêt détermine que le programme ne s’arrêtera pas, les instructions du programme arrêteront tout immédiatement. Cela n’a aucun sens – et cette absurdité a donné à Turing sa conclusion, à savoir qu’il ne peut y avoir aucun moyen d’analyser un programme et d’être absolument certain qu’il peut s’arrêter. Il est donc impossible d’être certain qu’un ordinateur puisse émuler un système capable d’arrêter définitivement son train de pensée et de passer à un autre mode de pensée – pourtant, la certitude de cette capacité est inhérente à la conscience.

Même avant les travaux de Turing, le physicien quantique allemand Werner Heisenberg a montré qu’il y avait une nette différence dans la nature des l’événement physique et la connaissance consciente d’un observateur de celui-ci. Le physicien autrichien Erwin Schrödinger a interprété cela comme signifiant que la conscience ne peut pas provenir d’un processus physique, comme celui d’un ordinateur, qui réduit toutes les opérations à des arguments de logique de base.

Ces idées sont confirmées par les résultats de la recherche médicale selon lesquels il n’existe pas de structures uniques dans le cerveau qui gèrent exclusivement la conscience. Au contraire, l’imagerie IRM fonctionnelle montre que différentes tâches cognitives se produisent dans différents domaines du cerveau. Cela a conduit le neuroscientifique Semir Zeki à conclure que « la conscience n’est pas une unitéet qu’il existe au contraire de nombreuses consciences réparties dans le temps et l’espace ». Ce type de capacité cérébrale illimitée n’est pas le genre de défi qu’un ordinateur fini peut relever.

( Vous aimez ce que vous avez lu ? Vous en voulez plus ? Inscrivez-vous à la lettre d’information quotidienne de La Conversation. )