L’intelligence artificielle est-elle maintenant douée de conscience? Pas encore.

Par: Stephanie Orford

25 Jan, 2018

25 janvier 2018

Les calculs qui sous-tendent l’intelligence artificielle (IA) ressemblent davantage à un traitement inconscient qu’à une réflexion consciente dans le cerveau humain, suggérant que l’IA n’est pas encore douée de conscience. Deux processus particuliers qui travaillent en synchronie dans le cerveau humain pourraient révéler des données clés.

Objet de la revue

Pour découvrir si les machines sont maintenant douées de conscience, il faut définir la conscience chez le cerveau humain et animal, et voir ensuite si ces qualités sont présentes dans l’IA. Stanislas Dehaene (Collège de France et Inserm-CEA) et Sid Kouider (École Normale Supérieure), tous deux Boursiers principaux au sein du programme cerveau, esprit et conscience Azrieli de l’ICRA, et Hakwan Lau (Université de la Californie à Los Angeles et Université de Hong Kong) examinent cette question dans un cadre computationnel, et procèdent à une revue de la recherche et offrent des données sur le mécanisme cérébral de traitement de l’information chez l’humain et l’animal, et comparent les résultats aux méthodes de traitement de l’information utilisées aujourd’hui en IA. Les chercheurs souhaitent favoriser les progrès vers la conscience artificielle et repèrent des caractéristiques qui permettent à un cerveau humain de générer la conscience, afin de réussir à transférer ces données aux algorithmes informatiques.

Contexte

La perspective d’une conscience artificielle fascine les scientifiques et les mordus de la science-fiction depuis des décennies.

De récentes percées en IA nous ont permis de nous rapprocher de cet objectif avec la création de robots qui peuvent apprendre, résoudre des problèmes complexes et s’adapter à de nouveaux environnements. Toutefois, on se demande toujours si l’expérience subjective de la conscience n’échappe pas encore à une définition computationnelle — et si l’architecture des systèmes peut produire une telle expérience en IA.

Alors que des percées en IA font avancer le domaine, des scientifiques cognitifs ont travaillé au décodage de l’énigme de la conscience humaine. Ils ont découvert que la conscience ne dépend pas d’un seul mécanisme, mais de plusieurs types de calculs. De plus, les recherches signalent que le cerveau traite une grande proportion de l’information émanant de l’environnement à l’aide de mécanismes inconscients et cette information influence l’expérience consciente.

Les auteurs passent en revue et analysent les diverses dimensions par lesquelles le cerveau humain traite l’information et comment ces dimensions sont en lien avec le traitement inconscient ou conscient de l’information en fonction des éléments suivants :

Calcul inconscient : La recherche en neuroimagerie a révélé qu’il est possible d’activer la plupart des aires cérébrales dans un mode inconscient. L’extraction de sens, la reconnaissance visuelle des mots ou des visages, l’apprentissage par renforcement, le contrôle cognitif et la prise de décisions ne sont que quelques exemples du traitement inconscient chez l’humain. Ces tâches influencent fortement le traitement conscient.

Le calcul de la disponibilité globale correspond à la sélection de l’information externe pour qu’elle soit accessible aux nombreux sous-systèmes spécialisés du cerveau pour un plus ample traitement. Des travaux de recherche ont associé le traitement de la disponibilité globale avec un vaste éventail de calculs, y compris le rappel, les illusions visuelles et le traitement de l’information sérielle. Ces systèmes convergent vers la prise d’une décision unique. Essentiellement, cela permet une planification cohérente et réfléchie.

Le calcul d’autosurveillance correspond à la capacité du cerveau de surveiller ses propres connaissances et capacités, comme la confiance à l’égard des décisions, la réflexion, la détection d’erreurs, la surveillance de la qualité des représentations de la mémoire (métamémoire) et la capacité de distinguer la réalité de la perception. On appelle aussi ce type de traitement l’introspection ou la métacognition.

Présence de conscience : Les calculs de la disponibilité globale et de l’autosurveillance peuvent fonctionner séparément, mais c’est seulement quand les deux fonctionnent ensemble que la conscience se manifeste chez l’humain. Des études de cas avec des patients qui ont perdu l’une de ces compétences décrivent aussi une perte de perception consciente, suggérant que les deux sont nécessaires à une conscience humaine complète.

Ces caractéristiques de la pensée consciente remettent en cause l’idée que l’expérience subjective de la conscience échappe à la définition computationnelle.

Résultats clés

En misant sur des travaux de recherche qui signalent que les calculs de la disponibilité globale et de l’autosurveillance fonctionnent ensemble pour produire la conscience chez l’humain, les auteurs déduisent que la conscience n’est pas encore présente dans l’IA.

Calcul inconscient : Avant tout, le traitement de l’information en IA met en jeu des calculs qui sont similaires au traitement inconscient dans le cerveau humain. Cela inclut des fonctions d’IA, notamment : parole-texte, reconnaissance faciale, apprentissage par renforcement et types de calcul utilisés aujourd’hui pour la prise de décisions.

Calculs de disponibilité globale et d’autosurveillance : Le traitement automatique fait des progrès en ce qui concerne les calculs de disponibilité globale et d’autosurveillance, mais il y a encore beaucoup à faire. La capacité d’un système à entreprendre des processus d’autosurveillance, et de mettre en œuvre et de coordonner avec souplesse de multiples calculs demeurent un défi en architecture des systèmes.

Présence d’une conscience : Quoiqu’il y ait des progrès dans les deux types de traitement de l’information, ils ne sont pas encore jumelés pour fonctionner ensemble. Cette réalisation permettrait la mise au point d’une machine qui se comporterait comme si elle était consciente.

Conclusion et répercussions

Pour réussir à faire de la conscience artificielle une réalité, Dehaene, Lau et Kouider avancent qu’il est nécessaire d’analyser les types spécifiques de calculs qui composent la conscience chez l’humain. Ils suggèrent que les autres modèles actuels n’expliqueraient pas pleinement la conscience.

Les auteurs notent que les données empiriques examinées sont compatibles avec la possibilité que des calculs spécifiques soient à l’origine de la conscience chez l’humain. Les plateformes d’IA actuelles se fondent sur des calculs sophistiqués, mais la plupart de ceux-ci sont équivalents à des processus computationnels inconscients dans le cerveau humain, plutôt qu’à des processus computationnels qui produiraient la conscience.

Pour arriver à cerner la conscience artificielle, les chercheurs devraient viser la création de processus computationnels similaires à ceux qui donnent lieu aux deux types principaux de la conscience chez l’humain : la conscience associée à la disponibilité globale et l’autosurveillance. Par la mise au point de types similaires de mécanismes de traitement de l’information en IA, nous pourrions jeter les assises de la conscience chez les machines.

Références
Stanislas Dehaene et coll., What is consciousness, and could machines have it? Science 2017;358:issue 6362.

single share hidden input
Suivez-nous

Soutenez-nous

L’Institut canadien de recherches avancées (CIFAR) est une organisation de recherche d’influence mondiale fièrement basée au Canada. Nous mobilisons les plus brillants personnes du monde, dans toutes les disciplines et à tous les stades de carrière, pour faire progresser les connaissances transformatrices et résoudre ensemble les plus grands problèmes de l’humanité. Nous recevons l’appui des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de particuliers, d’entreprises et d’organisations partenaires du Canada et du monde entier.

Dons