Suis nous sur
CIFAR header logo
en
menu_mobile_logo_alt
  • NOTRE IMPACT
    • Pourquoi le CIFAR?
    • Pôles d’impact
    • Nouvelles
    • Stratégie du CIFAR
    • Favoriser la résilience de la Terre
    • Impact IA
    • Impact des dons
    • CIFAR 40
  • Activités
    • Événements publics
    • Réunions sur invitation seulement
  • Programmes
    • Programmes de recherche
    • Stratégie pancanadienne en matière d’IA
    • Initiatives à l’intention de la prochaine génération
  • Communauté
    • Membres et spécialiste-conseils
    • Chercheurs mondiaux CIFAR-Azrieli
    • Chaires en IA Canada-CIFAR
    • Direction – Stratégie en matière d’IA
    • Membres du réseau de solutions
    • Direction – CIFAR
    • Répertoire du personnel
  • Soutenez-nous
  • À propos
    • Notre histoire
    • Prix
    • Partenariats
    • Publications et rapports
    • Carrières
    • Équité, diversité et inclusion
    • Déclaration du CIFAR sur la neutralité institutionnelle
    • Sécurité de la recherche
  • en
Nouvelles

Construction d’une machine douée d’un sens moral

Par: Jon Farrow
20 Nov, 2018
20 novembre 2018
post_content

Comme les agents autonomes pourraient bientôt foisonner dans notre monde, il serait bon d’intégrer une boussole morale à leur programmation. Mais quelle morale choisir comme modèle?

Imaginez que vous êtes en voiture avec votre famille quand, tout à coup, un chat saute devant votre véhicule. Allez-vous faire une embardée pour éviter le chat et ainsi risquer de vous écraser contre un mur et mettre votre famille en danger, ou bien allez-vous continuer tout droit? Et s’il ne s’agissait pas d’un chat, mais d’un enfant? Ou d’une personne âgée? En quoi cela change-t-il votre calcul moral?

Voilà l’essence d’un célèbre dilemme philosophique, appelé le problème du tramway, qui constituera bientôt plus qu’une simple expérience de la pensée. Nombreux sont ceux qui soutiennent qu’au cours des prochaines années, à mesure que nous transférerons diverses responsabilités à des machines, comme la conduite automobile, nous devrons programmer des voitures autonomes aptes à soupeser ces considérations.

Afin de comprendre qui sauver, des chercheurs du MIT ont conçu un site Web appelé Moral Machine qui a présenté à des millions de personnes diverses permutations du problème du tramway au cours des deux dernières années. Deux chiens et un braqueur de banque dans la voiture contre une femme et un bébé qui traversent la rue à un endroit interdit. Quatre athlètes féminines contre quatre hommes qui traversent la rue au bon endroit. Les possibilités sont presque infinies.

Après 40 millions de réponses en neuf langues provenant de 233 pays, les chercheurs ont publié dans la revue Nature des résultats qui révèlent que la personne moyenne tend à sauver les jeunes, le plus grand groupe de personnes présent et les humains. Cela peut sembler logique, mais un examen plus approfondi des données a également révélé des différences culturelles frappantes. Dans les pays orientaux, comme la Chine et le Japon, par exemple, la préférence est plus marquée pour les personnes âgées. Dans les pays du Sud, comme ceux d’Amérique latine, les gens ont tendance à épargner les personnes de statut supérieur. Dans les pays occidentaux, comme le Canada et les États-Unis, les gens préfèrent l’inaction à l’action et résistent donc à l’idée que les véhicules autonomes tentent par tous les moyens de frapper un piéton, peu importe qui se trouve dans la voiture.

Avec un ensemble de données aussi vaste, il y a d’innombrables façons d’interpréter les résultats. Conséquemment, pour avoir une meilleure idée de ce que tout cela signifie, nous nous sommes entretenus avec Joe Henrich, l’un des auteurs de l’article. Henrich est professeur au département de biologie évolutive humaine de l’Université Harvard et Boursier principal au sein du programme Institutions, organisations et croissance du CIFAR.

Nous avons eu un entretien téléphonique avec le professeur Henrich quelques jours après la publication de l’article dans Nature.

Comment avez-vous participé au projet?

J’ai surtout participé en tentant de trouver une façon d’analyser les données et de comprendre les variations. Iyad Rahwan et son étudiant diplômé Edmond Awad ont fait le gros du travail. Les autres ont participé à diverses étapes du processus d’analyse et ont aussi tenté de trouver une interprétation d’ensemble, ainsi qu’une approche analytique. Azim Shariff, un autre des auteurs, est un de mes anciens élèves et, au fur et à mesure que les données arrivaient, il m’a demandé conseil sur la façon de les analyser. J’ai donc commencé à lui dire ce que je pensais. Puis, après cette conversation, ils m’ont invité à devenir l’un des auteurs et à continuer à les conseiller.

Pourquoi ces résultats sont-ils importants?

À l’examen des données, on devrait peut-être s’interroger sur toutes sortes de décisions politiques, car si les gens dans différentes sociétés ont des moralités assez différentes quant à leurs priorités, les choix politiques des uns et des autres seront très différents. Que l’on donne la priorité aux personnes âgées, à l’influence du statut, à l’importance de la majorité ou à toutes sortes d’autres facteurs sociaux.

Nous n’essayons pas de prescrire des mesures politiques spécifiques, mais c’est utile pour les décideurs politiques de savoir au moins comment les gens de la base, les gens de ces différents pays, font des choix pour déterminer quel devrait être le compromis. Bien sûr, ce sont aux décideurs que reviennent les décisions. Mais si cela va à l’encontre de ce que la plupart des gens veulent, il faut le savoir.

Avez-vous été surpris par l’un ou l’autre des résultats?

On avait déjà prétendu par le passé qu’il n’y avait pas beaucoup de variations culturelles dans des problèmes du genre, comme le problème du tramway, que les gens à travers le monde seraient relativement cohérents dans leurs réponses. Mais d’après quelques expériences ponctuelles que j’ai réalisées et le travail expérimental d’autres personnes, je soupçonnais qu’il y aurait beaucoup de variations culturelles. En conséquence, ce qui m’a vraiment intrigué dans les résultats, c’est qu’il y a une énorme variation culturelle dans la façon dont les gens trouvent un équilibre entre ces différents compromis, comme épargner les personnes âgées ou les passagers, épargner les hommes ou les femmes.

L’une des choses intéressantes que je trouve quelque peu intrigante est la question de faire le plus de bien pour le plus grand nombre de personnes — l’utilitarisme. Beaucoup de gens souscrivent à une vision utilitariste du monde. Mais ce que nous avons constaté, c’est que les pays les plus utilitaires étaient ceux qui étaient les plus individualistes. En d’autres termes, l’utilitarisme est une philosophie à laquelle on pense quand on est suffisamment individualiste. Les philosophes ont tendance à penser que l’utilitarisme sort du domaine de la pensée pure, mais on peut le voir en fait comme le produit d’une psychologie individualiste.

Voici un autre résultat contre-intuitif : en général, il y a un préjugé en faveur des femmes, de sorte qu’on ne dit pas à la voiture de faire une embardée sur des femmes ou d’écraser la voiture dans laquelle se trouve une femme. Mais là où il y a plus d’inégalité entre les sexes, il y a plus de favoritisme envers les femmes. En augmentant l’égalité entre les sexes et la valeur des femmes dans la société, vous augmentez également la probabilité que les gens disent : « Eh bien, la voiture devrait traiter les hommes et les femmes plus équitablement ». Donc, vous faites plus de mal aux femmes.

Compte tenu de ces différences culturelles, qui s’occupera de programmer l’éthique dans les voitures autonomes?

Il s’agit là d’une grande question ouverte, car vous pourriez demander à chaque acheteur de programmer son propre système. Ensuite, ils achèteraient probablement des voitures qui protègent toujours le passager. Mais on pourrait aussi songer à imposer des règlements. Et il faudrait décider à quelle échelle le faire. Voulons-nous des normes mondiales? Des normes nationales? Des normes locales? Cette étude a démontré des variations d’un pays à l’autre, mais il y a aussi beaucoup de variations au sein des pays. Et c’est sur quoi nous nous penchons actuellement. Nous examinons le cas de l’Inde, par exemple, et nous explorons les variations régionales de ces différences d’un pays à l’autre.

Avez-vous des conversations sur ce sujet lors des réunions du programme Institutions, organisations et croissance?

Eh bien, je pense que ces conversations ont commencé. Et cette étude représente un bon point de départ. En tant que groupe, nous nous intéressons beaucoup aux effets de divers facteurs, comme les robots et l’intelligence artificielle, sur le monde. Je n’ai pas été témoin de discussions particulières sur l’éthique ou sur la façon de programmer l’éthique dans l’intelligence artificielle, mais il y a un certain nombre de membres du groupe qui s’intéressent à cette question et je crois que les conversations iront dans cette direction.

Quelles sont les prochaines étapes de ce projet?

Les données sont vraiment riches et ce n’était que notre première incursion dans le domaine. Nous voulions simplement publier l’étude et susciter le débat. Mais j’examine maintenant les données beaucoup plus en détail avec des économistes en stage postdoctoral dans mon laboratoire. Par exemple, nous savons où les gens se trouvaient quand ils ont répondu aux questions et cela nous permet d’analyser diverses choses, comme des effets écologiques ou des grappes culturelles au sein des pays. De plus, à l’aide de l’imagerie satellitaire, nous pouvons examiner les effets du revenu à une échelle très localisée. Cela peut paraître fou, mais l’imagerie satellitaire la nuit peut vous renseigner sur l’éclairage dans toutes les régions de la planète. Et il y a une corrélation forte entre l’éclairage, et la croissance économique et la production. Conséquemment, nous pouvons attribuer à chaque région d’un pays une mesure de son PIB, puis nous pourrons examiner diverses choses, comme le revenu et le lien qui existe avec les réponses à l’enquête.


Cette entrevue a été révisée par souci de longueur et de clarté.

  • Suivez-nous

Articles liés

  • Une plus grande concurrence accroit la collaboration
    26 octobre 2018
  • Le secret de notre réussite
    17 juin 2016

Soutenez-nous

L’Institut canadien de recherches avancées (CIFAR) est une organisation de recherche d’influence mondiale fièrement basée au Canada. Nous mobilisons les plus brillants personnes du monde, dans toutes les disciplines et à tous les stades de carrière, pour faire progresser les connaissances transformatrices et résoudre ensemble les plus grands problèmes de l’humanité. Nous recevons l’appui des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de particuliers, d’entreprises et d’organisations partenaires du Canada et du monde entier.

Dons
CIFAR footer logo

Centre MaRS, tour Ouest
661, avenue University, bureau 505
Toronto (Ontario) M5G 1M1 Canada

Contactez-nous
Médias
Carrières
Politiques sur l’accessibilité
Bienfaiteurs
Rapports financiers
Abonnez-vous

  • © Copyright 2025 CIFAR. Tous les droits sont réservés.
  • Numéro d’enregistrement d’organisme de bienfaisance : 11921 9251 RR0001
  • Conditions d'utilisation
  • Politique de confidentialité
  • Plan du Site

Souscrire

Rejoignez notre communauté! Restez à jour avec nos nouvelles, événements, conférences et ateliers et dernières découvertes à travers le monde.

Fields marked with an * are required

I prefer to register in English (click here)


S'abonner aux bulletins d'information du CIFAR: *

Vous pouvez vous désabonner de ces communications à tout moment. Consultez notrepolitique de confidentialité.

 À titre d’abonné, vous recevrez aussi un exemplaire numérique de REACH, notre revue annuelle qui met en lumière nos chercheurs et leurs découvertes au moyen d’articles de fond, d’entrevues et d’illustrations.


Si vous souhaitez recevoir une édition papier de la revue REACH, veuillez fournir les renseignements supplémentaires suivants :


Ce site Web enregistre des témoins sur votre ordinateur. Ces témoins sont utilisés pour recueillir des renseignements sur votre interaction avec notre site Web et nous permettre de vous reconnaître. Nous utilisons ces renseignements afin d'améliorer et de personnaliser votre expérience de navigation et à des fins d'analyse et de mesures concernant nos visiteurs, tant sur ce site Web que sur d'autres médias. Pour en savoir plus sur les témoins que nous utilisons, consultez notre politique deconfidentialité.
Accepter En savoir plus

Notifications