Comme les agents autonomes pourraient bient\u00f4t foisonner dans notre monde, il serait bon d\u2019int\u00e9grer une boussole morale \u00e0 leur programmation. Mais quelle morale choisir comme mod\u00e8le?<\/p>\n
Imaginez que vous \u00eates en voiture avec votre famille quand, tout \u00e0 coup, un chat saute devant votre v\u00e9hicule. Allez-vous faire une embard\u00e9e pour \u00e9viter le chat et ainsi risquer de vous \u00e9craser contre un mur et mettre votre famille en danger, ou bien allez-vous continuer tout droit? Et s\u2019il ne s\u2019agissait pas d\u2019un chat, mais d\u2019un enfant? Ou d\u2019une personne \u00e2g\u00e9e? En quoi cela change-t-il votre calcul moral?<\/p>\n
Voil\u00e0 l\u2019essence d\u2019un c\u00e9l\u00e8bre dilemme philosophique, appel\u00e9 le probl\u00e8me du tramway, qui constituera bient\u00f4t plus qu\u2019une simple exp\u00e9rience de la pens\u00e9e. Nombreux sont ceux qui soutiennent qu\u2019au cours des prochaines ann\u00e9es, \u00e0 mesure que nous transf\u00e9rerons diverses responsabilit\u00e9s \u00e0 des machines, comme la conduite automobile, nous devrons programmer des voitures autonomes aptes \u00e0 soupeser ces consid\u00e9rations.<\/p>\n
Afin de comprendre qui sauver, des chercheurs du MIT ont con\u00e7u un site Web appel\u00e9 Moral Machine qui a pr\u00e9sent\u00e9 \u00e0 des millions de personnes diverses permutations du probl\u00e8me du tramway au cours des deux derni\u00e8res ann\u00e9es. Deux chiens et un braqueur de banque dans la voiture contre une femme et un b\u00e9b\u00e9 qui traversent la rue \u00e0 un endroit interdit. Quatre athl\u00e8tes f\u00e9minines contre quatre hommes qui traversent la rue au bon endroit. Les possibilit\u00e9s sont presque infinies.<\/p>\n
Apr\u00e8s 40\u00a0millions de r\u00e9ponses en neuf langues provenant de 233\u00a0pays, les chercheurs ont publi\u00e9 dans la revue Nature des r\u00e9sultats qui r\u00e9v\u00e8lent que la personne moyenne tend \u00e0 sauver les jeunes, le plus grand groupe de personnes pr\u00e9sent et les humains. Cela peut sembler logique, mais un examen plus approfondi des donn\u00e9es a \u00e9galement r\u00e9v\u00e9l\u00e9 des diff\u00e9rences culturelles frappantes. Dans les pays orientaux, comme la Chine et le Japon, par exemple, la pr\u00e9f\u00e9rence est plus marqu\u00e9e pour les personnes \u00e2g\u00e9es. Dans les pays du Sud, comme ceux d\u2019Am\u00e9rique latine, les gens ont tendance \u00e0 \u00e9pargner les personnes de statut sup\u00e9rieur. Dans les pays occidentaux, comme le Canada et les \u00c9tats-Unis, les gens pr\u00e9f\u00e8rent l\u2019inaction \u00e0 l\u2019action et r\u00e9sistent donc \u00e0 l\u2019id\u00e9e que les v\u00e9hicules autonomes tentent par tous les moyens de frapper un pi\u00e9ton, peu importe qui se trouve dans la voiture.<\/p>\n
Avec un ensemble de donn\u00e9es aussi vaste, il y a d\u2019innombrables fa\u00e7ons d\u2019interpr\u00e9ter les r\u00e9sultats. Cons\u00e9quemment, pour avoir une meilleure id\u00e9e de ce que tout cela signifie, nous nous sommes entretenus avec Joe Henrich<\/a>, l\u2019un des auteurs de l\u2019article. Henrich est professeur au d\u00e9partement de biologie \u00e9volutive humaine de l\u2019Universit\u00e9 Harvard et Boursier principal au sein du programme Institutions, organisations et croissance<\/a>\u00a0du CIFAR.<\/p>\n Nous avons eu un entretien t\u00e9l\u00e9phonique avec le professeur Henrich quelques jours apr\u00e8s la publication de l\u2019article dans Nature<\/em>.<\/p>\n Comment avez-vous particip\u00e9 au projet?<\/strong><\/p>\n J\u2019ai surtout particip\u00e9 en tentant de trouver une fa\u00e7on d\u2019analyser les donn\u00e9es et de comprendre les variations. Iyad Rahwan et son \u00e9tudiant dipl\u00f4m\u00e9 Edmond Awad ont fait le gros du travail. Les autres ont particip\u00e9 \u00e0 diverses \u00e9tapes du processus d\u2019analyse et ont aussi tent\u00e9 de trouver une interpr\u00e9tation d\u2019ensemble, ainsi qu\u2019une approche analytique. Azim Shariff, un autre des auteurs, est un de mes anciens \u00e9l\u00e8ves et, au fur et \u00e0 mesure que les donn\u00e9es arrivaient, il m\u2019a demand\u00e9 conseil sur la fa\u00e7on de les analyser. J\u2019ai donc commenc\u00e9 \u00e0 lui dire ce que je pensais. Puis, apr\u00e8s cette conversation, ils m\u2019ont invit\u00e9 \u00e0 devenir l\u2019un des auteurs et \u00e0 continuer \u00e0 les conseiller.<\/p>\n Pourquoi ces r\u00e9sultats sont-ils importants?<\/strong><\/p>\n \u00c0 l\u2019examen des donn\u00e9es, on devrait peut-\u00eatre s\u2019interroger sur toutes sortes de d\u00e9cisions politiques, car si les gens dans diff\u00e9rentes soci\u00e9t\u00e9s ont des moralit\u00e9s assez diff\u00e9rentes quant \u00e0 leurs priorit\u00e9s, les choix politiques des uns et des autres seront tr\u00e8s diff\u00e9rents. Que l\u2019on donne la priorit\u00e9 aux personnes \u00e2g\u00e9es, \u00e0 l\u2019influence du statut, \u00e0 l\u2019importance de la majorit\u00e9 ou \u00e0 toutes sortes d\u2019autres facteurs sociaux.<\/p>\n Nous n\u2019essayons pas de prescrire des mesures politiques sp\u00e9cifiques, mais c\u2019est utile pour les d\u00e9cideurs politiques de savoir au moins comment les gens de la base, les gens de ces diff\u00e9rents pays, font des choix pour d\u00e9terminer quel devrait \u00eatre le compromis. Bien s\u00fbr, ce sont aux d\u00e9cideurs que reviennent les d\u00e9cisions. Mais si cela va \u00e0 l\u2019encontre de ce que la plupart des gens veulent, il faut le savoir.<\/p>\n Avez-vous \u00e9t\u00e9 surpris par l\u2019un ou l\u2019autre des r\u00e9sultats?<\/strong><\/p>\n On avait d\u00e9j\u00e0 pr\u00e9tendu par le pass\u00e9 qu\u2019il n\u2019y avait pas beaucoup de variations culturelles dans des probl\u00e8mes du genre, comme le probl\u00e8me du tramway, que les gens \u00e0 travers le monde seraient relativement coh\u00e9rents dans leurs r\u00e9ponses. Mais d\u2019apr\u00e8s quelques exp\u00e9riences ponctuelles que j\u2019ai r\u00e9alis\u00e9es et le travail exp\u00e9rimental d\u2019autres personnes, je soup\u00e7onnais qu\u2019il y aurait beaucoup de variations culturelles. En cons\u00e9quence, ce qui m\u2019a vraiment intrigu\u00e9 dans les r\u00e9sultats, c\u2019est qu\u2019il y a une \u00e9norme variation culturelle dans la fa\u00e7on dont les gens trouvent un \u00e9quilibre entre ces diff\u00e9rents compromis, comme \u00e9pargner les personnes \u00e2g\u00e9es ou les passagers, \u00e9pargner les hommes ou les femmes.<\/p>\n L\u2019une des choses int\u00e9ressantes que je trouve quelque peu intrigante est la question de faire le plus de bien pour le plus grand nombre de personnes \u2014 l\u2019utilitarisme. Beaucoup de gens souscrivent \u00e0 une vision utilitariste du monde. Mais ce que nous avons constat\u00e9, c\u2019est que les pays les plus utilitaires \u00e9taient ceux qui \u00e9taient les plus individualistes. En d\u2019autres termes, l\u2019utilitarisme est une philosophie \u00e0 laquelle on pense quand on est suffisamment individualiste. Les philosophes ont tendance \u00e0 penser que l\u2019utilitarisme sort du domaine de la pens\u00e9e pure, mais on peut le voir en fait comme le produit d\u2019une psychologie individualiste.<\/p>\n Voici un autre r\u00e9sultat contre-intuitif\u00a0: en g\u00e9n\u00e9ral, il y a un pr\u00e9jug\u00e9 en faveur des femmes, de sorte qu\u2019on ne dit pas \u00e0 la voiture de faire une embard\u00e9e sur des femmes ou d\u2019\u00e9craser la voiture dans laquelle se trouve une femme. Mais l\u00e0 o\u00f9 il y a plus d\u2019in\u00e9galit\u00e9 entre les sexes, il y a plus de favoritisme envers les femmes. En augmentant l\u2019\u00e9galit\u00e9 entre les sexes et la valeur des femmes dans la soci\u00e9t\u00e9, vous augmentez \u00e9galement la probabilit\u00e9 que les gens disent\u00a0: \u00ab\u00a0Eh bien, la voiture devrait traiter les hommes et les femmes plus \u00e9quitablement\u00a0\u00bb. Donc, vous faites plus de mal aux femmes.<\/p>\n Compte tenu de ces diff\u00e9rences culturelles, qui s\u2019occupera de programmer l\u2019\u00e9thique dans les voitures autonomes?<\/strong><\/p>\n Il s\u2019agit l\u00e0 d\u2019une grande question ouverte, car vous pourriez demander \u00e0 chaque acheteur de programmer son propre syst\u00e8me. Ensuite, ils ach\u00e8teraient probablement des voitures qui prot\u00e8gent toujours le passager. Mais on pourrait aussi songer \u00e0 imposer des r\u00e8glements. Et il faudrait d\u00e9cider \u00e0 quelle \u00e9chelle le faire. Voulons-nous des normes mondiales? Des normes nationales? Des normes locales? Cette \u00e9tude a d\u00e9montr\u00e9 des variations d\u2019un pays \u00e0 l\u2019autre, mais il y a aussi beaucoup de variations au sein des pays. Et c\u2019est sur quoi nous nous penchons actuellement. Nous examinons le cas de l\u2019Inde, par exemple, et nous explorons les variations r\u00e9gionales de ces diff\u00e9rences d\u2019un pays \u00e0 l\u2019autre.<\/p>\n Avez-vous des conversations sur ce sujet lors des r\u00e9unions du programme Institutions, organisations et croissance?<\/strong><\/p>\n Eh bien, je pense que ces conversations ont commenc\u00e9. Et cette \u00e9tude repr\u00e9sente un bon point de d\u00e9part. En tant que groupe, nous nous int\u00e9ressons beaucoup aux effets de divers facteurs, comme les robots et l\u2019intelligence artificielle, sur le monde. Je n\u2019ai pas \u00e9t\u00e9 t\u00e9moin de discussions particuli\u00e8res sur l\u2019\u00e9thique ou sur la fa\u00e7on de programmer l\u2019\u00e9thique dans l\u2019intelligence artificielle, mais il y a un certain nombre de membres du groupe qui s\u2019int\u00e9ressent \u00e0 cette question et je crois que les conversations iront dans cette direction.<\/p>\n Quelles sont les prochaines \u00e9tapes de ce projet?<\/strong><\/p>\n Les donn\u00e9es sont vraiment riches et ce n\u2019\u00e9tait que notre premi\u00e8re incursion dans le domaine. Nous voulions simplement publier l\u2019\u00e9tude et susciter le d\u00e9bat. Mais j\u2019examine maintenant les donn\u00e9es beaucoup plus en d\u00e9tail avec des \u00e9conomistes en stage postdoctoral dans mon laboratoire. Par exemple, nous savons o\u00f9 les gens se trouvaient quand ils ont r\u00e9pondu aux questions et cela nous permet d\u2019analyser diverses choses, comme des effets \u00e9cologiques ou des grappes culturelles au sein des pays. De plus, \u00e0 l\u2019aide de l\u2019imagerie satellitaire, nous pouvons examiner les effets du revenu \u00e0 une \u00e9chelle tr\u00e8s localis\u00e9e. Cela peut para\u00eetre fou, mais l\u2019imagerie satellitaire la nuit peut vous renseigner sur l\u2019\u00e9clairage dans toutes les r\u00e9gions de la plan\u00e8te. Et il y a une corr\u00e9lation forte entre l\u2019\u00e9clairage, et la croissance \u00e9conomique et la production. Cons\u00e9quemment, nous pouvons attribuer \u00e0 chaque r\u00e9gion d\u2019un pays une mesure de son PIB, puis nous pourrons examiner diverses choses, comme le revenu et le lien qui existe avec les r\u00e9ponses \u00e0 l\u2019enqu\u00eate.<\/p>\n Cette entrevue a \u00e9t\u00e9 r\u00e9vis\u00e9e par souci de longueur et de clart\u00e9.<\/p>\n","protected":false},"excerpt":{"rendered":" Comme les agents autonomes pourraient bient\u00f4t foisonner dans notre monde, il serait bon d\u2019int\u00e9grer une boussole morale \u00e0 leur programmation. Mais quelle morale choisir comme […]<\/p>\n","protected":false},"author":65,"featured_media":15247,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1771,927],"tags":[831],"class_list":["post-21238","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nouvelles","category-recherche","tag-joseph-henrich-2"],"acf":[],"yoast_head":"\n
\n