Suis nous sur

Les algorithmes de recommandation pourraient contribuer aux inégalités

Les systèmes de recommandation numériques, comme ceux utilisés par Netflix et Spotify, rehaussent notre expérience en ligne en nous proposant les genres musicaux et cinématographiques qu’ils croient que nous pourrions aimer. De nouvelles recherches montrent que ces systèmes peuvent aussi influencer nos intérêts et nos préférences culturelles, voire contribuer aux inégalités. L’équipe de spécialistes de l’atelier Intelligence artificielle, recommandations et conservation de la culture du programme IA et société du CIFAR nous prévient que ces algorithmes pourraient avoir des conséquences sur notre façon d’accéder au contenu culturel et sur ce qui nous est offert.

Le CIFAR s’est entretenu avec des membres de l’équipe de l’atelier afin de mieux comprendre comment l’IA et les systèmes de recommandation peuvent influencer la culture.

CIFAR : D’où vient votre intérêt pour les systèmes de recommandation ?

Ashton Anderson : Je me suis intéressé à ce sujet il y a quelques années quand j’ai commencé à travailler pour Spotify. Avec le recul, les problèmes sont assez évidents, mais les algorithmes ne sont pas vraiment des choses que les gens connaissent ou auxquelles ils pensent.

Fernando Diaz : Je suis chercheur chez Google Research à Montréal. Mon domaine, c’est la recherche d’informations, ce qui comprend la recherche Web ou textuelle, mais aussi les systèmes de recommandation. Je travaille dans ce domaine depuis environ 20 ans dans un contexte de recherche industrielle chez Yahoo, Microsoft et Spotify.

Nicole Klassen : Je travaille dans le secteur des médias et des communications depuis bientôt 20 ans. L’une de mes meilleures expériences professionnelles est celle où j’ai appris à connaître les systèmes de recommandation alors que je faisais partie d’une jeune entreprise technologique pour les créatifs africains.

CIFAR : Quelles sont les principales conséquences des systèmes de recommandation sur la culture, notamment pour la musique ?

Ashton Anderson : Le plus souvent, les spécialistes en informatique qui développent des systèmes de recommandation et des algorithmes ne les conçoivent pas spécifiquement pour la musique. L’un des défis de la communauté informatique est de commencer à se pencher sur ces questions. Les systèmes de recommandation les plus populaires sont basés sur un algorithme qui, à l’origine, a été conçu pour le texte, mais qui a été complètement transformé pour des plateformes culturelles de diffusion de musique.

Fernando Diaz : Les systèmes de recommandation conventionnels sont rudimentaires quand on regarde la façon dont ils formulent des recommandations. De nombreux modèles simples se concentrent sur les performances moyennes, ce qui signifie que les recommandations destinées aux personnes issues de groupes sous-représentés sont particulièrement sujettes à l’erreur. Des systèmes comme ceux de Spotify ou de Netflix fonctionnent bien pour les personnes qui font partie de groupes relativement importants, mais pas pour les membres de plus petits groupes. Cela a des répercussions non seulement sur les consommateurs de contenu, mais aussi sur les producteurs, car cela affecte la création de contenu. Par exemple, si je crée de la musique et que je veux la diffuser dans le contexte d’un système de recommandation, je créerai en ayant ce système à l’esprit.

Larisa Mann : Les gens font de la musique pour parler de leur communauté et renforcer leur sentiment d’appartenance à leur manière. Lorsque cette musique est diffusée à d’autres personnes dans des conditions différentes, elle n’a pas la même signification. Les significations sont en partie générées par le public qui s’y intéresse. Si vous diffusez de la musique d’un groupe ethnique particulier, d’une communauté d’immigrants ou de la communauté queer, et que vous la rendez accessible à des personnes qui n’ont aucune obligation ou lien avec cette communauté, cela peut nuire à la compréhension et effacer le lien initial avec cette musique.

Par exemple, il y a un genre musical à la Nouvelle-Orléans appelé « bounce », et certains des grands noms de ce type de musique sont queer ou trans. Quand cette musique est passée dans le monde de la Dance, certains l’ont appelée « sissy bounce » [un terme à connotation homophobe]. À la Nouvelle-Orléans, beaucoup de gens qui font cette musique ne s’identifient pas comme queer ou trans ; certains le font, mais trouvent le terme dégradant. Si votre musique est recommandée dans un genre qui vous confère une identité que vous ne voulez pas, ou qui pourrait être potentiellement dangereuse pour vous, c’est un problème.

Nicole Klassen : Les systèmes de recommandation généralement utilisés dans le domaine culturel sont des algorithmes conçus pour atteindre un objectif commercial précis, et cet objectif est déterminé par les marchés boursiers et les investisseurs. Nous pouvons faire tellement plus avec la technologie si nous établissons des objectifs et des paramètres différents.

Jeremy Morris : L’IA et les systèmes de recommandation algorithmiques sont constitués d’un ensemble de technologies et d’outils spécifiques qui ont des effets réels, comme le type de chansons recommandées par l’IA, ce qui, à son tour, génère des adeptes, des écoutes et des diffusions sur des plateformes comme Spotify. Les artistes peuvent également ajuster leurs chansons, leurs sons et les métadonnées de leurs titres afin d’apparaître plus haut dans les résultats de recherche et de faire en sorte que leur musique soit « prête pour la plateforme ». Pour moi, réfléchir à l’impact futur de l’IA sur la musique et la culture signifie de réfléchir à la technologie, mais aussi à ce que cette technologie peut et doit faire.

CIFAR : Est-ce que les systèmes de recommandation modifient nos préférences culturelles ?

Larisa Mann : Il y a d’immenses inégalités de pouvoir en matière de culture. Pourquoi la musique classique est-elle diffusée dans les gares et pas le Death Metal ? La signification de ces genres fait partie d’une structure de pouvoir qui détermine que l’un est acceptable et respectable, et que l’autre est menaçant. Si nous mettons au monde des systèmes de recommandation sans tenir compte des structures de pouvoir déjà en place, il est très probable qu’ils les aggraveront.

Nicole Klassen : Taylor Swift passe plus souvent à la radio sur notre continent que la plupart des artistes locaux. À moins que les pays n’imposent un quota de contenu local, la radio est réservée aux maisons de disques ou à ceux qui ont de l’argent. Les diffuseurs sud-africains et plusieurs autres diffuseurs africains paient des redevances sur la diffusion. Les étiquettes et les artistes internationaux perçoivent des redevances de nos diffuseurs, ce qui fait qu’ils ont tendance à dominer l’espace. La culture et les artistes locaux ont de moins en moins d’exposition et de redevances en raison des étiquettes et des artistes qui ont le budget nécessaire pour influencer les plateformes. Cette situation est dévastatrice pour un continent culturellement riche comme l’Afrique. Au lieu d’aider la culture, les algorithmes accélèrent la fracture entre les talents créatifs.

Fernando Diaz : Ils proposent une vision déformée de ce que les gens veulent. Le problème, c’est que les algorithmes modélisent ce que les gens veulent maintenant ou ont voulu dans le passé.

Ashton Anderson : Les systèmes de recommandation sont programmés en se fondant sur une hypothèse qui, dans un contexte culturel, est presque certainement fausse. Beaucoup de plateformes utilisent des systèmes qui considèrent que tout le monde perçoit la même similitude entre deux chansons quelconques.

CIFAR : Quelles ont été les principales idées et recommandations issues de l’atelier ?

Larisa Mann : Les communautés doivent autant que possible être impliquées dans la conception des systèmes utilisés dans leur culture. Il ne faut pas seulement y intégrer tout le contenu qui représente différentes personnes, mais faire participer les créateurs de ce contenu. Évidemment, il devrait aussi y avoir plus d’argent qui revient aux communautés et aux créateurs de musique.

Nicole Klassen : Collectivement, nous disposons de beaucoup plus de renseignements sur la façon dont les gens se connectent à la musique et aux systèmes qu’à l’époque où les premières plateformes de recommandation ont été lancées. Comment une scène culturelle ou musicale existe-t-elle sur une plateforme ? Doit-elle être fermée ou ouverte ? Comment un DJ en direct sait-il quand choisir le prochain morceau pour maintenir l’intérêt de son public ? Il serait intéressant d’essayer un système qui n’a pas besoin de satisfaire les investisseurs, qui a des objectifs et des paramètres différents.

L’équipe responsable de l’atelier Intelligence artificielle, recommandations et conservation de la culture du programme IA et société regroupe Ashton Anderson, Université de Toronto, Canada ; Georgina Born, Université d’Oxford, Royaume-Uni ; Fernando Diaz, Google Research à Montréal, Canada ; Jeremy Morris, Université du Wisconsin à Madison, États-Unis.


L’atelier Intelligence artificielle, recommandations et conservation de la culture fait partie d’une série d’ateliers du programme IA et société organisée par le CIFAR en partenariat avec le Centre national de la recherche scientifique (CNRS) de France et l’organisme britannique UK Research and Innovation (UKRI).

Le rapport est publié par le Schwartz Reisman Institute for Technology and Society (SRI) de l’Université de Toronto. Le SRI est un centre de recherche et de solutions multidisciplinaires qui étudie les effets sociaux de puissantes technologies émergentes comme l’intelligence artificielle.

Le programme IA et société, un pilier majeur de la Stratégie pancanadienne en matière d’IA du CIFAR, développe un leadership mondial en fait de réflexion sur les incidences économiques, éthiques, politiques et juridiques des progrès de l’IA. Les ateliers du programme IA et société visent à mieux comprendre les répercussions de l’IA sur la société et à recommander des approches sociotechniques pour soutenir une IA responsable.

Soutenez-nous

Le CIFAR est un organisme de bienfaisance enregistré qui reçoit le soutien des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de donateurs individuels, d’entreprises et de partenaires canadiens et internationaux.

Centre MaRS, tour Ouest
661, avenue University, bureau 505
Toronto (Ontario) M5G 1M1 Canada