Par: Justine Brooks
14 Mai, 2024
Comment pouvons-nous créer une IA qui fonctionne pour tout le monde?
14 mai 2024
Une table ronde dirigée par le CIFAR au World Summit AI montre comment l’IA peut apporter des avantages aux communautés mal desservies
L’IA a été saluée par les médias du monde entier comme la technologie la plus influente depuis l’imprimerie. Mais une question importante se pose : influente pour qui? Lors du World Summit AI Americas de 2024, tenu à Montréal, une table ronde animée par Elissa Strome, directrice générale de la Stratégie pancanadienne en matière d’IA au CIFAR, a mis en vedette des spécialistes qui se penchent justement sur cette question.
Intitulée « L’IA au service du monde », la table ronde a exposé les façons dont ces chefs de file de la recherche affiliés au CIFAR font progresser les systèmes d’IA pour servir les communautés historiquement ignorées ou lésées par les technologies.
« L’éthos central du CIFAR, tel qu’affirmé par notre stratégie récemment renouvelée, consiste à rassembler et à mobiliser les personnes les plus brillantes du monde, dans toutes les disciplines et à tous les stades de leur carrière, pour faire progresser les connaissances transformatrices et résoudre, ensemble, les plus grands problèmes de l’humanité, commente Mme Strome. Le mot ensemble revêt une importance cruciale. Si nous voulons améliorer l’IA et réaliser son potentiel pour faire le bien, nous devons avoir ces conversations avec un bassin de personnes plus large, notamment avec des personnes dont le vécu et les besoins n’ont pas toujours été valorisés ou pris en compte par la science et la technologie. »
Les panélistes ont parlé de la façon dont l’IA a laissé tomber certaines communautés – en renforçant les préjugés existants ou en les excluant tout court – et de la manière dont ils et elles s’efforcent de remédier à ces oublis.
L’inclusivité est essentielle à toute solution, a déclaré Golnoosh Farnadi, titulaire de chaire en IA Canada-CIFAR à Mila et professeure adjointe à l’Université de Montréal. « L’IA représente un défi sociotechnique. Nous ne pouvons pas le considérer comme un simple défi technique; il doit être rattaché à la société. Plutôt que de créer un système pour les gens, les personnes concernées doivent être impliquées dans le processus dès le départ. »
David Ifeoluwa Adelani, nouveau titulaire d’une chaire en IA Canada-CIFAR à Mila qui entrera en fonction en tant que professeur adjoint à l’Université McGill en août, a parlé des travaux entrepris par son groupe pour concevoir des modèles d’apprentissage automatique pour les langues peu dotées en ressources, comme les langues africaines, latino-américaines et autochtones. « Les grands modèles de langage comme ChatGPT fournissent une occasion de préserver les langues minoritaires, mais il est important que ce travail soit mené ou implique les membres des communautés qu’ils cherchent à servir. Si nous y parvenons, j’estime que les technologies linguistiques comme la reconnaissance automatique de la parole et la reconnaissance vocale pourraient être bénéfiques pour ces communautés disposant de ressources limitées, car les modèles actuels sont plus efficaces en fait de données et peuvent être utilisés même en l’absence de contenus étendus provenant de sources comme le Web. »
Colin Clark, directeur de la conception et de la technologie à l’Institut de recherche et de développement sur l’intégration et la société, s’est également joint à la table ronde. M. Clark codirige le réseau de solutions inaugural du CIFAR appelé Data Communities for Inclusion (Communautés de données au service de l’inclusion), qui met au point des ressources aidant les communautés coopératives mal desservies à adopter des outils d’IA pour en tirer des avantages sociétaux et économiques dans des contextes à faibles ressources. En considérant les échanges actuels portant sur les risques hypothétiques de l’IA, M. Clark a fait remarquer que « bien qu’il soit important de réfléchir à l’avenir de l’IA, il importe également de prendre en compte l’incidence que l’IA a déjà aujourd’hui sur les communautés marginalisées. Nous devons cesser d’élaborer des systèmes pour les personnes marginalisées et, au contraire, adopter une pratique de conception dirigée par la collectivité qui implique dès le départ leurs diverses expériences et connaissances. »
Catherine Régis, professeure à l’Université de Montréal et titulaire d’une chaire en IA Canada-CIFAR à Mila, a souligné les lacunes flagrantes des pratiques réglementaires actuelles. « L’autorégulation ne suffit pas. Nous devons exiger davantage de transparence de ceux et celles qui mettent au point des systèmes d’IA, et mieux les surveiller. Nous devons également évaluer les risques associés à un système avant son lancement, à l’aide d’outils comme les analyses d’impact. »
« L’IA peut faire beaucoup de bien dans le monde, mais elle peut aussi renforcer et amplifier les problèmes actuels si nous ne faisons pas attention, affirme Mme Strome. En continuant à soutenir le travail de chercheurs et de chercheuses de premier plan comme les personnes susmentionnées, la Stratégie pancanadienne en matière d’IA au CIFAR jette les bases de l’avenir de la sécurité, de l’équité et de l’inclusion en IA à l’échelle mondiale. »
Articles liés
-
La 20e édition de l’École d’été sur l’APAR amène au Canada les plus brillants esprits du monde dans le domaine de l’IA
24 juillet 2024
-
Des titulaires de chaires en IA Canada-CIFAR se sont réunis à Banff à l’occasion de la rencontre annuelle d’IACan
20 juin 2024
-
Élucider la causalité
13 juin 2024
-
Le CIFAR attribue six nouvelles subventions Catalyseur en IA
23 mai 2024