Réduire les biais dialectaux
Peut-on développer et déployer de grands modèles de langage d’une manière socialement responsable qui puisse à la fois prévenir les préjudices et assurer l’équité numérique d’un large éventail de communautés linguistiques?
L’essor mondial des grands modèles de langage constitue l’une des priorités des leaders technologiques et des gouvernements. Leur adoption massive pose toutefois un risque majeur pour la sécurité de millions de personnes. Pour les quelque 140 millions de locuteurs et locutrices du pidgin nigérian, ces systèmes d’IA avancés peuvent être des vecteurs de censure, de discrimination et d’exclusion numérique.
En raison de plusieurs obstacles systémiques, tels que la forte sous-représentation des dialectes marginalisés dans les données d’entraînement, le manque d’outils d’évaluation tenant compte des différences culturelles et les cadres réglementaires embryonnaires, il est difficile d’étendre des systèmes d’IA monolingues à la fois sûrs et inclusifs à l’ensemble des populations mondiales. Or, les communautés dont le dialecte n’est pas pris en compte dans le développement de l’IA sont moins susceptibles de profiter des progrès technologiques et davantage exposées aux préjudices causés par les biais algorithmiques, une situation qui perpétue ce qu’on peut appeler un « cycle d’exclusion numérique ».
Lever les obstacles à une IA sûre et équitable exige des efforts concertés de la part des équipes de développement, des chercheuses et chercheurs et des responsables politiques. Ces efforts se heurtent toutefois à l’absence d’outils d’analyse capables de mesurer et d’atténuer les risques de biais pour l’ensemble des populations — biais qui peuvent amener les modèles à considérer systématiquement la manière de parler d’une personne comme injurieuse, inappropriée ou nuisible.
Ce Réseau de solutions se consacrera à la cocréation citoyenne et socialement responsable d’indicateurs de biais dialectaux, d’outils d’atténuation et de solutions politiques, en collaboration avec une équipe multiculturelle du Canada et de l’Afrique, et avec la participation directe de communautés locutrices du pidgin nigérian.
Fondation
2025
Partenaires de recherche
Centre de recherches pour le développement international (CRDI), CIFAR
Personne-ressource
Gagan Gill
Directeur associé, Sécurité de l’IA
Rencontrez les membres de ce Réseau de solutions du CIFAR :
Deborah Damilola Adeyemo
Membre des Réseaux de solutions
Réduire les biais dialectaux
Wenhu Chen
Membre des Réseaux de solutions
Titulaire de chaire en IA Canada-CIFAR
Réduire les biais dialectaux
Stratégie pancanadienne en matière d’IA
Thomas-Michael Emeka Chukwumezie
Membre des Réseaux de solutions
Réduire les biais dialectaux
Blessing Ogbuokiri
Coresponsable, Réseau de solutions
Réduire les biais dialectaux
Laleh Seyyed-Kalantari
Coresponsable, Réseau de solutions
Réduire les biais dialectaux
Vector Institute
Collins Nnalue Udanor
Membre des Réseaux de solutions
Réduire les biais dialectaux
Soutenez-nous
L’Institut canadien de recherches avancées (CIFAR) est une organisation de recherche d’influence mondiale fièrement basée au Canada. Nous mobilisons les plus brillants personnes du monde, dans toutes les disciplines et à tous les stades de carrière, pour faire progresser les connaissances transformatrices et résoudre ensemble les plus grands problèmes de l’humanité. Nous recevons l’appui des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de particuliers, d’entreprises et d’organisations partenaires du Canada et du monde entier.