Par: Justine Brooks
31 Jan, 2025
Reihaneh Rabbany, Mila : détecter la désinformation en ligne
janvier 31, 2025
Reihaneh Rabbany, Titulaire d’une chaire en IA Canada-CIFAR, Mila
Avec l’explosion des grands modèles de langage comme ChatGPT, il est plus facile que jamais d’obtenir de l’information rapidement ou de générer du contenu tel que des articles ou des images. Cette percée multiplie toutefois les possibilités, pour les personnes mal intentionnées, de créer des contenus faux ou trompeurs qui sont à la fois crédibles et de grande qualité.
Reihaneh Rabbany, titulaire d’une chaire en IA Canada-CIFAR et professeure adjointe à l’Université McGill, tire parti des grands modèles de langage pour détecter la désinformation. En collaboration avec son cochercheur principal, Jean-François Godbout, elle s’affaire actuellement à créer une application utilisateur qui permet de vérifier l’authenticité de l’information véhiculée en ligne. Cette application sera mise à la disposition du public, la sortie du prototype étant prévue pour mars 2025.
« Notre manière d’agir et de prendre des décisions en tant que société est fortement influencée par l’information que nous recevons, explique Reihaneh Rabbany. Pendant la COVID, par exemple, nous avons vu comment l’information trouvée en ligne incitait les gens à prendre ou non des mesures comme se faire vacciner — ce qui, dans certains cas, pouvait être une question de vie ou de mort. »
Beaucoup de gens prennent l’information publiée en ligne pour de l’argent comptant. En effet, un récent sondage IPSOS-UNESCO révèle que 50 % des personnes interrogées font confiance à l’information qu’elles trouvent sur les médias sociaux. Comme le souligne Mme Rabbany, les perceptions du public sont souvent façonnées par ce qui circule en ligne. Cette situation revêt une importance particulière dans le contexte politique, poursuit-elle, parce que l’opinion publique dicte souvent les décisions des élus et le fonctionnement de la société.
Le projet vise à doter les gens d’outils leur permettant d’obtenir de l’information de meilleure qualité et de prendre des décisions plus éclairées. L’application sera équipée d’une fonction de recherche destinée aux personnes utilisatrices et permettra au grand modèle de langage d’accéder au Web ouvert afin d’extraire des documents ou des sources d’information. Bien qu’en principe l’application puisse analyser des données de toutes sortes, le prototype sera entraîné et évalué dans le contexte des événements politiques et des élections à venir au Canada au cours des deux prochaines années.
Malgré tout, les travaux savants réalisés dans le cadre du projet sont tout à fait transposables à l’échelle mondiale, précise Reihaneh Rabbany. Avec son équipe, elle espère développer des collaborations à long terme avec d’autres pays, en particulier les États-Unis, afin d’élargir l’utilisation et la portée de l’application.
La première collaboration de Reihaneh Rabbany et de Jean-François Godbout sur cet enjeu remonte au projet intitulé « L’intelligence politique à l’ère de la désinformation », financé en 2020 par une subvention Catalyseur en IA du CIFAR. Reihaneh Rabbany souligne l’importance du financement accordé par le CIFAR dans la genèse de ce projet :
« La subvention Catalyseur a été l’élément déclencheur qui nous a permis de réunir une équipe et de financer les deux premières années de notre collaboration. Grâce à ce coup de pouce, nous avons pu obtenir davantage de financement, agrandir l’équipe et mener le projet encore plus loin. »
Reihaneh Rabbany, Titulaire d’une chaire en IA Canada-CIFAR, Mila