Le rôle fondateur du Canada en IA générative

Par: Kathleen Sandusky

20 Oct, 2023

20 octobre 2023

Image generated by AI showing a robot looking at a mirror, wearing a red hat and scarf, with a Canadian flag in the background.

La forte compétitivité du Canada dans le domaine de l’IA générative trouve son origine dans le soutien de longue date du Canada à une recherche responsable en matière d’IA.

L’année écoulée a été déterminante dans le domaine de l’intelligence artificielle, notamment en raison de la publication de plusieurs modèles d’IA générative (ou modèles fondateurs) qui peuvent être utilisés par des personnes n’ayant aucune formation en apprentissage automatique. La puissance potentielle des outils d’IA générative est de plus en plus évidente, et cette technologie – accessible depuis moins d’un an – est rapidement devenue celle dont on parle le plus sur la planète, avec des millions de retombées médiatiques et des milliers de cours accélérés pour les cadres supérieurs. Mais combien d’entre nous connaissent ses origines canadiennes?

Aujourd’hui, un Canadien sur cinq utilise des outils d’IA générative au travail ou à l’école. Par personne, le Canada se classe au troisième rang des pays du G7 pour le financement total des entreprises d’IA générative et au quatrième rang dans le monde pour le nombre d’entreprises d’IA générative. Ce n’est pas une coïncidence : c’est la recherche financée par le Canada depuis plusieurs décennies – en grande partie soutenue par le CIFAR – qui nous a permis de réaliser des avancées majeures dans le domaine de l’IA générative et de prendre la voie du succès.

Les principales avancées à l’origine des fondements de l’IA générative ont été réalisées par les responsables scientifiques des trois instituts nationaux d’IA du Canada dans le cadre de la Stratégie pancanadienne en matière d’IA. Il s’agit des personnes suivantes :

Geoffrey Hinton, conseiller scientifique en chef, Institut Vecteur

Les avancées fondamentales qui ont conduit à l’explosion des technologies d’IA générative trouvent leur origine dans la recherche canadienne, notamment celle sur l’apprentissage profond, la technique sur laquelle repose l’IA générative. Pendant des décennies, l’apprentissage profond est demeuré un domaine relativement obscur de l’informatique. Mais il a connu un regain d’intérêt en 2012 lors de la présentation du réseau de neurones AlexNet (en anglais) par Geoffrey Hinton, de concert avec ses étudiants de l’Université de Toronto Alex Krizhevsky et Ilya Sutskever (qui a cofondé OpenAI). À l’époque, il était le directeur du programme Apprentissage automatique, apprentissage biologique du CIFAR, dont il est aujourd’hui le conseiller, en plus d’être conseiller scientifique en chef de l’Institut Vecteur. Ce nouveau modèle a dominé la compétition ImageNet de 2012, surpassant le deuxième en lice par un étonnant 41 %. À ce jour, il s’agit de l’article de Geoffrey Hinton qui a eu le plus grand impact avec plus de 140 000 citations, car il a ouvert la voie à l’apprentissage profond.

Richard Sutton, conseiller scientifique en chef, Amii

L’apprentissage par renforcement a été décrit par Sam Altman d’OpenAI comme la « magie » (en anglais) derrière ChatGPT. Cette avancée repose en grande partie sur les travaux de Richard Sutton, aujourd’hui conseiller scientifique en chef d’Amii, qui a rédigé le premier manuel (en anglais) sur le sujet. Recruté au Canada en 2003 par l’Université de l’Alberta, Richard Sutton a depuis contribué à la formation de milliers de chercheurs et chercheuses, en personne à l’Amii et en ligne dans le cadre d’un cours en ligne ouvert à tous (en anglais) qu’il a développé avec Martha White et Adam White, titulaires de chaires en IA Canada-CIFAR à l’Amii. Grâce à l’apprentissage par renforcement, les agents intelligents se voient assigner un objectif et apprennent par essais et erreurs à maximiser les récompenses et à minimiser les pénalités, comme le font les organismes vivants dotés d’un cerveau. Mais aussi puissant que soit l’apprentissage par renforcement pour les modèles génératifs, Richard Sutton vise aujourd’hui encore plus haut : comprendre la conscience, y compris la nature même de l’intelligence.

Yoshua Bengio, directeur scientifique, Mila

Prenez le « T » de ChatGPT, qui signifie « transformeur ». Cette réalisation, qui joue un rôle clé dans les grands modèles de langage plus rapides d’aujourd’hui, a des liens étroits avec le Canada et le CIFAR, puisqu’elle a été entreprise par des chercheurs affiliés au CIFAR. C’est Yoshua Bengio, aujourd’hui directeur scientifique de Mila, titulaire d’une chaire en IA Canada-CIFAR et coresponsable du programme Apprentissage automatique, apprentissage biologique, qui est à l’origine d’une grande partie de cette révolution. En 2014 (en anglais), Yoshua Bengio et ses étudiants de l’époque, Dzmitry Bahdanau (aujourd’hui titulaire d’une chaire en IA Canada-CIFAR à Mila) et Kyunghyun Cho (qui a été formé à Mila, a fréquenté l’École d’été APAR au début de sa carrière et est aujourd’hui membre du programme Apprentissage automatique, apprentissage biologique du CIFAR), ont proposé une méthode pour améliorer la capacité des réseaux de neurones à traduire une langue en reconnaissant avec plus de souplesse les mots à valeur élevée dans des phrases de longueur variable. Par la suite, la communauté de recherche mondiale en IA a mené des travaux pour faire progresser les transformeurs afin d’améliorer les grands modèles de langage, ce qui était essentiel pour concevoir des outils d’IA générative basés sur le langage tels que ChatGPT.

Le Canada, chef de file du secteur de l’IA générative

Aujourd’hui, le Canada est l’un des protagonistes des dernières avancées de la recherche et des applications commerciales de l’IA générative. Le Canada est fier de se classer au quatrième rang mondial tant pour le nombre de jeunes pousses en IA que pour les investissements qu’elles ont générés. En tête de liste de ces entreprises se trouve Cohere, une société de Toronto qui change la donne dans la Silicon Valley. Au total, plus de 30 entreprises aident les entreprises de tous les secteurs à déployer des outils d’IA générative responsable adaptés à leurs modèles d’affaires.

Dans les instituts nationaux d’IA du Canada, les titulaires de chaires en IA Canada-CIFAR continuent à faire progresser la science et les applications de l’IA générative. Par exemple, à Mila, Yoshua Bengio et Doina Precup ont rédigé en 2021 le premier article sur les réseaux de flot génératifs (en anglais), lançant un sous-domaine de recherche qui permet d’accélérer la découverte de nouveaux médicaments et de molécules prometteuses pour le traitement des maladies. À l’Institut Vecteur, Wenhu Chen fait évoluer de nouveaux modèles génératifs qui peuvent être utilisés pour améliorer les prévisions (en anglais) dans de nombreux domaines, y compris les prévisions liées à la production d’énergie des centrales solaires, à la consommation d’électricité et au domaine du transport. À l’Amii, Alona Fyshe utilise l’IA générative pour développer des plateformes d’apprentissage adaptées aux besoins des étudiants.

Le rôle du Canada dans la sécurité de l’IA aujourd’hui

Les progrès de la recherche en IA générative sont étroitement liés au fait que la communauté de recherche canadienne et internationale reconnaît que cette technologie a le potentiel d’être largement adoptée et, en conséquence, qu’elle doit être développée et déployée de manière responsable afin d’atténuer les risques qui y sont associés. De plus, il importe de parvenir à une compréhension commune de la manière de gérer ces risques au moyen de la réglementation.

Ici, des chercheurs affiliés au CIFAR jouent un rôle important en contribuant à tracer la voie à suivre au niveau mondial. Ainsi, les lauréats du prestigieux prix Turing en 2018, Yoshua Bengio, Geoffrey Hinton et Yann LeCun (membre du programme Apprentissage automatique, apprentissage biologique du CIFAR) occupent tous des fonctions de conseil auprès des gouvernements internationaux.

En plus de conseiller le gouvernement canadien sur des questions telles que le Code de conduite volontaire visant un développement et une gestion responsables des systèmes d’IA générative avancés, Yoshua Bengio est membre du Conseil consultatif scientifique des Nations unies, chargé de donner un avis indépendant sur les percées scientifiques et technologiques, ainsi que du Frontier AI Taskforce du Royaume-Uni. Yoshua Bengio et Yann LeCun ont tous deux témoigné devant la sous-commission du Sénat américain sur la vie privée, la technologie et le droit. Geoffrey Hinton a conseillé des gouvernements et des entreprises du monde entier sur la sécurité des technologies de l’IA. Tous trois ont été cités dans des milliers d’entrevues et de reportages sur les risques de l’IA et, bien que leurs points de vue divergent parfois, leurs débats sont menés de manière scientifique et respectueuse. Tous s’accordent à dire qu’une certaine forme de réglementation est nécessaire.

« L’IA est un outil puissant qui peut apporter d’immenses bénéfices à l’humanité, mais qui comporte également des risques importants s’il n’est pas utilisé de manière responsable », commente Elissa Strome, directrice générale de la Stratégie pancanadienne en matière d’IA au CIFAR. « Le CIFAR travaille en étroite collaboration avec tous ses partenaires pour faire progresser l’utilisation responsable de l’IA, et nous sommes heureux de constater que la réglementation de l’IA fait l’objet d’une grande attention, car il s’agit d’une technologie qui a déjà des répercussions sur chacun d’entre nous, et dont l’importance ne fera que croître. Tout comme le Canada a ouvert la voie en développant cette technologie, nous contribuerons à guider le monde vers une utilisation responsable. »

Image générée à l’aide d’Adobe Firefly avec l’invite « Robot regardant dans un miroir un drapeau canadien, le robot porte une tuque et une écharpe tricotées rouges. » Le CIFAR a adopté des principes pour une utilisation responsable de l’IA générative, qui comprennent l’étiquetage des images avec la source et l’invite. Le modèle Firefly est formé sur les images Adobe Stock, le contenu sous licence ouverte et le contenu du domaine public dont le droit d’auteur a expiré.

Soutenez-nous

L’Institut canadien de recherches avancées (CIFAR) est une organisation de recherche d’influence mondiale fièrement basée au Canada. Nous mobilisons les plus brillants personnes du monde, dans toutes les disciplines et à tous les stades de carrière, pour faire progresser les connaissances transformatrices et résoudre ensemble les plus grands problèmes de l’humanité. Nous recevons l’appui des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de particuliers, d’entreprises et d’organisations partenaires du Canada et du monde entier.

Dons