Par: Justine Brooks
12 Nov, 2024
Le gouvernement du Canada annonce la création de l’Institut canadien de la sécurité de l’IA
12 novembre 2024
La création du Programme de recherche de l’Institut canadien de la sécurité de l’IA au CIFAR a également été dévoilée
Aujourd’hui, à Montréal, le gouvernement du Canada a annoncé la création de l’Institut canadien de la sécurité de l’IA (ICSIA), qui comprendra un programme de recherche ciblé au CIFAR. Cela fait suite à l’investissement de 50 millions de dollars dans la sécurité de l’IA communiqué en avril, un principe central de la Déclaration de Bletchley (en anglais) pour lequel le Canada s’est engagé à déployer des efforts.
L’ICSIA sera dirigé par Innovation, Sciences et Développement économique Canada. Il collaborera avec des instituts de sécurité de l’IA du monde entier afin d’acquérir une compréhension internationale des risques liés à l’IA. Le Conseil national de recherches du Canada (CNRC) mettra en œuvre un programme de recherche dirigé par le gouvernement, avec une collaboration mondiale, afin de mettre l’accent sur des priorités gouvernementales telles que la cybersécurité et la sécurité nationale.
Une composante clé du nouvel institut est le Programme de recherche de l’ICSIA au CIFAR, qui constituera une communauté de recherche ciblée sur la sécurité de l’IA dans l’ensemble du Canada. Financé par une contribution de 27 millions de dollars du gouvernement du Canada au CIFAR, le Programme de recherche de l’ICSIA sera dirigé par le CIFAR en étroite collaboration avec des institutions de recherche des quatre coins du pays, en particulier les trois instituts nationaux d’IA du Canada : Mila à Montréal, Amii à Edmonton et l’Institut Vecteur à Toronto.
Ce programme approfondira les recherches que les spécialistes du Canada ont déjà entreprises dans les domaines de la sécurité de l’IA, comme la détection de la désinformation produite par l’IA; la garantie d’une adoption sûre de l’IA dans les applications à haut risque, tels les soins de santé; ainsi que la protection de la vie privée dans les systèmes d’IA. Les travaux suivront une approche pluridisciplinaire, faisant appel à des experts et expertes de diverses disciplines pour atténuer et résoudre les risques à court et à long termes liés aux systèmes d’IA.
La feuille de route initiale pour la définition des domaines d’enquête prioritaires du programme sera le rapport scientifique international sur la sécurité de l’IA avancée (en anglais), une initiative mondiale dirigée par le lauréat du prix Turing Yoshua Bengio, fondateur et directeur scientifique de Mila, titulaire de chaire en IA Canada-CIFAR et codirecteur du programme Apprentissage automatique, apprentissage biologique du CIFAR.
Le Programme de recherche de l’ICSIA sera guidé par le Conseil de recherche de l’ICSIA. Ce groupe de spécialistes aux compétences diverses comprendra des scientifiques et des responsables du CIFAR, du CNRC et des trois instituts nationaux d’IA du Canada. Trois postes de membres à titre personnel sont désormais ouverts.
En savoir plus sur le Programme de recherche de l’ICSIA au CIFAR.
Citations
« L’Institut canadien de la sécurité de l’intelligence artificielle propulsera le Canada à l’avant-scène des efforts mondiaux visant l’utilisation responsable de l’IA, et sera un acteur incontournable pour bâtir la confiance de la population à l’endroit de ces technologies. Dans un monde qui évolue rapidement et plein d’incertitudes, les Canadiens peuvent avoir confiance que nous prendrons toujours les mesures nécessaires pour garantir que l’IA qu’ils utilisent est sûre, responsable et digne de confiance. »– L’honorable François-Philippe Champagne, ministre de l’Innovation, des Sciences et de l’Industrie
« Depuis plus de 20 ans, le Conseil national de recherches du Canada est à l’avant-garde de l’IA appliquée responsable. Sous l’égide du nouvel institut, nous mènerons des projets de recherche visant à atténuer les risques et à faire avancer le développement sécuritaire et fiable des systèmes d’IA qui sont essentiels aux priorités gouvernementales et aux objectifs du Canada en matière d’innovation. »
– Mitch Davies, président, Conseil national de recherches du Canada« Alors que le monde cherche à tirer parti du potentiel de l’IA tout en composant avec ses risques, le CIFAR est heureux de participer à la démarche du Canada. Le Programme de recherche de l’ICSIA au CIFAR s’appuiera sur les forces de la communauté scientifique canadienne dynamique afin de faire progresser la recherche de pointe sur la sécurité de l’IA à l’échelle mondiale, au bénéfice de tout le monde. »
– Stephen Toope, président et chef de la direction, CIFAR
« Au fil des décennies, le Canada a mis en place un solide réseau de recherche en IA, notamment grâce à la Stratégie pancanadienne en matière d’IA. Nos scientifiques de renommée mondiale se consacrent pleinement aux questions qui orientent la mise au point d’une IA sécuritaire et responsable. Cette initiative permettra au Canada de continuer à jouer un rôle de premier plan dans la démarche scientifique mondiale en cours et dans le déploiement de cette nouvelle et puissante technologie ».
– Elissa Strome, directrice générale, Stratégie pancanadienne en matière d’IA au CIFAR
« En tant que foyer de certaines sommités mondiales en matière de confiance et de sécurité de l’IA, l’Institut Vecteur a hâte de faire progresser cette expertise au sein du nouvel institut. En communiquant ces orientations à l’échelle mondiale, nous contribuerons à façonner un monde où les applications rendues possibles par l’IA pourront être dignes de confiance, sécuritaires et en phase avec les valeurs humaines. »
– Tony Gaffney, président et chef de la direction, Institut Vecteur
« L’annonce du début des travaux de l’Institut canadien pour la sécurité de l’IA est une étape importante afin d’assurer davantage de compréhension et de confiance autour des systèmes d’IA. De nombreux chercheurs de Mila travaillent déjà sur ces questions et nous sommes très heureux de contribuer aux travaux de l’Institut et Mila collabore depuis plusieurs années avec de grandes organisations internationales en matière de la sécurité de l’IA. Le leadership que le Canada démontre en lançant cet Institut est une excellente nouvelle pour l’avenir. »– Valérie Pisano, cheffe de la direction, Mila
« Le Programme de recherche de l’ICSIA met à profit le leadership du Canada en matière de recherche en IA. Grâce à une collaboration nationale multidisciplinaire, ce programme contribuera à faire du Canada le chef de file de l’adoption sécuritaire de l’IA. Le pays sera bien placé pour accueillir des investissements mondiaux et jouer un rôle de premier plan dans un avenir où les avantages se concrétisent en toute confiance. »
– Cam Linke, chef de la direction, Amii
Photo: Jean Lemieux