Au cours des dernières décennies, des avancées extraordinaires ont été réalisées en ce qui a trait au mode d’apprentissage des systèmes d’intelligence artificielle (IA). L’une de leurs limites est toutefois leur capacité à acquérir de nouvelles connaissances tout en préservant les informations pertinentes existantes, comme le font les humains qui apprennent tout au long de leur vie. Irina Rish, titulaire d’une chaire en IA Canada-CIFAR, est une pionnière dans ce domaine émergent connu sous le nom d’apprentissage continu.
Les systèmes d’IA sont toujours plus performants et plus rapides que les humains lorsqu’ils effectuent des tâches comme l’identification de modèles et la prédiction de résultats. Cependant, ces systèmes manquent souvent de polyvalence et ne réussissent pas à appliquer les compétences acquises à de nouvelles situations. Irina Rish se spécialise dans l’utilisation des propriétés les plus robustes et invariantes de différentes répartitions de données pour permettre aux systèmes d’apprendre continuellement au fil du temps, sans entraînement supplémentaire.
« Les systèmes peuvent s’adapter à de nouvelles données, mais lorsqu’ils sont confrontés à de nouveaux ensembles de données et à de nouvelles tâches, ils expérimentent souvent un oubli catastrophique, un phénomène où les nouvelles informations effacent les anciennes, explique Irina Rish. À l’inverse, l’oubli chez les humains et les animaux semble se produire de façon plus graduelle et moins catastrophique. »
Irina Rish est membre du corps professoral de Mila, l’Institut québécois d’intelligence artificielle, et professeure agrégée au département d’informatique et de recherche opérationnelle de l’Université de Montréal. En septembre 2020, elle a décroché une Chaire d’excellence en recherche du Canada en IA autonome dotée d’un budget de 34 millions de dollars. Auparavant, elle était chercheuse chez IBM à Yorktown Heights, dans l’État de New York.
Selon elle, l’entraînement des systèmes d’IA basés sur les réseaux neuronaux implique un compromis entre « stabilité et plasticité », par exemple entre l’adaptation et la mémorisation. Parfois, un système retient des informations, mais n’est pas capable de s’adapter rapidement (trop de stabilité et pas assez de plasticité) tandis qu’une bonne adaptation peut être malheureusement associée à un oubli rapide. L’objectif ultime de l’apprentissage continu est de parvenir à une adaptation rapide tout en évitant le problème de l’oubli catastrophique.
Les systèmes d’apprentissage continu sont prometteurs pour un large éventail d’applications, notamment en matière d’IA au service la santé, un domaine d’intérêt pour Irina Rish. Elle conçoit des modèles qui utilisent des données d’imagerie cérébrale pour identifier différents problèmes de santé mentale, dont des troubles tels que la dépendance et la schizophrénie. L’apprentissage continu permettrait d’éviter d’avoir à apprendre à partir de zéro avec de nouvelles données en transférant les connaissances acquises auprès de différents patients et hôpitaux, et d’en extraire des schémas d’activité cérébrale robustes associés à des problèmes de santé mentale qui sont invariants dans différents ensembles de données.
L’apprentissage continu peut également être utile pour les véhicules autonomes, qui fonctionnent généralement très bien dans un environnement contrôlé, mais qui ont du mal à s’adapter à des environnements et à des scénarios qu’ils ne connaissent pas.
« Nous visons à développer des algorithmes robustes capables d’apprendre par eux-mêmes en réutilisant les connaissances passées tout en s’adaptant à de nouvelles tâches. En même temps, l’algorithme doit être suffisamment intelligent pour détecter des situations où il n’y a rien de similaire ou d’invariant entre les anciennes et les nouvelles données et pour développer le modèle au besoin, explique Irina Rish. Nos recherches permettront de combler le fossé entre les capacités de généralisation des humains et des systèmes d’IA. »
Irina Rish est chargée de cours à l’École d’été sur l’apprentissage profond et l’apprentissage par renforcement du CIFAR.