Par: Juanita Bawagan
18 Sep, 2018
Plus de 250 étudiants de 20 pays ont participé à l’école d’été
Au Salon de l’emploi et des données en IA de l’Institut Vecteur (Vector AI Job & Data Fair), l’auditorium est rempli de centaines des plus brillants étudiants en IA du monde. Ils sont venus participer à l’École d’été sur l’apprentissage profond et l’apprentissage par renforcement, un événement de marque. Grâce à la présence de kiosques d’entreprises technologiques, de laboratoires industriels et d’hôpitaux de recherche, les conversations ce soir pourraient constituer un premier pas vers la résolution de grandes questions en soins de santé, en finances et dans d’autres domaines.
Mais la grande attraction est la conférence des trois pionniers de l’IA qui sont sur le point de monter sur scène : Geoffrey Hinton, Yoshua Bengio et Richard Sutton. Les boursiers du CIFAR sont vus comme les parrains de l’IA et il n’y a aucun besoin de les présenter à ce groupe.
Ces trois scientifiques ont inspiré un grand nombre des étudiants diplômés et des stagiaires postdoctoraux présents à entreprendre une carrière de chercheur en IA au Canada ou de venir de l’étranger pour participer à l’école d’été.
Hinton a commencé son allocution en relatant l’histoire des réseaux neuronaux – un domaine de l’IA qui s’inspire du cerveau humain. Pendant longtemps, cette question a été écartée, même par d’autres chercheurs en IA.
« Les spécialistes de l’IA voulaient résoudre le raisonnement, alors que les spécialistes des réseaux neuronaux voulaient résoudre la biologie », dit Hinton. « La bataille a duré 60 ans. »
Hinton et ses collègues ont persévéré et, grâce à l’amélioration de la puissance de calcul, les réseaux neuronaux ont commencé à fonctionner et ont mené à la révolution de l’apprentissage profond.
« C’est en ce moment que ça se passe », dit Sutton. « Et ça se passe ici au Canada. C’est fantastique, n’est-ce pas? »
En 2017, le gouvernement du Canada a annoncé la Stratégie pancanadienne en matière d’IA, assortie d’un financement de 125 millions de dollars, dirigée par le CIFAR. La stratégie a appuyé la création de trois nouveaux instituts d’IA – Amii à Edmonton, Institut Vecteur à Toronto et MILA à Montréal – qui misent sur les centres d’expertise en apprentissage automatique établis par Hinton, Bengio et Sutton au fil de plusieurs décennies.
L’intérêt à l’échelle mondiale pour l’IA s’intensifie et l’école d’été demeure un forum exceptionnel et important pour la prochaine génération de chercheurs en IA. La période de questions avec Hinton, Bengio et Sutton en fait foi. Hinton a partagé ses nouvelles réflexions sur la pensée, Bengio a soupesé les avantages du milieu universitaire et de l’industrie, et Sutton a partagé sa vision de l’avenir de l’IA. Leurs conseils étaient empreints de candeur et d’humour, et dégageaient cette même convivialité qui émanait des plus petites écoles d’été des années passées.
En 2005, le programme Apprentissage automatique, apprentissage biologique du CIFAR (appelé alors Calcul neuronal et perception adaptative) a tenu sa première école d’été. S’y sont réunis des boursiers du CIFAR et leurs stagiaires du Canada, d’Israël, de Finlande, d’Écosse et des États-Unis.
Pour cette école d’été, Hinton souhaitait reproduire le modèle des Connectionist Summer Schools qu’il avait organisées avec Terry Sejnowski, Conseiller du CIFAR, et qui ont joué un rôle influent dans l’avancement de la recherche sur les réseaux neuronaux. À l’époque, les méthodes de l’apprentissage profond ne faisaient pas encore partie du programme universitaire général et étaient mal représentées lors des conférences en IA. L’école avait deux objectifs : l’avancement de la recherche et le perfectionnement de la prochaine génération de spécialistes de l’IA.
Comme en témoigne l’École d’été sur l’apprentissage profond et l’apprentissage par renforcement de 2018, il est évident que ces objectifs ont été largement dépassés. L’école d’été est passée d’une petite réunion de 30 chercheurs à une classe de plus de 250 étudiants de 20 pays. Cette cohorte a été choisie à partir d’un bassin de 1200 candidats et compte certains des chercheurs les plus recherchés au monde.
L’école d’été a changé depuis l’époque où Graham Taylor, Chercheur mondial CIFAR-Azrieli, y a participé en tant que doctorant, mais les objectifs sont demeurés les mêmes, dit-il.
L’école d’été s’articule autour d’un programme technique et de l’exposition à de nouvelles approches. Elle peut se vanter d’accueillir une fourchette de professeurs de renom provenant d’instituts d’IA, de laboratoires privés et d’universités, comme le MIT, Carnegie Mellon, Cornell et Princeton.
« Je crois que c’était très important pour les étudiants d’établir un lien personnel avec certains des mentors qu’ils avaient déjà vu dans des vidéos ou dont ils avaient lu les manuels. Maintenant, ils ont la chance de les rencontrer en personne », dit Taylor, professeur à l’Institut Vecteur et à l’Université de Guelph.
Il est tout aussi important de rencontrer d’autres étudiants, dit-il, en notant qu’il a rencontré certains de ses collaborateurs actuels à l’école d’été.
Des anciens de l’école d’été se trouvent maintenant à la tête de grandes universités et entreprises technologiques. Parmi eux, notons : Roland Memsivic, fondateur de TwentyBN, Ruslan Salakhutdinov, directeur de la recherche en IA chez Apple et Ilya Sutskever, cofondateur d’OpenAI.
De nombreux membres du comité organisateur de l’école de 2018 sont eux-mêmes des anciens couronnés de succès. Hugo Larochelle, codirecteur d’un programme du CIFAR, a participé à la première école d’été en tant qu’étudiant de Yoshua Bengio à l’Université de Montréal. Il est maintenant chercheur chez Google Brain et professeur auxiliaire à l’Université de Sherbrooke. La carrière universitaire de Taylor et de Larochelle ont des points en commun : déménagement aux États-Unis et retour au Canada en tant que champions passionnés dans leur domaine.
La prochaine génération de chercheurs en IA est en train de construire son propre parcours. Certains sont des étudiants qui décident de rester au Canada, d’autres viennent de l’étranger pour étudier dans des établissements canadiens et certains travailleront à travers le monde.
Les conférences prononcées par les étudiants nous ont donné un aperçu de l’avenir. Farzaneh Mahdisoltani, doctorante à l’Institut Vecteur et spécialiste de l’IA chez TwentyBN, a présenté ses travaux sur l’apprentissage profond et la compréhension de vidéos. Elle a mis en vedette ses recherches sur un nouvel ensemble de données qui aide les ordinateurs à faire la différence entre des vidéos illustrant des actions très similaires, comme de déposer un objet ou de faire semblant de déposer un objet.
Et dans les présentations de trois autres étudiants, nous avons entendu parler d’un vaste éventail de domaines de recherche et d’expériences émanant d’au moins huit des plus grands établissements en Arménie, au Canada, au Royaume-Uni, en Iran et aux États-Unis.
Le Canada et l’école d’été constituent depuis longtemps un pôle d’attraction pour les spécialistes de l’IA du monde entier. Nous espérons maintenant que grâce à de meilleures possibilités et à un écosystème florissant, un plus grand nombre d’étudiants verront le Canada comme un endroit où poursuivre leurs études et faire carrière.
Dans le cas de Thor Jonsson, la réputation du Canada l’a mené à quitter l’Islande pour venir étudier l’apprentissage profond au pays. Il fait une maîtrise avec Taylor à l’Université de Guelph et a l’intention de faire un doctorat au Canada.
Jonsson dit avoir été inspiré par l’écosystème de l’IA au Canada et croit que l’avenir est encore plus prometteur.
« Je crois que dans cent ans, les gens verront cette période comme un événement historique de l’histoire de la science », dit-il.
« Je crois que les gens se souviendront vraiment que le Canada a joué un rôle de premier plan. »