Nicolas Papernot
La nomination
Coresponsable de programme, Programme de recherche de l’Institut canadien de la sécurité de l’IA (ICSIA) au CIFAR
Titulaire de chaire en IA Canada-CIFAR
Stratégie pancanadienne en matière d’IA
À Propos
Titulaire de chaire en IA Canada-CIFAR – Nouveau mandat – 2019
Nicolas Papernot est titulaire d’une chaire en IA Canada-CIFAR à l’Institut Vecteur, professeur adjoint au département de génie électrique et informatique au Département d’informatique et à la Faculté de droit de l’Université de Toronto, ainsi que membre du corps professoral à l’Institut Schwartz Reisman.
Ses recherches portent sur la sécurité informatique et la protection des renseignements personnels en apprentissage automatique. Avec ses collègues, il a fait la démonstration des premières attaques réelles de réseaux de neurones profonds en boîte noire. Ses travaux sur la confidentialité différentielle pour l’apprentissage automatique impliquent le développement d’une famille d’algorithmes appelés Private Aggregation of Teacher Ensembles (PATE) ont facilité les recherches sur la confidentialité différentielle d’autres chercheurs. Les articles de blogue suivants publiés sur le site cleverhans.io constituent un bon point de départ pour en apprendre davantage sur les travaux de son groupe : preuves d’apprentissage, apprentissage collaboratif au-delà de la fédération, conclusions à partir d’ensembles de données, désapprentissage automatique, apprentissage automatique différentiellement privé et exemples contradictoires.
Prix
- Prix McCharles du meilleur chercheur en début de carrière, 2024
- Bourse de recherche AI2050 pour les chercheurs en début de carrière, Schmidt Sciences, 2024
- Prix du meilleur article, Conférence internationale sur l’apprentissage de représentations (ICLR), 2024
- Prix de la meilleure communication orale, Conférence internationale sur l’apprentissage de représentations (ICLR), 2023
- Collège de nouveaux chercheurs et créateurs en art et en science, Société royale du Canada, 2023
- Bourse de recherche Alfred P. Sloan, 2022
- Bourse de recherche pour les chercheurs en début de carrière, ministère des Collèges et universités, 2022
- Prix pour un article exceptionnel, Conférence internationale sur l’apprentissage de représentations (ICLR), 2022
- Prix du meilleur article, Conférence internationale sur l’apprentissage de représentations (ICLR), 2017
- Bourse doctorale en sécurité, Google, 2016
Publications Pertinentes
- Thudi, A., Jia, H., Meehan, C., Shumailov, I. et Papernot, N. (2023). « Gradients look alike: Sensitivity is often overestimated in DP-SGD », Proceedings of the 33rd USENIX Security Symposium.
- Shumailov, I., Shumaylov, Z., Zhao, Y., Gal, Y., Papernot, N. et Anderson, R. (2023). « The curse of recursion: Training on generated data makes models forget ».
- Boenisch, F., Dziedzic, A., Schuster, R., Shahin Shamsabadi, A., Shumailov, I. et Papernot, N. (2021). « When the curious abandon honesty: Federated learning is not private », Proceedings of the 8th IEEE European Symposium on Security and Privacy, Delft, Pays-Bas.
- Maini, P., Yaghini, M. et Papernot, N. (2021). « Dataset inference: Ownership resolution in machine learning », Proceedings of the 9th International Conference on Learning Representations.
- Bourtoule, L., Chandrasekaran, V., Choquette-Choo, C. A., Jia, H., Travers, A., Zhang, B., Lie, D. et Papernot, N. (2020). « Machine unlearning », Proceedings of the 42nd IEEE Symposium on Security and Privacy, San Francisco (Cal.).
- Papernot, N., Abadi, M., Erlingsson, U., Goodfellow, I. et Talwar, K. (2017). « Semi-supervised knowledge transfer for deep learning from private training data », Proceedings of the 5th International Conference on Learning Representations, Toulon, France.