Nicolas Papernot
La nomination
Membre du comité du programme national
Titulaire de chaire en IA Canada-CIFAR
Stratégie pancanadienne en matière d’IA
À Propos
Nicolas Papernot est titulaire d’une chaire en IA Canada-CIFAR à l’Institut Vecteur, professeur adjoint au département de génie électrique et informatique à l’Université de Toronto et membre de la communauté de recherche de Google Brain.
Ses recherches portent sur la sécurité informatique et la protection des renseignements personnels en apprentissage automatique. Avec ses collègues, il a fait la démonstration des premières attaques réelles de réseaux de neurones profonds en boîte noire. Ses travaux sur la confidentialité différentielle pour l’apprentissage automatique impliquent le développement d’une famille d’algorithmes appelés Private Aggregation of Teacher Ensembles (PATE) ont facilité les recherches sur la confidentialité différentielle d’autres chercheurs. Papernot a également créé, en collaboration avec Ian Goodfellow, une bibliothèque en code source libre appelée CleverHans, aujourd’hui largement adoptée par la communauté technique pour évaluer l’apprentissage automatique dans des contextes contradictoires.
Prix
- Prix du meilleur article, Conférence internationale sur l’apprentissage de représentations (ICLR), 2017
- Bourse doctorale en sécurité, Google, 2016
Publications Pertinentes
- Papernot, N., McDaniel, P., Goodfellow, I., Jha, S., Celik, Z. B., Swami, A. (2017). « Practical black-box attacks against machine learning », Proceedings of the 2017 ACM on Asia Conference on Computer and Communications Security, p. 506-519.
- Tramèr, F., Kurakin, A., Papernot, N., Goodfellow, I., Boneh, D., McDaniel, P. (2017). « Ensemble adversarial training: Attacks and defenses », International Conference on Learning Representations Conference, préimpression arXiv, arXiv:1705.07204.
- Papernot, N., McDaniel, P., Goodfellow, I. (2016). « Transferability in machine learning: from phenomena to black-box attacks using adversarial samples », préimpression arXiv, arXiv:1605.07277.
- Papernot, N., McDaniel, P., Jha, S., Fredrikson, M., Celik, Z. B., Swami, A. (2016). « The limitations of deep learning in adversarial settings », IEEE European Symposium on Security and Privacy (EuroS&P), p. 372-387.
- Papernot, N., McDaniel, P., Wu, X., Jha, S., Swami, A. (2016). « Distillation as a defense to adversarial perturbations against deep neural networks », IEEE Symposium on Security and Privacy, p. 582-597.
Soutenez-nous
Le CIFAR est un organisme de bienfaisance enregistré qui reçoit le soutien des gouvernements du Canada, de l’Alberta et du Québec, ainsi que de fondations, de donateurs individuels, d’entreprises et de partenaires canadiens et internationaux.