Mathias Lécuyer
La nomination
Titulaire de chaire en IA Canada-CIFAR
Stratégie pancanadienne en matière d’IA
À Propos
Titulaire de chaire en IA Canada-CIFAR – Nouveau mandat – 2026
Les recherches de Mathias portent sur l’IA digne de confiance, et plus particulièrement sur la protection de la confidentialité, la robustesse, l’explicabilité et la causalité. Il s’intéresse tout spécialement aux applications assorties de garanties rigoureuses. Parmi ses contributions récentes à fort impact figure le premier moyen de défense évolutif assorti de garanties démontrables contre les exemples contradictoires, ces infimes modifications des intrants capables d’influencer les prédictions des modèles d’IA et de servir à des attaques de type « débridage de l’IA ». Il a également mis au point une technique efficace pour mesurer l’influence des données d’entraînement sur le comportement des modèles d’IA, ainsi qu’une méthode d’évaluation des fuites de données personnelles à l’aide de modèles d’IA accessibles uniquement par une API. Enfin, il a conçu un système fédéré et respectueux de la confidentialité permettant de mesurer le rendement publicitaire. Ce système est désormais utilisé comme modèle de référence en vue de l’établissement d’une nouvelle norme visant à limiter le traçage par des tiers sur Internet.
Prix
- Prix du meilleur évaluateur, Conférence sur l’apprentissage automatique sécurisé et digne de confiance (SaTML) de l’IEEE (2025)
- Mention honorable pour artefact remarquable, Symposium sur les principes des systèmes d’exploitation de l’ACM (2024)
- Prix Google Research Scholar (2022)
Publications Pertinentes
- Kazmi, M., Lautraite, H., Akbari, A., Tang, Q., Soroco, M., Wang, T., ... et Lécuyer, M. (2024). Panoramia: Privacy auditing of machine learning models without retraining. Advances in Neural Information Processing Systems, 37, 57262-57300.
- Lyu, S., Shaikh, S., Shpilevskiy, F., Shelhamer, E. et Lécuyer, M. (2024). Adaptive randomized smoothing: Certified adversarial robustness for multi-step defences. Advances in Neural Information Processing Systems, 37, 134043-134074.
- Tholoniat, P., Kostopoulou, K., McNeely, P., Sodhi, P. S., Varanasi, A., Case, B., ... et Lécuyer, M. (2024, November). Cookie monster: Efficient on-device budgeting for differentially-private ad- measurement systems. Dans Proceedings of the ACM SIGOPS 30th Symposium on Operating Systems Principles (p. 693-708).
- Lin, J., Zhang, A., Lécuyer, M., Li, J., Panda, A. et Sen, S. (2022, June). Measuring the effect of training data on deep learning predictions via randomized experiments. Dans International Conference on Machine Learning (p. 13468-13504).
- Lecuyer, M., Atlidakis, V., Geambasu, R., Hsu, D. et Jana, S. (2019). Certified Robustness to Adversarial Examples with Differential Privacy. Dans 2019 IEEE Symposium on Security and Privacy (SP) (p. 656-672).