Golnoosh Farnadi
La nomination
Titulaire de chaire en IA Canada-CIFAR
Stratégie pancanadienne en matière d’IA
Connect
À Propos
Titulaire de chaire en IA Canada-CIFAR – Nouveau mandat – 2021
Golnoosh Farnadi est titulaire d’une chaire en IA Canada-CIFAR à Mila et professeure associée à l’Université de Montréal.
L’utilisation croissante d’algorithmes pour prendre des décisions dans des domaines qui touchent la vie des gens, comme l’emploi, l’éducation, le maintien de l’ordre et l’approbation des prêts, a soulevé des inquiétudes quant aux biais et à la discrimination que ces systèmes peuvent introduire dans le processus. Les préoccupations récentes concernant les biais algorithmiques ont motivé le développement de mécanismes équitables dans les communautés de l’apprentissage automatique et de la recherche opérationnelle, et ce, de manière indépendante. Dans le domaine de l’apprentissage automatique tenant compte de l’équité, on s’assure que les prédictions faites par un modèle sont équitables, alors qu’il faudrait plutôt garantir l’équité des décisions prises à l’aide de ces prédictions. Les méthodes existantes d’optimisation tenant compte de l’équité règlent ce problème, mais elles sont souvent déterministes et ne parviennent pas à exploiter les connaissances disponibles dans les données.
Les recherches de Farnadi se concentrent sur les forces complémentaires des méthodes tenant compte de l’équité en apprentissage automatique et en recherche opérationnelle pour remédier à ces lacunes dans un système de prise de décision équitable dirigé par les données.
Prix
- Prix d’excellence Google, 2023
- Prix MEI, Mila, 2022
- Chercheuse-boursière Google, 2021
- Bourse de recherche Facebook en technologies d’amélioration de la confidentialité, 2021
- Prix Étoiles montantes en éthique de l’IA, Women in AI Ethics, 2021
- Bourse postdoctorale, IVADO, 2018-2021
- Prix du meilleur article, atelier Beyond online data, ICWSM, 2018
Publications Pertinentes
- Prud’homme, B., Régis, C., Farnadi, G., Dreier, V., Rubel, S. et d’Oultremont, C. (2023). Missing links in AI governance, UNESCO.
- Sun, J.A., Pentyala, S., Cock, M.D. et Farnadi, G. (2023). « Privacy-Preserving Fair Item Ranking », Advances in Information Retrieval, 13981
- Sivaraman, A., Farnadi, G., Millstein, T., & Van den Broeck, G. (2020). Counterexample-Guided Learning of Monotonic Neural Networks. Advances in Neural Information Processing Systems, 33.
- Farnadi, G., Babaki, B., & Gendreau, M. (2020). A Unifying Framework for Fairness-Aware Influence Maximization. In Companion Proceedings of the Web Conference 2020 (pp. 714-722).
- Choi, Y., Farnadi, G., Babaki, B., & Van den Broeck, G. (2020). Learning fair naive bayes classifiers by discovering and eliminating discrimination patterns. In Proceedings of the AAAI Conference on Artificial Intelligence (Vol. 34, No. 06, pp. 10077-10084).