Serena Booth
La nomination
Membre du programme des chercheurs mondiaux CIFAR-Azrieli 2025-2027
Innovation, équité et avenir de la prospérité
Connect
À Propos
J’étudie la conception de systèmes d’IA (et parfois de robots) sûrs et fiables, en examinant comment les humains précisent ce que doit faire l’IA et évaluent le processus décisionnel de l’IA. Par exemple, j’étudie les meilleures interprétations des différents types de spécifications que pourraient utiliser les gens : qu’il s’agisse, entre autres, d’instructions mathématiques, de préférences quant aux résultats de systèmes d’IA ou de corrections de leurs comportements. Ensuite, j’aide les gens à comprendre ce que l’IA a appris à partir des spécifications fournies. Comme l’IA est une technologie puissante, je travaille aussi à la législation et à la réglementation de l’IA dans le cadre de mon rôle de conseillère politique en matière d’IA au sein du Sénat américain.
Prix
- Bourse, politiques en matière d’IA, American Association for the Advancement of Science, 2023
- Étoile montante en génie électrique et informatique, Université du Texas à Austin, 2022 Bourse de recherche de troisième cycle, National Science Foundation des États-Unis, 2018.
- Bourse présidentielle du MIT, 2018
Publications Pertinentes
- Booth, S., Knox, W. B., Shah, J., Niekum, S., Stone, P. et Allievi, A. (juin 2023). The perils of trial-and-error reward design: misdesign through overfitting and invalid task specifications. Dans Proceedings of the AAAI Conference on Artificial Intelligence (vol. 37, no 5, p. 5920-5929).
- Knox, W. B., Hatgis-Kessell, S., Booth, S., Niekum, S., Stone, P. et Allievi, A. (2022). Models of human preference for learning reward functions. Transactions on Machine Learning Research.
- Booth, S., Sharma, S., Chung, S., Shah, J. et Glassman, E. L. (mars 2022). Revisiting human-robot teaching and learning through the lens of human concept learning. Dans 2022 17th ACM/IEEE International Conference on Human-Robot Interaction (HRI) (p. 147-156). IEEE.