« L’IA devient le sujet de toutes et tous »

Co-fondatrice de la Fondation Abeona (« pour une IA responsable ») depuis 2018, vous venez d’être nommée coprésidente du nouveau Comité interministériel dédié à l'IA générative, pouvez-vous décrire en quelques mots les missions qui seront les vôtres au sein du comité ?

Anne Bouverot : Avec le développement récent et rapide des solutions d’IA conversationnelles comme ChatGPT, Bard, Llama ou autres, le sujet de l’IA et de son impact sur la société passe au premier plan. En créant ce Comité, que je copréside avec l’économiste Philippe Aghion et qui comporte 15 personnalités d’horizons différents, le Gouvernement a souhaité éclairer les grands enjeux liés à l’IA.

Notre mission est de faire dans les six mois des recommandations au sujet des impacts sur l’économie et le travail, sur la souveraineté industrielle et numérique, sur l’éthique, les impacts sociétaux et environnementaux, les enjeux culturels, et l’IA dans les services publics.

En tant que docteure en intelligence artificielle et travaillant sur l’impact de l’IA sur la société depuis de nombreuses années, comment voyez-vous cette actualité de l’IA dans toutes les sphères ?

Anne Bouverot : Depuis que le terme « intelligence artificielle » a commencé à être employé dans les années cinquante, les développements se sont faits par étapes, avec de grandes pauses et des accélérations. Au cours des dernières années, l’IA a fait des avancées spectaculaires, notamment dans le domaine de la génération de texte et d’images, suscitant, comme chaque innovation de rupture, des réactions contrastées, entre fascination et anxiété.  
La découverte par le grand public des usages de l’IA générative comme ChatGPT ou de systèmes de génération d’images comme Midjourney laisse entrevoir de profondes transformations économiques et sociales. L’IA devient le sujet de tous.

Quelles sont les grandes opportunités, mais aussi les plus grands risques, que représente l'IA au sein des services publics ?

Anne Bouverot : En tout premier lieu, je dirai qu’il peut y avoir une grande aide pour la réponse aux questions des usagers des différents service publics. Une expérimentation vient d’être lancée au cours de laquelle 1000 agents volontaires sont équipés d'un outil utilisant l'IA pour les accompagner dans la rédaction des réponses en ligne aux usagers, avec l’objectif d’offrir des réponses personnalisées plus rapides.
Des améliorations de productivité sur des tâches spécifiques sont à escompter, l’IA traitant un grand nombre de tâches qui libèreront du temps aux agents.
Les plus grands risques dans ce contexte sont la protection des données personnelles, les biais algorithmiques (pouvant apporter de la discrimination dans les réponses), la réorganisation du travail, la sûreté (en cas de cyberattaque par exemple, les services publiques restent-ils opérant ?)

Selon vous, comment allier innovation et responsabilité ? Et quels sont les grands défis pour une IA responsable ?

Anne Bouverot : Pour allier innovation et responsabilité, il faut définir les risques et les étudier, afin de permettre des actions proactives, une gouvernance et une réglementation nécessaire pour les limiter et les encadrer, tout en veillant à donner un cadre de développement favorable aux innovations bénéfiques.
Les grands défis pour une IA responsable sont ainsi nombreux : l’utilisation des données personnelles, la justice sociale, les biais algorithmiques, la désinformation et les « deepfakes », la cybercriminalité, la sureté de l’IA, la transparence, l’impact environnemental …

Vous avez déclaré que « Le développement de l'intelligence artificielle doit pouvoir être décidé de façon collective, inclusive et démocratique, pas uniquement par des experts », comment mettre en œuvre ce processus ?

Anne Bouverot : On a trop souvent tendance à se dire que l’intelligence artificielle est l’affaire de spécialistes en informatique et algorithmique ; mais quand on parle à ces experts, ils et elles sont les premiers à dire que des choix non techniques sont nécessaires. Pour cela il convient que l’ensemble de la société puisse participer au débat. A la fois projet par projet, en incluant des personnes diverses, représentant les utilisateurs et toutes les parties prenantes, et de manière plus globale en portant les questions dans le débat public. Permettre ce débat public nécessite de la recherche pour éclairer, de la formation aux enjeux éthiques de l’IA et à son utilisation responsable, et des échanges entre l’ensemble des parties prenantes (monde académique, entreprises, start-up, société civile, État…)

Depuis juillet 2022, vous êtes présidente du Conseil d’administration de l’ENS-PSL. Quels sont, à vos yeux, les principaux enjeux de l'IA dans l’éducation et dans l’enseignement supérieur ?

Anne Bouverot : L’histoire a bien montré que le monde de l’éducation s’adapte aux nouvelles technologies : de la calculatrice à l’ordinateur, de Google à Wikipedia. L'utilisation de l'IA générative à la ChatGPT suscite à la fois des réactions positives et négatives dans le domaine de l'enseignement supérieur. Ces technologies peuvent être des outils précieux pour les enseignants en automatisant des tâches répétitives, offrant des possibilités de personnalisation pédagogique, et libérant du temps.

Cependant, des préoccupations émergent, notamment en ce qui concerne le risque de perte de compétences critiques chez les étudiants et les implications du plagiat assisté par l'IA. Il faut renforcer les capacités des enseignants à développer l’esprit critique chez leurs étudiants, et former les étudiants aux risques de l’IA afin de permettre le développement d’une IA plus responsable.

Face aux défis sociétaux (climat, nouvelles technologies, justice sociale, égalité, santé, etc.), quel rôle une école comme l’ENS peut-elle jouer ? Quels liens seraient encore à faire entre recherche et société ?

Anne Bouverot : L’ENS-PSL est par nature « Sciences et Lettres », avec une excellence scientifique reconnue notamment en sciences des données et intelligence artificielle, et une très grande qualité de réflexion en sciences sociales et humanités, c’est donc un lieu idéal pour réfléchir aux impacts sociétaux de l’intelligence artificielle, comme c’est déjà par exemple le cas au Lattice (langues, textes, traitements informatiques, cognition). J’espère que nous pourrons prochainement faire davantage !