La Commission sur les Risques de l’IA Générative

Une nouvelle commission va examiner les menaces et les faiblesses associées aux usages courants des technologies d’intelligence artificielle générative. Ces outils, largement répandus grâce à des chatbots tels que ChatGPT et Gemini, produites par OpenAI et Google, ont suscité une attention particulière, comme l’a mentionné le ministère dans un communiqué. « Les résultats de cette recherche influenceront nos décisions et se traduiront par des actions concrètes », a affirmé Anne Le Hénanff, la ministre concernée.

Composition de la Commission

Orchestrée par le Conseil de l’IA et du numérique (Cianum), cette commission sera sous la présidence de Serena Villata, directrice de recherche au CNRS et spécialiste en intelligence artificielle. Elle sera entourée des professeurs Raphaël Gaillard et Amine Benyamina, ce dernier se concentrant sur les enjeux liés aux addictions.

Contexte de l’Initiative

Cette initiative fait suite à l’annonce d’Emmanuel Macron en février, qui a réclamé des études sur les dangers potentiels des jeux vidéo et des outils d’IA, en particulier concernant la santé mentale des jeunes. Selon le Baromètre du numérique, presque la moitié des Français auraient utilisé l’IA générative en 2025, un chiffre qui grimpe à 85 % chez les 18-24 ans.

Appel à Contributions Scientifiques

Lors du sommet international sur l’IA à New Delhi cette semaine, la ministre du Numérique a également sollicité des contributions scientifiques sur les risques posés par l’usage de l’IA chez les mineurs. Les résultats de ces études seront présentés lors de la présidence française du G7.