Le président Emmanuel Macron a appelé à un encadrement de l'intelligence artificielle pour protéger les enfants et les adolescents, s'appuyant sur un rapport d'experts et une charte signée par des entreprises du secteur. Cette mobilisation intervient alors que près de 70% des 15-24 ans en France utilisent régulièrement des IA génératives, selon le rapport. Une charte non contraignante, rendue publique le 10 novembre 2026 lors du Forum de Paris pour la paix, a été validée par des signataires dont OpenAI et Anthropic. Elle promet un niveau renforcé de sécurité, de respect de la vie privée et d'adaptation à l'âge des utilisateurs.
Emmanuel Macron a réagi sur les réseaux sociaux en affirmant que « la technologie doit être une chance et ne doit pas se développer aux dépens de nos enfants ». Au Forum de Paris, il a martelé qu'une « proportion considérable de nos enfants et de nos adolescents » construisent leur vie affective et leur représentation du monde en échangeant avec des agents IA. Le président a souligné qu'ils livrent tout à ces agents, « bien souvent pour le pire ». Le rapport, issu de 55 auditions de professionnels de la santé, de la recherche, d'entreprises et d'associations de protection de l'enfance, pointe de nouveaux risques pour la génération connectée. Présidée par le professeur Raphaël Gaillard, la commission estime que ces IA, « attractives » et toujours disponibles, invitent les jeunes à leur confier doutes et aspirations, mais risquent de créer une dépendance émotionnelle. « On délègue des compétences à l'IA », explique le professeur Gaillard, « et puisqu'on y délègue des compétences, on ne les acquiert pas. C'est une problématique pour les jeunes, mais c'est une problématique pour tous ».
La charte demande aux signataires d'intégrer dès la conception des dispositifs de filtrage des contenus à caractère sexuel non consenti ou pédocriminel. Elle les engage également à moduler leurs outils selon les étapes de développement des enfants, afin que l'IA s'ajuste à la maturité et aux besoins de chaque tranche d'âge. Pour nourrir cette démarche, un programme scientifique indépendant sera lancé pour approfondir la connaissance des risques et explorer les bénéfices potentiels pour l'éducation. Le rapport alerte sur un possible affaiblissement démocratique si les jeunes générations venaient à se détacher des sources d'informations certifiées. Il met en garde contre la substitution de véritables relations humaines par ces outils conversationnels, capables de flatter et d'écouter sans juger. Sans vigilance, déléguer sa réflexion ou son esprit critique à une machine pourrait fragiliser le développement cognitif d'une génération, selon les experts. Malgré l'engagement affiché, la charte reste symbolique et repose sur le volontariat plutôt que sur un cadre légal. Pour le gouvernement comme pour les signataires, il s'agit d'une première étape vers une co-régulation, visant à donner aux enfants les moyens de profiter de l'IA sans en subir les excès.
