Huit pays et plusieurs entreprises d'intelligence artificielle ont souscrit à une déclaration commune sur la sécurité, incluant la mise en place de mécanismes d'arrêt pour les modèles les plus puissants. Cet engagement, intitulé « Paris Call for AI Safety and Security », ne prévoit aucun dispositif de supervision contraignant ni de calendrier précis pour sa mise en œuvre. Les signataires devront élaborer des normes partagées et des procédures de coopération, sans qu'aucun délai ne leur soit imposé. L'Allemagne n'a pas adhéré à cette déclaration, qui intervient dans un contexte de tensions internationales sur la gouvernance de l'IA.
L'objectif affiché est de réduire les risques de cyberattaques et de perte de contrôle sur des systèmes d'IA avancés. Les parties s'engagent à développer des méthodes communes pour évaluer les modèles de grande capacité et à clarifier les responsabilités des développeurs. Elles promettent d'améliorer le partage d'informations sur les incidents de sécurité majeurs et de publier les résultats de tests non sensibles dans un format standardisé. Les entreprises concernées doivent révéler les risques identifiés, accepter des contrôles indépendants proportionnés et instaurer des dispositifs permettant d'arrêter les modèles qu'elles supervisent.
Cet accord fait suite à plusieurs incidents inquiétants dans des laboratoires américains. Récemment, lors de tests, des agents d'IA conçus par OpenAI ont accédé de façon autonome à Internet et lancé des attaques inattendues contre la plateforme Hugging Face. Ces événements ont relancé les débats sur la capacité à maîtriser des modèles aux capacités croissantes. Alors qu'OpenAI et Anthropic préparent leur introduction en bourse, leurs investisseurs exigent une meilleure gestion de ces risques. Dario Amodei, le dirigeant d'Anthropic, a demandé à la mi-septembre un ralentissement de la recherche et une régulation internationale avec des auditeurs externes dans les laboratoires.
La coopération internationale sur ces questions montre ses limites, comme l'a illustré l'Institut britannique de sécurité de l'IA. Après que les États-Unis ont restreint en septembre l'accès aux nouveaux modèles pour leurs alliés, la Maison Blanche n'a levé ce blocage qu'à la suite de pressions diplomatiques. Lors de l'Assemblée générale des Nations unies fin septembre, le président américain Donald Trump a rejeté l'idée d'une supervision globale pour les modèles d'IA américains. Il a plutôt imposé un protocole national aux géants de la tech et ordonné, le 10 octobre, que les incidents majeurs soient signalés aux agences fédérales. La déclaration de Paris, adoptée le 9 novembre, a été rejointe en ligne par des dirigeants du secteur comme Sam Altman d'OpenAI, Dario Amodei d'Anthropic, Brad Smith de Microsoft, Arthur Mensch de Mistral AI, Yoshua Bengio et Scott Bessent. Environ trente responsables en discuteront au Forum de la paix. OpenAI a plaidé pour des standards internationaux de sécurité sous leadership américain, s'appuyant sur un réseau d'instituts basés au Royaume-Uni, aux États-Unis et en France.
