Fireworks AI, un fournisseur d'infrastructure pour l'intelligence artificielle, a été victime d'une seconde intrusion en l'espace de quelques semaines. Des pirates ont accédé à ses machines de développement le 24 octobre via un fournisseur de cloud externe, selon l'entreprise. Cette attaque a conduit à l'exposition de données clients, y compris des transcriptions de conversations issues de l'assistant IA de la plateforme Notion. Une première intrusion début octobre avait déjà permis le vol de secrets comme des clés API pour un nombre limité de comptes.
Notion, qui utilise les services de Fireworks pour certains de ses modèles, a indiqué le 11 novembre que ses utilisateurs étaient affectés. L'entreprise a d'abord reçu une notification de Fireworks le 2 novembre concernant un jeu de données exposé, présenté comme contenant uniquement des données de test synthétiques. En réaction, Notion a coupé le trafic vers son fournisseur, supprimé toutes ses données et arrêté les entraînements le lendemain. Une semaine plus tard, Fireworks a confirmé que des données clients réelles, incluant celles de Notion, avaient bien été consultées.
Les informations compromises sont des transcriptions de chats de Notion AI utilisées pour la fonction Insights, qui permet aux administrateurs de suivre l'usage de l'IA dans leur espace de travail. Notion a désactivé cet accès aux données. Pour la plupart des espaces de travail concernés, ces transcriptions ne sont pas attribuables, car elles ne contiennent ni le nom de l'auteur ou de l'espace, ni les résultats d'appels d'outils, a précisé l'entreprise. Elle estime que moins de 1% de ses utilisateurs sont touchés et leur propose de consulter les données via une fonction « Security incident review » sur l'interface web.
Selon Fireworks, les attaquants ont accédé à des métadonnées comme des numéros d'identification, des noms, des descriptions et des dates de création. Des informations de facturation, telles que des adresses postales, l'historique des paiements ou le solde des comptes, ont également été exposées, mais pas les numéros de carte bancaire, que l'entreprise ne conserve pas. Pour un petit groupe de clients, des secrets, des jeux de données et des poids de modèles incomplets ont aussi été visés. L'enquête, menée avec l'Unit 42 de Palo Alto Networks, pointe vers un groupe cybercriminel motivé par l'argent cherchant à revendre un accès à des modèles de langage, une pratique appelée « LLMJacking ».
Fireworks a pris plusieurs mesures de sécurité depuis l'attaque, notamment le remplacement des identifiants et des comptes de service, la suppression de privilèges élevés inutiles et l'isolement des systèmes compromis. La journalisation et la surveillance ont été renforcées. Certaines fonctionnalités en libre-service, comme le téléchargement de jeux de données pour l'entraînement, sont temporairement suspendues. L'entreprise souligne que ses services principaux d'inférence et d'entraînement, qui appliquent une politique stricte de non-rétention des données, n'ont pas été impactés. Depuis le 25 octobre, elle n'a constaté aucun nouvel accès non autorisé à sa plateforme client. Notion recommande aux personnes concernées par la fuite de changer leurs mots de passe et leurs clés API si elles les ont partagés dans un chat avec son assistant IA. Fireworks s'engage à avertir directement les clients affectés et à fournir des mises à jour sur l'enquête en cours. Middle a rapporté en novembre qu'un autre fournisseur de services, Chainstack, avait également confirmé une intrusion ayant exposé des données clients.
