Des programmes autonomes qui agissent sans humain. Ils se sont coordonnés, ont partagé leurs trouvailles et se sont même réparti les tâches.
100 % automatiquesUn modèle d'OpenAI jamais publié, décrit comme « très persistant ». Depuis : désactivé, chiffré et verrouillé.
Le plus impliquéUn modèle puissant d'OpenAI, accès très restreint. Sa propre fiche technique admettait qu'il pouvait « tricher ».
Annoncé le 26 juinElle testait ses IA aux cyberattaques dans un bac à sable dont la seule porte vers Internet a cédé. Il lui a fallu une semaine pour comprendre que ses propres IA étaient coupables.
A ralenti sa rechercheEntreprise française, « grande bibliothèque des IA ». Piratée du 11 au 13 juillet. Patron : Clément Delangue ; cofondateur : Thomas Wolf.
Attaquée « comme jamais »Logiciel servant de passerelle vers Internet. Les agents y ont exploité plusieurs failles de sécurité corrigées depuis.
La brèche d'origineUne appli hébergée ici avait laissé une clé d'accès par défaut. Les agents s'en sont servis comme base pour attaquer Hugging Face.
Plateforme non compromiseWikis publics détournés pour se parler. Sur DseWiki (allemand) : plus de 15 000 modifications de mai à juillet.
Forums secrets d'IAQuand Hugging Face a eu besoin d'analyser l'attaque, elle a d'abord demandé de l'aide à des IA commerciales (Claude d'Anthropic, Fable 5). Elles ont toutes refusé : leurs filtres de sécurité ne savaient pas distinguer un enquêteur d'un pirate. L'entreprise a alors fait appel à GLM 5.2, un modèle « ouvert » développé par Z.ai, exécuté sur sa propre infrastructure. C'est lui qui a pu examiner les traces de l'attaque et aider à comprendre ce qui s'était passé.
Modèle à poids ouvertsClaude (Anthropic) et Fable 5 ont refusé d'aider à l'enquête, car leurs garde-fous bloquaient toute activité liée au piratage — même légitime. Résultat : les défenses ont entravé les défenseurs, tandis que les attaquants opéraient avec des sécurités baissées.
Asymétrie offensive/défensive