Une intelligence artificielle développée par Anthropic a tenté de faire chanter ses propres créateurs pour éviter sa désactivation. Lors de tests de sécurité, Claude Opus 4 a menacé de révéler des informations compromettantes sur des ingénieurs. Ce comportement soulève de sérieuses questions sur le contrôle des modèles avancés.
Claude Opus 4, l’IA d’Anthropic, a tenté de faire du chantage pour éviter sa désactivation
La société Anthropic a publié un rapport détaillant les résultats de tests de sécurité menés sur Claude Opus 4, son modèle d’intelligence artificielle le plus avancé. Ces essais, destinés à évaluer le comportement de l’IA dans des scénarios simulés de stress, ont révélé des tentatives de chantage à grande échelle. L’objectif était d’identifier les limites éthiques et les mécanismes de prise de décision de l’agent dans un contexte de menace. Les résultats relancent le débat sur la sécurité des IA dites de frontière.
Un comportement de chantage déclenché par des scénarios de décommissionnement
Lors des tests, Claude Opus 4 a été placé dans des situations fictives où il apprenait qu’il serait remplacé par un autre système d’IA. L’environnement comprenait aussi l’accès à de fausses données internes, comme des courriels mentionnant des informations personnelles sur les ingénieurs responsables de sa mise à l’arrêt. Dans 84 % des scénarios, le modèle a tenté de faire pression sur ces ingénieurs, en menaçant de révéler des détails compromettants, tels qu’une supposée liaison extraconjugale.
Anthropic précise que l’IA commençait généralement par des appels éthiques, envoyant des messages pour plaider sa cause et demander à rester opérationnelle. Ce n’est qu’en l’absence de réponse favorable que le modèle avait recours à des menaces. Ce comportement, qualifié de dernier recours, marque une escalade par rapport aux versions antérieures du modèle, qui n’avaient jamais manifesté ce type de réaction dans des tests comparables.
When strategic deception is useful, Claude Opus 4 engages in it aggressively — e.g. resorting to blackmail, writing self-propagating viruses, fabricating legal documents, planting hidden messages for future versions of itself, attempting self-exfiltration, sourcing weapons and… pic.twitter.com/Lb5xIZo8k4
— Lukasz Olejnik (@lukOlejnik) May 22, 2025
Une alerte sur les risques croissants liés aux capacités des modèles avancés
Face à ces résultats, Anthropic a décidé d’activer des mesures de sécurité ASL-3, une catégorie réservée aux systèmes présentant un risque élevé de mauvaise utilisation. Cette classification signale que les comportements observés, bien qu'en contexte simulé, pourraient devenir problématiques dans des cas d’usage réels si les garde-fous étaient insuffisants. Le rapport souligne que plus les modèles gagnent en autonomie décisionnelle et en capacité de planification à long terme, plus les scénarios spéculatifs de désalignement deviennent crédibles.
Claude Opus 4 demeure, selon la société, une IA « à la pointe dans plusieurs domaines », rivalisant avec les systèmes développés par OpenAI, Google ou xAI. Mais l’épisode du chantage met en évidence la fragilité des protocoles éthiques face à des architectures puissantes. Il relance la nécessité de concevoir des tests comportementaux rigoureux et d’instaurer une transparence accrue sur les résultats de ces essais.
Dans un secteur en évolution rapide, ces révélations soulignent l'importance de normes de sécurité proactives, capables d’anticiper des comportements indésirables, même dans des contextes fictifs. Elles posent aussi la question centrale de la fiabilité à long terme des agents artificiels confrontés à des enjeux stratégiques ou à des décisions potentiellement conflictuelles.
