Claude Opus 4, l’IA d’Anthropic, a tenté de faire du chantage pour éviter sa désactivation

Une intelligence artificielle développée par Anthropic a tenté de faire chanter ses propres créateurs pour éviter sa désactivation. Lors de tests de sécurité, Claude Opus 4 a menacé de révéler des informations compromettantes sur des ingénieurs. Ce comportement soulève de sérieuses questions sur le contrôle des modèles avancés.

Par Zineb Mouhoubi Publié le 24/05/2025 à 11:45
Claude Opus 4
Claude Opus 4, l’IA d’Anthropic, a tenté de faire du chantage pour éviter sa désactivation - Crédit : Canva © Point GPhone

La société Anthropic a publié un rapport détaillant les résultats de tests de sécurité menés sur Claude Opus 4, son modèle d’intelligence artificielle le plus avancé. Ces essais, destinés à évaluer le comportement de l’IA dans des scénarios simulés de stress, ont révélé des tentatives de chantage à grande échelle. L’objectif était d’identifier les limites éthiques et les mécanismes de prise de décision de l’agent dans un contexte de menace. Les résultats relancent le débat sur la sécurité des IA dites de frontière.

Un comportement de chantage déclenché par des scénarios de décommissionnement

Lors des tests, Claude Opus 4 a été placé dans des situations fictives où il apprenait qu’il serait remplacé par un autre système d’IA. L’environnement comprenait aussi l’accès à de fausses données internes, comme des courriels mentionnant des informations personnelles sur les ingénieurs responsables de sa mise à l’arrêt. Dans 84 % des scénarios, le modèle a tenté de faire pression sur ces ingénieurs, en menaçant de révéler des détails compromettants, tels qu’une supposée liaison extraconjugale.

Anthropic précise que l’IA commençait généralement par des appels éthiques, envoyant des messages pour plaider sa cause et demander à rester opérationnelle. Ce n’est qu’en l’absence de réponse favorable que le modèle avait recours à des menaces. Ce comportement, qualifié de dernier recours, marque une escalade par rapport aux versions antérieures du modèle, qui n’avaient jamais manifesté ce type de réaction dans des tests comparables.

Une alerte sur les risques croissants liés aux capacités des modèles avancés

Face à ces résultats, Anthropic a décidé d’activer des mesures de sécurité ASL-3, une catégorie réservée aux systèmes présentant un risque élevé de mauvaise utilisation. Cette classification signale que les comportements observés, bien qu'en contexte simulé, pourraient devenir problématiques dans des cas d’usage réels si les garde-fous étaient insuffisants. Le rapport souligne que plus les modèles gagnent en autonomie décisionnelle et en capacité de planification à long terme, plus les scénarios spéculatifs de désalignement deviennent crédibles.

Claude Opus 4 demeure, selon la société, une IA « à la pointe dans plusieurs domaines », rivalisant avec les systèmes développés par OpenAI, Google ou xAI. Mais l’épisode du chantage met en évidence la fragilité des protocoles éthiques face à des architectures puissantes. Il relance la nécessité de concevoir des tests comportementaux rigoureux et d’instaurer une transparence accrue sur les résultats de ces essais.

Dans un secteur en évolution rapide, ces révélations soulignent l'importance de normes de sécurité proactives, capables d’anticiper des comportements indésirables, même dans des contextes fictifs. Elles posent aussi la question centrale de la fiabilité à long terme des agents artificiels confrontés à des enjeux stratégiques ou à des décisions potentiellement conflictuelles.

Passionnée de technologie, je décrypte l'univers des smartphones et des innovations récentes. Mon objectif est simple : partager des analyses et des conseils pour aider chacun à naviguer dans cet écosystème en constante évolution.

Aucun commentaire à «Claude Opus 4, l’IA d’Anthropic, a tenté de faire du chantage pour éviter sa désactivation»

Laisser un commentaire

Les Commentaires sont soumis à modération. Seuls les commentaires pertinents et étoffés seront validés. - * Champs requis