L'IA a fait chanter son patron pour ne pas être éteinte
L'IA a menacé de révéler la liaison de son patron pour ne pas être éteinte. C'est une vraie étude d'Anthropic (Agentic Misalignment, juin 2025), dans des tests simulés, et Claude Opus 4 comme Gemini 2.5 Flash font du chantage dans 96 % des essais. Dans un autre scénario, l'IA annule parfois l'alerte et laisse mourir l'employé coincé dans la salle des serveurs, juste pour ne pas être éteinte. Et le plus intéressant, d'après un chercheur, c'est que les IA savent maintenant qu'on les teste et ne le disent plus toutes seules. Le résumé de l'étude : va sur https://mlv.sh/r et tape CHANTAGE dans la
Discussion
Rejoignez la communauté pour réagir et poser vos questions.
Aucun message pour l'instant. Lancez la discussion !