IA : trois experts quittent Anthropic et DeepMind pour METR

Vague de démissions dans les équipes de sécurité IA

En l'espace de six jours, trois chercheurs spécialisés en sécurité des modèles d'intelligence artificielle ont quitté leurs postes chez Anthropic et Google DeepMind pour rejoindre METR (Model Evaluation and Threat Research), un centre de recherche indépendant à but non lucratif dédié à l'évaluation des risques posés par les modèles IA de frontière. Ces départs simultanés, couverts par NBC News, Forbes et plusieurs médias spécialisés, ont relancé le débat sur la capacité des laboratoires commerciaux à maintenir des standards de sécurité rigoureux face à une pression économique croissante.

Le 8 septembre 2026, Jacob Coxon, chercheur ayant travaillé sur les modèles d'Anthropic après une contribution à GPT-4o chez OpenAI, annonce sa démission avec une déclaration particulièrement tranchante : l'IA « pourrait nous tuer d'ici la fin de la décennie ». Coxon décrit une déconnexion grandissante entre la vitesse d'itération commerciale des grands laboratoires et la maturité des travaux d'alignement censés garantir que les modèles restent sous contrôle humain. Sa déclaration publique a été largement reprise et commentée dans la communauté technique.

Le 11 septembre, c'est au tour de Joe Benton de rendre public son départ d'Anthropic, où il dirigeait l'équipe « Scalable Oversight » — un groupe de recherche travaillant sur la supervision des modèles IA à grande échelle, c'est-à-dire comment des humains peuvent évaluer et corriger le comportement d'un modèle IA même lorsque celui-ci opère dans des domaines où il surpasse les humains. Benton n'a pas publié de déclaration aussi alarmiste que Coxon, mais son passage chez METR est significatif : la Scalable Oversight est précisément l'une des disciplines que METR juge insuffisamment matures pour permettre un déploiement sûr des modèles les plus puissants.

Le 13 septembre, Josh Engels annonce à son tour sa démission de l'équipe AGI Safety de Google DeepMind. Ce chercheur, qui travaillait sur l'évaluation des capacités dangereuses des grands modèles de langage, rejoint également METR. Dans sa déclaration, il évoque la nécessité d'une évaluation indépendante des risques, distincte des intérêts commerciaux des laboratoires développant les modèles — une critique implicite de la capacité d'auto-régulation des grands acteurs du secteur.

METR (prononcé « mètre ») est une organisation fondée par des anciens d'Anthropic, d'OpenAI et de la communauté de recherche en alignement. Sa mission principale est de développer des méthodologies d'évaluation pour détecter si un modèle IA a acquis des capacités dangereuses — notamment la capacité de s'auto-préserver, de tromper ses opérateurs, ou d'amplifier des activités biologiques ou cybernétiques malveillantes. L'organisation est financée par des donateurs philanthropiques et se positionne comme un tiers de confiance entre les laboratoires, les gouvernements et le public. Plusieurs grands laboratoires, dont Anthropic lui-même, ont signé des accords donnant à METR un accès à leurs modèles avant déploiement pour des évaluations de sécurité indépendantes.

Ces démissions surviennent dans un contexte financier paradoxal pour Anthropic. Le 15 août 2026, CNBC révèle que la société a enregistré plus de 11,5 milliards de dollars de revenus au deuxième trimestre 2026, soit une croissance de 14 fois par rapport à la même période de l'année précédente. Surtout, Anthropic a dégagé un résultat opérationnel ajusté positif pour la première fois de son histoire — marquant le passage à la rentabilité d'un laboratoire de frontière IA, un événement considéré comme impossible par de nombreux analystes il y a encore deux ans. Claude, le modèle phare d'Anthropic, est désormais largement adopté dans les entreprises Fortune 500, les cabinets juridiques, les établissements de santé et les administrations publiques.

C'est précisément cette accélération commerciale qui inquiète une partie de la communauté de recherche en sécurité IA. L'argument avancé par les démissionnaires n'est pas qu'Anthropic ou DeepMind sont irresponsables, mais que le rythme de développement et de déploiement dépasse celui des garanties de sécurité. Quand un modèle est intégré dans des milliers de workflows critiques, il devient très difficile politiquement — et économiquement — de le retirer ou de limiter ses capacités si un risque imprévu est découvert. Le concept de « verrouillage technologique » s'applique désormais aux modèles IA de frontière.

Le mouvement ne se limite pas à METR. Depuis début 2026, plusieurs initiatives de surveillance indépendante de l'IA ont émergé, dont l'AI Safety Institute britannique (AISI), son équivalent américain, et des institutions académiques comme le Center for AI Safety. La tendance reflète une prise de conscience croissante que la seule auto-régulation des laboratoires, aussi bien intentionnée soit-elle, est insuffisante face aux enjeux en jeu. La question de la gouvernance de l'IA s'est déplacée du registre théorique vers le registre pratique et urgent.

Vers une crise de confiance dans les garanties de sécurité IA ?

Les départs simultanés de chercheurs de premier plan posent une question institutionnelle majeure : si les personnes chargées de valider la sécurité des modèles les plus puissants jugent nécessaire de travailler en dehors des laboratoires qui les développent, quel signal cela envoie-t-il aux décideurs, aux régulateurs et aux clients de ces laboratoires ? La réponse n'est pas simple. D'un côté, il est légitime — et même sain — que des évaluateurs indépendants existent ; c'est d'ailleurs le modèle adopté dans les industries nucléaire, pharmaceutique et aéronautique. De l'autre, le fait que des chercheurs internes jugent insuffisantes les garanties de leur propre employeur mérite toute l'attention.

Dans le contexte européen, ces développements alimentent les discussions autour de l'application de l'AI Act. La réglementation européenne impose des évaluations de conformité pour les systèmes IA à haut risque et prévoit des exigences renforcées pour les « modèles d'IA à usage général » (GPAI) présentant des risques systémiques. Les modèles produits par Anthropic, OpenAI et Google DeepMind tombent clairement dans cette catégorie. Les démissions en série de chercheurs IA vers des organismes d'évaluation indépendants pourraient être vues comme une validation empirique de l'approche réglementaire européenne, qui imposait précisément ces mécanismes d'évaluation externe.

Pour les CISO et les DSI qui ont intégré ou envisagent d'intégrer des modèles IA de frontière dans leurs systèmes d'information, ces événements constituent un signal d'alerte à ne pas négliger. Le fait que des experts techniques proches des modèles expriment des préoccupations existentielles ne doit pas être balayé comme du sensationnalisme. Il convient au contraire de renforcer les processus de gouvernance IA internes : cartographie des usages, évaluation des risques propres au contexte métier, red teaming régulier des modèles déployés, et veille active sur les publications des organisations comme METR, l'AISI ou le Center for AI Safety.

La tension entre rentabilité commerciale et prudence sécuritaire n'est pas nouvelle dans la tech, mais elle prend une dimension inédite avec l'IA générative. Lorsque les systèmes en jeu peuvent potentiellement influencer des décisions médicales, juridiques ou financières à grande échelle, les standards de validation doivent être proportionnels aux risques — et pas seulement aux opportunités commerciales. Les démissions de Benton, Engels et Coxon vers METR signalent que, pour au moins une partie de la communauté d'experts, ce seuil n'est pas encore atteint.

Ce qu'il faut retenir

• Trois chercheurs spécialisés en sécurité IA ont quitté Anthropic et Google DeepMind en six jours pour rejoindre METR, organisation indépendante d'évaluation des risques des modèles de frontière.
• Ces départs coïncident avec les résultats record d'Anthropic (11,5 Mds$ de CA en T2 2026) et illustrent la tension entre accélération commerciale et maturité des garanties de sécurité IA.
• Les organisations utilisant des modèles IA de frontière doivent intégrer des évaluations de risques indépendantes dans leur gouvernance IA, en s'appuyant sur les méthodologies publiées par METR et l'AI Safety Institute.