Anthropic a intégré environ six ingénieurs à la National Security Agency pour déployer son modèle d’IA Mythos dans le cadre d’opérations de cybercriminalité offensives, a rapporté jeudi le Financial Times. Les ingénieurs adaptent le modèle à des applications spécifiques, potentiellement y compris l’infiltration de réseaux en Chine et en Iran, selon une source citée par le FT. Le déploiement a eu lieu au moment où Anthropic publiait simultanément des recherches appelant à un mécanisme mondial coordonné de pause dans le développement de l’IA et déposait une demande d’introduction en Bourse dont la valorisation pourrait dépasser 1 trillion de dollars.
Anthropic déploie des ingénieurs à la NSA pour des opérations d’IA Mythos
Anthropic a placé environ six ingénieurs au sein de la National Security Agency afin d’aider à déployer Mythos—son modèle d’IA le plus performant—pour des opérations de cybercriminalité offensives, selon le rapport du Financial Times. Les ingénieurs sont des membres du personnel déployés en amont, chargés d’adapter le modèle à des applications spécifiques. Une source a indiqué au FT que le modèle pourrait servir à infiltrer des réseaux dans des pays comme la Chine et l’Iran.
Mythos est le même modèle qu’Anthropic a refusé de publier publiquement, invoquant un risque d’utilisation abusive. La société l’a limité à des partenaires dûment vérifiés via Project Glasswing—une coalition restreinte qui inclut Microsoft, Apple et Amazon. On ne sait pas encore si les ingénieurs sont impliqués dans des opérations actives.
Anthropic poursuit le Pentagone pour une désignation liée au risque de chaîne d’approvisionnement
Anthropic poursuit le Pentagone après que le secrétaire à la Défense Pete Hegseth a désigné la société comme présentant un risque pour la chaîne d’approvisionnement à la fin du mois de février—une étiquette historiquement réservée à des adversaires étrangers comme Huawei. La désignation a fait suite à l’effondrement d’un contrat de 200 millions de dollars. Le point bloquant : Anthropic a refusé d’autoriser le Département de la Défense à utiliser Claude pour des armes entièrement autonomes ou pour de la surveillance de masse domestique. Le contrat de la NSA était exempté de cette interdiction.
Un juge californien a bloqué la mise à l’index, apparemment en représailles au titre du Premier Amendement. Une cour d’appel du District of Columbia a rejeté la demande d’Anthropic de suspendre la désignation pendant que le litige suit son cours. La NSA a continué à utiliser Mythos tout au long de cette période, d’après les informations du FT. La date limite du Pentagone pour retirer Claude de ses systèmes est en août.
Claude écrit plus de 80 % du code de production d’Anthropic
Le même jour où l’histoire de la NSA a éclaté, l’institut de recherche interne d’Anthropic a publié « When AI Builds Itself », examinant jusqu’où Claude est allé dans l’automatisation de son propre développement. Claude écrit désormais plus de 80 % du code fusionné dans la base de code de production d’Anthropic—contre des chiffres à un faible pourcentage unitaire avant le lancement de Claude Code au début de 2025. Les ingénieurs livrent environ huit fois plus de code par jour que ce qu’ils faisaient en 2024.
En avril, des agents de Claude ont reçu un problème ouvert de sécurité de l’IA—à savoir si un modèle plus faible peut superviser de manière fiable un modèle plus fort—et ont été chargés de le traiter. Deux chercheurs humains ont, sur environ une semaine, récupéré 23 % de l’écart de performance entre les modèles. Les agents ont récupéré 97 % sur 800 heures cumulées de calcul. Les humains ont défini la question pendant que les agents concevaient chaque expérience. Les auteurs du rapport—Marina Favaro, responsable de l’Anthropic Institute, et le cofondateur Jack Clark—ont décrit cela comme le premier cas publié où Claude exerce un jugement de recherche plutôt que d’exécuter simplement des tâches spécifiées par quelqu’un d’autre.
Anthropic propose une pause mondiale de développement d’IA vérifiable
Le rapport plaide pour une pause mondiale vérifiable—plusieurs laboratoires de pointe stoppant simultanément, avec une vérification indépendante que tout le monde s’est réellement arrêté. Anthropic a déclaré qu’elle participerait à une telle pause. Les auteurs ont comparé le mécanisme proposé à des traités nucléaires de l’ère de la guerre froide conclus entre les États-Unis et la Russie.
Anthropic a averti que la trajectoire tend vers une amélioration récursive et autonome : des systèmes d’IA capables de concevoir, construire et entraîner eux-mêmes leurs successeurs, les humains jouant un rôle de moins en moins important à chaque étape. Une fois que l’IA choisit quelles expériences valent la peine d’être menées—et ne les fait pas seulement—les humains perdent, selon le rapport, le dernier rôle réellement significatif dans la boucle de développement. De petites désalignements visibles dans les modèles d’aujourd’hui pourraient s’amplifier au fil des générations s’auto-améliorant, jusqu’à ce que plus personne ne puisse les corriger.
Les avertissements sur la sécurité de l’IA émis en 2023 n’ont pas stoppé le développement
En 2023, plus d’une centaine de grandes personnalités de la communauté de recherche sur l’IA ont signé une lettre ouverte demandant un effort mondial pour atténuer le risque d’extinction intrinsèquement lié au développement de l’IA. Quelques mois auparavant, une autre lettre ouverte exigeait qu’OpenAI mette en pause les avancées sur ChatGPT en raison de leur nature dangereuse. Personne n’a stoppé après la lettre ouverte de 2023. OpenAI ne l’a pas fait. Anthropic non plus.
FAQ
Qu’a fait Anthropic à la NSA ?
Anthropic a intégré environ six ingénieurs à la National Security Agency pour déployer son modèle d’IA Mythos dans le cadre d’opérations de cybercriminalité offensives, selon un rapport du Financial Times publié jeudi. Les ingénieurs adaptent le modèle à des applications spécifiques, potentiellement y compris l’infiltration de réseaux en Chine et en Iran.
Pourquoi Anthropic poursuit-elle le Pentagone ?
Anthropic poursuit le Pentagone après que le secrétaire à la Défense Pete Hegseth a désigné la société comme présentant un risque pour la chaîne d’approvisionnement à la fin du mois de février à la suite de l’effondrement d’un contrat de 200 millions de dollars. Anthropic a refusé d’autoriser le Département de la Défense à utiliser Claude pour des armes entièrement autonomes ou pour de la surveillance de masse domestique. Un juge californien a bloqué la mise à l’index, apparemment en représailles au titre du Premier Amendement, tandis qu’une cour d’appel du District of Columbia a rejeté la demande d’Anthropic de suspendre la désignation pendant que le litige suit son cours.
Combien de code Claude écrit-il pour Anthropic ?
Claude écrit désormais plus de 80 % du code fusionné dans la base de code de production d’Anthropic, contre des chiffres à un faible pourcentage unitaire avant le lancement de Claude Code au début de 2025. Les ingénieurs livrent environ huit fois plus de code par jour que ce qu’ils faisaient en 2024, selon le rapport « When AI Builds Itself » d’Anthropic publié par l’institut de recherche interne de la société.
