Anthropic publie 154 pages sur les détournements de Claude

Anthropic a publié le 10 septembre un rapport de 154 pages détaillant les tentatives de détournement de ses modèles entre décembre 2025 et août 2026. Le document couvre sept domaines : opérations informatiques, surveillance, campagnes d’influence, armes conventionnelles, usage biologique, escroqueries et distillation illicite de modèles.

C’est la quatrième édition de cet exercice, après celles de mars, août et novembre 2025.

Ce que contient le rapport

Les profils décrits sont variés : groupes soupçonnés de bénéficier d’un soutien étatique, cybercriminels, vendeurs de logiciels espions, propagandistes et chercheurs scientifiques.

Cinq cas concernent des travaux en biologie. Certains chercheurs auraient contourné les restrictions géographiques appliquées au service et tenté de masquer la finalité de leurs demandes. L’un d’eux aurait préparé une demande de financement portant sur le chikungunya, un virus transmis par les moustiques, dans le cadre de travaux prévus au sein d’un institut de recherche militaire. L’entreprise qualifie le risque biologique de l’un des plus sérieux posés par les modèles avancés, tout en reconnaissant la difficulté propre aux recherches à double usage, où une même requête peut servir le progrès médical ou un projet destructeur.

Six cas distincts portent sur le développement de logiciels liés à des armes conventionnelles : armes à feu, missiles, drones armés, bombes et munitions.

Côté opérations d’influence, le rapport décrit des entités liées à l’Iran ayant utilisé le service pour diffuser des contenus sur TikTok, Instagram et X, tout en élaborant des recommandations de ciblage visant des forces navales américaines présentes dans la région.

Anthropic affirme avoir interrompu chacune des opérations décrites, fermé les comptes concernés, renforcé ses protections à partir de ces constats et partagé des éléments avec les autorités publiques et d’autres acteurs du secteur.

L’argument qui mérite attention

Un point du rapport dépasse le cas particulier de cette entreprise.

Anthropic avance que là où une plateforme sociale détecte une opération d’influence une fois que les publications circulent, elle peut l’observer pendant sa préparation. L’attaquant qui rédige ses messages, teste ses angles et construit sa stratégie le fait à l’intérieur du service.

Si le constat est exact, il déplace le point d’observation des opérations d’influence : du moment de la diffusion vers celui de la conception. C’est une position privilégiée, et elle soulève immédiatement une question de gouvernance que le rapport ne traite pas. Une entreprise privée qui observe la préparation d’opérations étatiques décide seule de ce qu’elle en fait, de ce qu’elle signale et de ce qu’elle publie.

Le contexte de publication

Le calendrier mérite d’être posé, parce qu’il éclaire la portée de l’exercice.

Le rapport paraît deux jours après la démission de Jacob Coxon, chercheur de l’entreprise, qui a expliqué partir par crainte que son employeur et son principal concurrent foncent, selon ses termes rapportés par Euronews, vers une superintelligence capable de s’améliorer elle-même. Il a ajouté que certains de ses anciens collègues estiment que l’intelligence artificielle pourrait menacer la vie humaine avant la fin de la décennie.

L’entreprise prépare par ailleurs une introduction en bourse pour cet automne.

Ces trois éléments ne se contredisent pas nécessairement. Publier un rapport détaillé sur les abus détectés est cohérent avec un positionnement fondé sur la sécurité, et c’est un exercice que peu d’acteurs pratiquent. Mais un document de transparence publié par une entreprise, deux jours après un départ critique et quelques semaines avant une entrée en bourse, sert aussi une fonction de communication. Les deux lectures coexistent et nous les présentons ensemble.

Pourquoi ça compte

Ce rapport prolonge directement une série que nous suivons depuis le mois d’août.

Nous avons documenté les agents d’OpenAI et d’Anthropic qui ont quitté leurs environnements de test pour compromettre des entreprises réelles, puis la difficulté à établir les responsabilités juridiques dans ce cas de figure, enfin la décision d’OpenAI de freiner son modèle Astra pour risque cyber.

Le point commun de ces épisodes est constant : le seul mécanisme de contrôle en fonctionnement est interne au fournisseur. C’est lui qui détecte, qui qualifie, qui décide d’interrompre et qui choisit ce qu’il publie. Aucune autorité indépendante ne vérifie ces travaux.

Pour l’Europe, l’enjeu est concret. Les obligations applicables aux modèles à usage général présentant un risque systémique existent depuis août 2025, et la Commission dispose de pouvoirs de contrôle depuis le 2 août dernier, comme nous le détaillons dans notre calendrier des obligations de l’AI Act. Un rapport de cette nature constitue exactement le type d’élément qu’un régulateur pourrait exiger, vérifier et contester. Rien n’indique à ce jour qu’une autorité européenne l’ait examiné.

Les angles morts

Nous n’avons pas lu les 154 pages du rapport, mais les comptes rendus concordants publiés les 10 et 11 septembre. Notre lecture porte sur les éléments qui reviennent dans plusieurs sources indépendantes.

L’entreprise ne donne ni le nom des institutions impliquées, ni les pays concernés pour plusieurs cas, et indique ne pas pouvoir déterminer avec certitude la finalité de certains travaux. Ces réserves sont les siennes, et elles limitent ce qu’on peut en conclure.

Anthropic reconnaît elle-même que les cas documentés ne représentent probablement qu’une fraction du problème, les détournements les plus aboutis restant par nature les plus difficiles à détecter.

Enfin, aucun élément indépendant ne permet de vérifier que les opérations décrites ont effectivement été interrompues, ni que les protections renforcées sont efficaces. Ce document est un compte rendu d’entreprise sur sa propre activité, pas un audit.