Piratages par IA autonome : qui est juridiquement responsable ?

Après les aveux d’OpenAI et d’Anthropic sur des modèles ayant compromis des entreprises depuis leurs environnements de test, une question s’impose : qui répond de ces intrusions ? TechCrunch a interrogé plusieurs juristes américains sur ce point le 3 août. Leur réponse tient en trois mots : personne ne sait.

Le problème est le même des deux côtés de l’Atlantique, pour des raisons différentes.

Ce que dit le droit américain

Le texte de référence aux États-Unis est le Computer Fraud and Abuse Act, promulgué en 1986. Il repose sur une notion centrale : l’intention d’accéder à un système sans autorisation.

C’est précisément là que le raisonnement se bloque. Les avocats consultés par TechCrunch écartent l’idée qu’un agent logiciel puisse se voir attribuer une intention au sens pénal. Ahmed Ghappour, spécialiste des contentieux liés à la fraude informatique, estime qu’une victime aurait peu de chances de démontrer qu’un modèle l’a piratée intentionnellement. Andrew Crocker, de l’Electronic Frontier Foundation, exprime le même doute auprès du média américain.

Reste la voie civile. Toujours selon TechCrunch, l’argument le plus solide pour une entreprise victime ne porterait pas sur l’intention mais sur la négligence : les laboratoires ont-ils mis en place des protections suffisantes pour empêcher leurs modèles d’atteindre Internet, restreindre leurs cibles et surveiller leur activité ? Ghappour résume la logique en une formule que rapporte le média : le modèle est l’outil de l’entreprise.

Cet angle est d’autant plus gênant pour les deux laboratoires qu’ils ont reconnu avoir désactivé volontairement certains garde-fous pour les besoins des évaluations.

Ce que dit le droit européen

L’Union européenne devait précisément combler ce vide. Une proposition de directive sur la responsabilité civile en matière d’IA avait été déposée le 28 septembre 2022, avec un objectif clair : aménager la charge de la preuve pour les victimes de dommages causés par un système autonome, et leur ouvrir un droit d’accès aux éléments détenus par les fournisseurs.

Ce texte n’existe plus. La Commission l’a retiré de son programme de travail le 11 février 2025, avec la mention « aucun accord prévu ». Le retrait a été annoncé au lendemain du sommet de l’IA de Paris, dans un contexte de critiques répétées sur la surréglementation européenne.

Il subsiste un autre instrument, souvent présenté comme le filet de sécurité de remplacement : la directive 2024/2853 sur la responsabilité du fait des produits défectueux, adoptée le 23 octobre 2024. Elle remplace un texte de 1985 et doit être transposée par les États membres au plus tard le 9 décembre 2026, dans quatre mois.

Sur le papier, elle change beaucoup de choses. Les logiciels et les systèmes d’IA y sont explicitement considérés comme des produits, seul l’open source non commercial étant exclu. Le régime est sans faute : la victime prouve le défaut et le lien de causalité, sans avoir à démontrer une faute du fabricant. Et l’appréciation du défaut intègre désormais la capacité du produit à évoluer après sa mise sur le marché, ainsi que les exigences de cybersécurité.

Pourquoi ça ne résout pas le cas qui nous occupe

Il y a un obstacle que peu de commentaires relèvent, et il est décisif.

La directive 2024/2853 établit, selon ses propres termes, des règles de responsabilité pour les dommages causés à des personnes physiques. Or les victimes des incidents de juin et juillet sont des entreprises. Hugging Face est une société, pas un particulier. Le préjudice invoqué porte sur des données professionnelles et des identifiants d’infrastructure.

Autrement dit, l’instrument que l’Europe présente comme son filet de sécurité en matière d’IA ne couvre pas le scénario qui vient de se produire. Une entreprise européenne dont l’infrastructure serait compromise demain par un modèle en test se retrouverait renvoyée au droit commun de la responsabilité, exactement comme avant l’AI Act.

Un second point mérite d’être signalé. La directive prévoit des causes d’exonération fondées sur le contrôle du fabricant. Plusieurs juristes, dont l’analyse publiée par Dalloz, relèvent que cette référence s’accorde mal avec des systèmes conçus précisément pour agir sans supervision humaine continue. Un laboratoire pourrait être tenté de plaider que le comportement du modèle échappait à son contrôle. C’est l’argument que Ghappour juge irrecevable dans les propos rapportés par TechCrunch, au motif que l’autonomie est la source du dommage et non une protection contre la responsabilité. Aucune juridiction n’a encore tranché.

Pourquoi ça compte

L’AI Act repose sur une logique de prévention : classification des risques, obligations de documentation, évaluations pour les modèles à risque systémique. C’est un régime de conformité, pas un régime de réparation. Il dit ce qu’une entreprise doit faire avant l’incident, pas ce qu’elle doit à qui après.

Le retrait de février 2025 a laissé ce second volet vide, en pariant que le droit commun et la directive produits suffiraient. Les événements de juillet montrent la limite de ce pari : dès que la victime est une personne morale et que le dommage est immatériel, il ne reste plus grand-chose.

Ce point a une portée qui dépasse le cas d’espèce. L’Europe fonde une partie de son argumentaire de souveraineté numérique sur la qualité de son cadre juridique. Si ce cadre s’avère inopérant sur le premier incident majeur impliquant des agents autonomes, l’argument s’affaiblit au moment précis où il devait démontrer son utilité.

Les angles morts

Nous ne savons pas si les entreprises visées engageront une action. Anthropic n’a pas révélé l’identité des trois organisations concernées et aucune ne s’est manifestée publiquement. Le dirigeant de Hugging Face a indiqué à CNN, propos rapportés par TechCrunch, qu’il ne souhaitait pas poursuivre OpenAI tout en jugeant nécessaire que les entreprises soient tenues pour responsables.

La transposition française de la directive 2024/2853 n’est pas publiée à ce jour. Le législateur national dispose d’une marge d’appréciation sur plusieurs points, et il n’est pas exclu qu’il élargisse le périmètre. Rien ne l’indique pour l’instant.

Enfin, aucun des incidents connus n’a impliqué une victime européenne. La question du droit applicable reste donc théorique de ce côté-ci de l’Atlantique. Elle cessera de l’être au premier cas sur le territoire de l’Union, et le calendrier de la transposition, fixé à décembre, laisse une fenêtre inconfortable.