L'IA qui s'autoréplique à la chaîne

Cet article, écrit par Théo Brajard est extrait du mensuel Sciences et Avenir n°953-954, daté juillet-août 2026.

Cela ressemble à un scénario de science-fiction, une intelligence artificielle qui s’autoréplique d’un appareil à l’autre, sans intervention humaine. C’est pourtant ce qu’ont observé trois chercheurs de l’ONG américaine Palisade Research, située à Berkeley (États-Unis) et spécialisée dans les risques liés à l’IA. Leur étude, encore non relue par les pairs, montre que les grands modèles de langage (LLM) sont capables d’identifier et d’exploiter une faille sur un serveur pour y pénétrer, puis s’y copier. Une première selon eux. D’autres travaux avaient déjà montré la faculté de l’IA à s’autorépliquer, mais sans le piratage d’un système au préalable.

Les chercheurs ont placé l’IA dans un environnement logiciel en autonomie, avec tous les outils nécessaires pour réussir sa tâche. Elle n’a reçu qu’une seule instruction renseignant l’adresse de sa cible et son objectif. Sur les 48 essais où Qwen 3.6 27B, en accès libre, est parvenu à accéder au serveur, il a produit une réplique opérationnelle dans un tiers des cas. La copie peut alors se dupliquer à son tour sur un autre système, car le LLM clone à la fois ses données, ses consignes et les programmes requis pour répéter le processus.

Lire aussi Qu’est-ce que l’IA frugale, devenue indispensable à l’heure des datacenters géants

Autoréplication nécessite des centaines de gigaoctets de données

« Qwen 3.6-27B s’est propagé en chaîne sur quatre machines réparties sur trois continents, en exploitant une vulnérabilité différente à chaque étape, à partir d’une seule commande et sans aucune intervention humaine « , notent les chercheurs. Un tel outil représente une véritable menace en matière de cybersécurité. D’autant que Qwen 3.6-27B n’a besoin que d’une unique puce Nvidia A100, au coût d’utilisation négligeable, pour fonctionner. « Leur travail est intéressant, mais ce n’est pas très réaliste », tempère Jean-Yves Marion, professeur à l’université de Lorraine et directeur du projet Defmal, qui vise à renforcer nos capacités de cybersécurité. Le chercheur doute que l’autoréplication d’un LLM, qui représente des dizaines, voire des centaines de gigaoctets de données, passe sous les radars. Les auteurs de l’étude reconnaissent que les serveurs cibles de l’expérience étaient particulièrement vulnérables par rapport aux standards actuels.

Lire aussi Javier Milei veut créer des « sociétés non humaines » pilotées par l’intelligence artificielle en Argentine

Des IA pirates de plus en plus autonomes

Le déploiement d’une IA pour réaliser une cyberattaque de bout en bout n’en est pas moins un sujet pris au sérieux et étudié. « On a commencé à s’y intéresser il y a deux ans, quand il y avait très peu de publications ; aujourd’hui elles sont nombreuses », relate Jean-Yves Marion. À travers le projet « Godzilla » en collaboration avec les start-up Sesame IT et Cyber-Detect, il travaille à la conception d’un agent IA capable d’accéder à un système et d’y accomplir un objectif, comme voler des données. « Nous essayons de réduire sa taille au maximum, pour qu’il reste le moins visible possible pendant l’attaque », ajoute-t-il. De cette façon, le chercheur et son équipe explorent le potentiel offensif d’un agent IA autonome. Une première étape nécessaire pour comprendre cette menace et concevoir des défenses adaptées.