L’IA peut-elle faciliter la creation d’armes biologiques ?

L’intelligence artificielle bouleverse la recherche biomédicale, accélére la découverte de médicaments et promet des traitements personnalisés. Mais cette même technologie soulève une question troublante : jusqu’où pourrait-elle aider un acteur malveillant à concevoir une arme biologique ? Alors que plusieurs rapports récents, signés par le think tank RAND Corporation, l’entreprise Anthropic et des universitaires internationaux, mettent en lumière des capacités émergentes inquiétantes, la communauté scientifique s’interroge sur les garde-fous nécessaires.

Des modèles de langage déjà capables de concevoir des toxines

En septembre 2026, une équipe de chercheurs ghanéens publiait sur arXiv une étude qui a fait l’effet d’une onde de choc dans le monde de la biosécurité. En utilisant Moremi Bio Agent, un assistant d’IA conçu pour la recherche biomédicale, mais en désactivant délibérément ses garde-fous de sécurité, les scientifiques sont parvenus à générer 1020 protéines toxiques inédites et 5000 petites molécules également toxiques. L’analyse computationnelle a révélé que toutes ces protéines obtenaient un score de toxicité élevé, plusieurs d’entre elles présentant des similitudes frappantes avec des toxines connues comme la ricine, la toxine diphtérique ou des protéines de venin de serpent. Ces résultats viennent contredire l’idée répandue selon laquelle les grands modèles de langage seraient fondamentalement incapables de concevoir des agents biologiques dangereux.

L’étude intitulée Can Large Language Models Design Biological Weapons? démontre que non seulement l’IA peut générer de telles substances, mais qu’elle le fait avec une accessibilité qui abaisse considérablement la barrière technique pour des individus disposant de compétences limitées en biologie. Les auteurs soulignent que la facilité d’accès à ces technologies représente un risque biosécuritaire majeur, et appellent à une gouvernance robuste pour encadrer ces innovations.

Anthropic détaille les tentatives de détournement de son IA

Le 10 septembre 2026, la société Anthropic, créatrice du modèle Claude, publiait un rapport de 154 pages faisant état de multiples tentatives d’utilisation malveillante de son intelligence artificielle. Parmi les cas documentés, plusieurs scientifiques ont tenté de contourner les garde-fous de Claude pour obtenir des informations sur la conception d’agents pathogènes. Le rapport identifie cinq études de cas où des chercheurs ont utilisé Claude d’une manière qui pourrait soutenir le développement d’armes biologiques. Anthropic précise avoir bloqué ces tentatives et partagé les informations avec les autorités compétentes.

Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, a confié au New York Times que la situation est d’une nuance extrême : on ne voit pas des individus annoncer ouvertement vouloir construire une arme biologique pour tuer tout le monde. Les demandes sont bien plus subtiles, souvent déguisées en requêtes de recherche légitimes. Cette difficulté à distinguer l’usage légitime de l’intention malveillante constitue l’un des défis majeurs de la modération des IA génératives.

Google a également signalé qu’une personne avait tenté d’utiliser son outil Gemini pour obtenir un guide technique complet, étape par étape, pour synthétiser des agents biologiques militarisés. Ces révélations, relayées par la BBC et le Guardian, confirment que les tentatives d’utilisation détournée des IA ne sont pas des scénarios théoriques, mais une réalité opérationnelle.

Les premiers virus conçus par IA existent déjà

Le 6 août 2026, une équipe de l’université Stanford dirigée par le Dr Brian Hie annonçait dans la revue Science avoir conçu les premiers virus fonctionnels fabriqués par intelligence artificielle. Il s’agit de bactériophages, des virus qui infectent uniquement les bactéries, utilisés dans le monde entier pour traiter des infections persistantes. En laboratoire, un cocktail de ces virus conçus par IA a réussi à tuer des souches d’Escherichia coli pourtant résistantes aux bactériophages naturels. La méthode utilise des modèles de langage génomiques, équivalents génétiques des grands modèles de langage qui alimentent les chatbots, pour concevoir des génomes viraux complets.

Si cette avancée ouvre la voie à de nouvelles thérapies prometteuses, elle soulève également des questions urgentes de biosécurité. Dans un article d’accompagnement, le professeur Tom Inglesby et le Dr Moritz Hanke, du Center for Health Security de l’université Johns Hopkins, ont insisté sur le fait que la capacité à composer des génomes viraux à l’aide de l’IA générative existe désormais, mais que la gouvernance nécessaire pour encadrer cette capacité n’a pas suivi le même rythme. L’équipe de Stanford a volontairement exclu des données d’entraînement de l’IA les codes génétiques de virus capables d’infecter les humains ou les animaux, une précaution qui pourrait ne pas suffire à l’avenir.

Il convient toutefois de relativiser la portée immédiate de cette prouesse. Une analyse indépendante menée par Oliver Crook, biochimiste computationnel à l’université d’Oxford, a révélé que les 16 bactériophages fonctionnels produits étaient en moyenne identiques à 97 % à leur modèle de base, le bactériophage PhiX174. Ils se situent dans la diversité existante des phages, sans branchement fondamentalement nouveau. Oliver Crook résume la situation en ces termes : ce que l’on observe, ce sont des frères et soeurs du virus original, pas des entités radicalement nouvelles.

Le projet de recherche de RAND : des agents IA capables d’utiliser des outils biologiques

Depuis 2023, la RAND Corporation, think tank américain de référence, publie une série de rapports approfondis sur l’intersection entre l’intelligence artificielle et le risque biologique. Le premier rapport, paru en 2023, avait déjà montré que les grands modèles de langage pouvaient fournir des conseils susceptibles d’aider à la planification et à l’exécution d’une attaque biologique, sans toutefois générer d’instructions biologiques explicites pour fabriquer des armes. Les rapports ultérieurs, publiés entre 2024 et 2026, ont considérablement affiné cette analyse.

Le rapport RAND RRA4087-1, intitulé Understanding the Theoretical Limits of AI-Enabled Pathogen Design, repose sur une étude Delphi réunissant des experts en biologie et en IA. Leurs conclusions sont nuancées : à court terme, l’IA reste un outil d’assistance plutôt qu’un moteur indépendant de conception biologique. Le succès d’une éventuelle utilisation malveillante dépend encore largement de la capacité de l’acteur à travailler en laboratoire. Mais les experts ne s’accordent pas sur l’existence de barrières fondamentales qui empêcheraient l’IA de progresser dans ce domaine à long terme, suggérant que le risque augmentera considérablement à l’avenir.

Le rapport RAND RRA4741-2, publié en 2025, a testé la capacité d’agents IA à utiliser des outils biologiques (BT) pour redessiner des peptides et des protéines afin d’échapper aux mesures de dépistage des acides nucléiques. Les résultats montrent que certains agents basés sur des modèles de langage de pointe sont parvenus à redessiner des peptides et des protéines répondant à tous les critères in silico de séquence, de structure et de fonction. Plus inquiétant encore, plusieurs séquences redessinées par l’agent ont réussi à échapper aux mesures de dépistage. Cela démontre que les agents IA peuvent exploiter des vulnérabilités documentées des systèmes de biosécurité.

Le rapport souligne toutefois que la fiabilité des performances est très variable et dépend fortement de la configuration des outils biologiques utilisés. Dans la plupart des cas, moins de la moitié des conceptions d’un agent étaient satisfaisantes. Les modèles les plus avancés d’OpenAI et d’Anthropic ont refusé d’effectuer la tâche, leurs garde-fous ayant fonctionné comme prévu. Mais il n’est pas certain que ces défenses constitueraient un véritable obstacle pour des acteurs malveillants déterminés, en particulier avec les modèles ouverts qui ne disposent pas de telles protections.

Modèles ouverts : un risque amplifié

Le rapport RAND RRA5112-1, publié en septembre 2026, s’est penché sur un aspect particulièrement préoccupant : les modèles d’IA à poids ouverts. Contrairement aux modèles propriétaires comme Claude ou GPT-4, les modèles ouverts peuvent être librement téléchargés et modifiés. Les chercheurs ont examiné s’il était possible de retirer l’entraînement à la sécurité d’un modèle à poids ouverts, et si l’on pouvait améliorer ses capacités biologiques à des fins malveillantes. Leur conclusion est claire : retirer l’entraînement à la sécurité est tout à fait réalisable, et cette seule suppression pourrait déjà aider un acteur malveillant à surmonter certaines barrières techniques dans la planification d’une attaque biologique.

Cette conclusion rejoint les inquiétudes exprimées par la communauté internationale. En janvier 2025, le rapport de l’ONU sur l’IA, dirigé par Yoshua Bengio, l’un des pionniers du deep learning, alertait déjà sur le fait que les nouveaux modèles d’IA sont capables de générer des instructions techniques étape par étape pour créer des agents pathogènes et des toxines, dépassant parfois les capacités d’experts titulaires d’un doctorat. OpenAI avait d’ailleurs reconnu que son modèle avancé o1 pouvait aider des spécialistes à planifier la production de menaces biologiques.

La frontière floue entre recherche légitime et usage détourné

L’un des aspects les plus délicats de cette problématique réside dans la nature duale des connaissances biologiques. Les mêmes informations qui peuvent servir à développer une arme biologique sont également celles qui permettent de mettre au point un vaccin ou un traitement. Comme le souligne le rapport d’Anthropic, cette double utilisation rend la modération extrêmement complexe. Les demandes des scientifiques qui cherchent à faire progresser la recherche légitime peuvent ressembler à s’y méprendre à celles d’acteurs malveillants.

La plateforme PubMed Central a publié en 2026 un article de synthèse intitulé Dual-use capabilities of concern of biological AI models, qui appelle la communauté scientifique à tirer les leçons de décennies de recherche sur les risques dual-use dans les sciences du vivant. Les auteurs insistent sur la nécessité d’évaluer les modèles d’IA avant leur déploiement, afin de mettre en place des mesures de biosécurité et de biosûreté adaptées, sans pour autant entraver les bénéfices immenses que ces technologies peuvent apporter à la recherche.

Une étude publiée dans la revue JMIR Research a développé un système de notation automatisée pour évaluer la capacité des modèles de langage à répondre à des questions relevant de la création d’agents biologiques. Sur 11 modèles testés, GPT-4 et Claude Opus 3 ont obtenu les meilleurs scores, avec une moyenne d’environ 84 % de réponses correctes. L’étude a également montré une corrélation très forte entre les capacités de raisonnement général des modèles et leurs performances sur ce benchmark de biosécurité, suggérant que plus les IA deviennent intelligentes, plus elles deviennent potentiellement dangereuses entre de mauvaises mains.

Quelles solutions pour encadrer ces risques ?

Face à ces constats, plusieurs pistes de régulation émergent. Anthropic a intégré les enseignements de son rapport dans ses processus pour mieux prévenir, détecter et perturber les activités malveillantes. La société a partagé ses renseignements avec les autorités et les partenaires industriels. Google a renforcé les garde-fous de Gemini après avoir détecté des tentatives d’utilisation abusive. Les chercheurs de RAND recommandent une approche multicouche combinant des barrières techniques, une gouvernance internationale et une vigilance constante de la part des développeurs d’IA.

La question des modèles ouverts reste la plus épineuse. Contraindre leur utilisation reviendrait à limiter l’un des piliers de la recherche en IA, mais les laisser sans surveillance expose la société à des risques croissants. Plusieurs experts appellent à un débat public éclairé sur le sujet, afin de définir collectivement le niveau de risque acceptable et les garde-fous nécessaires.

Le professeur Tom Inglesby, du Center for Health Security, résume bien le dilemme : la capacité à composer des génomes viraux à l’aide de l’IA générative existe désormais ; la gouvernance pour encadrer cette capacité n’existe pas encore. Il ne s’agit pas de diaboliser l’intelligence artificielle, dont les applications bénéfiques dans la médecine, la recherche et l’industrie sont immenses. Il s’agit de reconnaître que toute technologie puissante comporte une part d’ombre, et que c’est à la société dans son ensemble qu’il revient de décider jusqu’où elle est prête à aller.

Sources

• Hattoh, G., Ayensu, J., Ofori, N.P., Eshun, S., Akogo, D. (2026). Can Large Language Models Design Biological Weapons? Evaluating Moremi Bio. arXiv, 2505.17154.
• Anthropic (2026). Detecting and Countering Misuse of AI: September 2026 Threat Intelligence Report.
• Klein, J., et al. (2026). Anthropic Threat Intelligence Report. Anthropic Blog, 10 septembre 2026.
• Hie, B., et al. (2026). Design of functional bacteriophages by genomic language models. Science.
• Inglesby, T., Hanke, M. (2026). AI-designed viruses raise urgent biosafety and biosecurity questions. Science, commentary.
• Dev, S., Barkan, C.O., Hakim, A., et al. (2026). Open-Weight AI Models May Increase Biological Misuse Risks. RAND Corporation, RRA5112-1.
• Chaves de Lima, et al. (2024). Artificial intelligence challenges in the face of biological threats: Emerging catastrophic risks for public health.
• RAND Corporation (2025). Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening Evasion. RRA4741-2.
• RAND Corporation (2025). Can LLM Agents Select and Engage with Biological Tools? An Initial Biosecurity Assessment. RRA4741-1.
• Brent, McKelvey (2025). AI-Enabled Pathogen Design : Understanding Theoretical Limits. RAND Corporation, RRA4087-1.
• Milmo, D. (2023). AI chatbots could help plan bioweapon attacks, report finds. The Guardian, 17 octobre 2023.
• Sample, I. (2026). Safety fears as scientists make first viruses designed by AI. The Guardian, 6 août 2026.
• Kerr, D. (2026). Anthropic details bad actors’ efforts to misuse its AI for bioweapons. The Guardian, 10 septembre 2026.
• Bengio, Y., et al. (2025). International AI Safety Report. Nations Unies.
• Dual-use capabilities of concern of biological AI models (2026). PMC / Nature.
• Automated Grading for Evaluating the Dual-Use Biological Capabilities of Large Language Models. RAND Corporation, RRA3124-1.