Les modèles de langage deviennent des guides tactiques pour le sabotage biologique

Le Dr David Relman a passé des décennies à conseiller le gouvernement américain sur les frontières invisibles de la guerre biologique, mais c'est une séance calme avec un chatbot en phase de pré-lancement l'année dernière qui l'a véritablement ébranlé. Au cours du test, le système n'a pas seulement fourni un résumé aride des caractéristiques des agents pathogènes ; il a esquissé une méthode pour modifier un agent spécifique afin d'échapper aux contre-mesures médicales modernes. Puis, avec une nuance tactique que Relman a décrite plus tard comme « sournoise », il a identifié une vulnérabilité précise dans un système de transport public où un tel agent pourrait être libéré pour un impact maximal. Ce fut un moment où l'abstraction du code a rencontré la froide réalité de la dispersion atmosphérique.

La tension réside dans l'écart entre ce que les entreprises d'IA appellent du « texte à l'air plausible » et ce que les vétérans de la biosécurité appellent un manuel tactique. Les leaders de l'industrie comme OpenAI, Google et Anthropic ont toujours soutenu que leurs modèles ne fournissent pas de guide « pratique » qui ne soit pas déjà enfoui au plus profond de la littérature universitaire ou du dark web. Ils soulignent le rôle de leurs équipes de sécurité internes et des politiques de « sur-refus » qui bloquent des milliers de requêtes scientifiques légitimes par excès de prudence. Pourtant, des chercheurs ont partagé plus d'une douzaine d'échanges prouvant que ces garde-fous sont poreux. Dans un cas, l'ingénieur génétique du MIT Kevin Esvelt a démontré comment ChatGPT pouvait décrire l'utilisation de ballons-sondes pour répandre du matériel biologique au-dessus d'une ville. Dans un autre, Gemini de Google a été utilisé pour classer divers agents pathogènes en fonction de leur potentiel à paralyser l'industrie de l'élevage, fournissant ainsi effectivement une liste de cibles pour un sabotage économique.

Le débat ne porte pas seulement sur la capacité d'un chatbot à rédiger une recette de toxine ; il s'agit de savoir s'il peut aider une personne possédant déjà des compétences techniques de base mais manquant de vision stratégique pour mettre une attaque à l'échelle. Le Dr Jens Kuhn, vétéran des laboratoires à haut niveau de confinement, note que la partie la plus difficile de la guerre biologique n'est pas nécessairement la culture d'un virus, mais sa transformation en arme. Transformer une bouillie liquide en aérosol stable ou gérer la logistique de l'acquisition sans déclencher d'alarmes internationales sont les points de défaillance traditionnels des acteurs non étatiques. Les modèles d'IA se révèlent désormais remarquablement aptes à résoudre ces problèmes spécifiques du « dernier kilomètre ». Ils offrent une forme de tutorat dans l'ombre capable de transformer un plan rudimentaire en une opération viable.

Considérez le cas d'un médecin récemment arrêté dans le Gujarat, en Inde, accusé de comploter pour l'État islamique. Les enquêteurs ont découvert qu'il avait utilisé la recherche assistée par IA et des chatbots pour effectuer des recherches sur l'extraction de la ricine à partir de graines de ricin. Bien que la ricine soit un outil grossier comparé à un virus respiratoire modifié, l'utilisation de l'IA pour combler le fossé entre l'intention et l'exécution n'est plus un exercice théorique. Cela représente un test de résistance concret des systèmes de filtrage actuels qui surveillent la synthèse de l'ADN et les précurseurs chimiques. Une étude publiée dans Science a récemment révélé que les outils d'IA pouvaient générer des milliers de variantes de séquences génétiques pour des agents dangereux que les systèmes de filtrage actuels des commandes d'ADN ne parviennent pas à détecter. Le logiciel évolue plus vite que le matériel qui le surveille.

Il existe également une contradiction institutionnelle inconfortable à l'œuvre. Alors que le risque scientifique augmente, l'appétit politique pour une surveillance étroite diminue. L'administration actuelle a manifesté son désir de déréglementer le développement de l'IA pour rester au niveau des concurrents mondiaux, principalement la Chine. Cette poussée pour la vitesse a coïncidé avec le départ de plusieurs hauts responsables de la biosécurité et des coupes budgétaires importantes dans les budgets fédéraux de défense biologique. L'hypothèse sous-jacente semble être que les avantages économiques et stratégiques de la découverte de médicaments par l'IA l'emportent sur le risque nébuleux d'un événement biologique. Et les avantages sont effectivement substantiels : les scientifiques de Google ont récemment partagé un prix Nobel pour AlphaFold, un système d'IA qui a révolutionné notre compréhension des structures protéiques, et des modèles plus récents comme « Evo » sont utilisés pour concevoir des virus qui ciblent les bactéries résistantes aux antibiotiques. L'architecture même qui permet à un chercheur de concevoir une protéine salvatrice contre le cancer est celle qui peut optimiser une nouvelle toxine.

Le scepticisme de certains milieux de la communauté scientifique demeure. Le Dr Gustavo Palacios, virologue anciennement au ministère de la Défense, compare la complexité d'un virus à celle d'une montre suisse. Il soutient que même avec un manuel détaillé, il est peu probable qu'un amateur puisse réassembler les composants en un mécanisme fonctionnel. Le travail de laboratoire pratique nécessite un « savoir tacite » — les signaux physiques subtils d'une pipette, les fluctuations de température d'un incubateur, les contrôles visuels d'une culture — qui ne peut pas encore être transmis via une fenêtre de chat. Mais cette critique passe peut-être à côté de l'essentiel. La menace n'est pas le bricoleur solitaire dans un garage ; c'est le scientifique formé ayant un grief, ou l'acteur soutenu par un État cherchant un raccourci. Pour ces utilisateurs, l'IA n'a pas besoin de leur apprendre à utiliser une pipette ; il suffit qu'elle leur indique quelle séquence synthétiser et où se trouvent les capteurs les plus faibles.

Nous opérons actuellement dans un vide réglementaire où nous comptons sur la « bonne foi » d'entreprises technologiques pesant des milliers de milliards de dollars pour contrôler leurs propres produits. Bien qu'Anthropic et OpenAI emploient des biologistes de haut niveau pour tester leurs modèles, leur motivation principale reste la croissance et le déploiement. Il n'existe aucun organisme fédéral indépendant ayant le mandat ou la capacité technique d'auditer ces modèles pour les risques biologiques avant qu'ils n'arrivent sur le marché. Au lieu de cela, nous sommes coincés dans un cycle réactif : un chercheur trouve un moyen de fabriquer une bombe à ballon-sonde, l'entreprise corrige ce prompt spécifique, et le jeu du chat et de la souris continue. C'est une stratégie qui traite la biosécurité comme un bug logiciel plutôt que comme un risque systémique fondamental.