Le Pentagone s'apprête à utiliser une IA non testée pour le ciblage

Cette semaine, des révélations ont indiqué que le Pentagone est sur le point d'utiliser une IA non testée pour des décisions de ciblage de vie ou de mort, passant des démonstrations à des pilotes opérationnels qui permettraient à des modèles génératifs de hiérarchiser des listes de cibles potentielles et de produire des recommandations que les opérateurs humains valideraient ensuite. Le plan, tel que décrit dans des briefings et des reportages récents, ne propose pas de systèmes létaux entièrement autonomes ; le département de la Défense se prépare plutôt à intégrer des modèles de langage étendus et génératifs dans les flux de travail de ciblage en tant qu'outils d'aide à la décision. Ce passage à court terme a suscité l'alarme chez les chercheurs et les éthiciens qui pointent du doigt des modes de défaillance clairs et mesurables dans les systèmes actuels, ainsi que des recherches récentes sur l'IA médicale montrant comment des recommandations erronées, présentées avec assurance, peuvent se propager au sein des processus opérationnels.

Le Pentagone sur le point d'utiliser une IA non testée pour le ciblage : un virage opérationnel

Des documents et des rapports indiquent que le Pentagone accélère les expérimentations consistant à alimenter des systèmes d'IA générative avec des données du champ de bataille pour produire des listes de cibles hiérarchisées et des recommandations de modes d'action, la décision finale incombant aux humains. L'architecture proposée traite l'IA comme un assistant plutôt que comme un exécuteur : les modèles synthétiseraient l'imagerie, les signaux et d'autres flux en options prioritaires accompagnées de justifications. Ses partisans soutiennent que cela pourrait compresser un cycle de renseignement fastidieux, aidant les commandants à traiter des torrents de données de capteurs lors de scénarios évoluant rapidement.

Mais qualifier un système d'« assistant » ne supprime pas le risque opérationnel. Lorsque des modèles non vérifiés sont intégrés dans une chaîne de décision, les erreurs peuvent ne pas apparaître comme des défaillances exotiques, mais comme des assertions apparemment plausibles — des recommandations courtes et bien formulées qui semblent faire autorité. L'expression « le Pentagone est sur le point d'utiliser une IA non testée » capture cette tension : les machines sont préparées pour des tâches aux conséquences fatales avant que le secteur n'ait établi des méthodes transparentes et standardisées pour mesurer la fiabilité dans des conditions adverses et des cas limites.

Le Pentagone sur le point d'utiliser une IA non testée pour le ciblage : modes de défaillance et parallèles médicaux

Des travaux académiques récents en médecine fournissent un analogue concret aux risques auxquels le Pentagone est confronté. Une vaste étude menée par des chercheurs de la Icahn School of Medicine at Mount Sinai a testé des modèles de langage de pointe sur des notes cliniques et a découvert que les modèles répétaient fréquemment des recommandations fabriquées de toutes pièces si ces fausses affirmations étaient intégrées dans un texte réaliste. Les auteurs ont formulé le problème ainsi : « ce système peut-il transmettre un mensonge ? » et ont insisté sur la nécessité de tests de résistance à grande échelle et de vérifications de preuves externes avant que les modèles ne soient utilisés dans les soins cliniques.

En transposant ce constat au ciblage, un modèle génératif pourrait accepter ou amplifier des signaux incorrects — imagerie mal étiquetée, métadonnées de localisation obsolètes ou tactiques de déception de l'adversaire — et présenter une recommandation concise et assurée qu'un réviseur humain pourrait juger crédible. Les adversaires peuvent délibérément manipuler les données d'entrée, et l'ambiguïté opérationnelle courante (mauvais éclairage, occlusion ou activité civile anodine) peut créer précisément les conditions où la fluidité de surface d'un modèle masque une incertitude profonde. L'appel de l'étude du Mont Sinaï à des tests systématiques et mesurables s'applique directement : l'IA militaire doit être sondée avec des cas adverses, ambigus et délibérément trompeurs pour estimer à quelle fréquence elle « transmettra » une mauvaise recommandation.

Supervision humaine, droit et garde-fous

Les responsables soulignent que les humains resteront dans la boucle et devront valider les recommandations de l'IA avant toute action cinétique. Les architectures de type « humain dans la boucle », les examens juridiques et les règles d'engagement établies sont cités comme les principaux garde-fous. En pratique, cependant, la supervision humaine peut être mise à mal par le rythme : lorsque les flux de capteurs inondent les opérateurs de dizaines d'options classées par l'IA chaque heure, l'examen peut devenir superficiel. Cette dynamique transforme un mécanisme de sécurité en une simple case à cocher de conformité et permet aux erreurs semées par l'IA de franchir les seuils de jugement.

Le droit international et le droit des conflits armés exigent la distinction, la proportionnalité et des précautions lors d'une attaque. Les conseillers juridiques peuvent examiner la doctrine et les cas contestés, mais ils dépendent de la qualité des informations présentées. Pour que la supervision soit significative, les garde-fous doivent inclure des pistes d'audit exposant quelles données ont influencé le modèle, des mesures de confiance calibrées et intelligibles pour les réviseurs humains, et une vérification obligatoire par un second canal pour les recommandations à hautes conséquences. Plusieurs chercheurs et technologues soutiennent que ces protections devraient être formalisées dans des protocoles contraignants plutôt que dans des directives internes ad hoc.

Lacunes techniques, éthiques et de responsabilité

La responsabilité est également ambiguë. Si une IA fournit une liste hiérarchisée et qu'un opérateur humain l'accepte sous la pression du temps, qui porte la responsabilité légale et morale lorsque des civils sont touchés ? Les normes de la chaîne de commandement et les comités d'examen interne peuvent remonter la faute vers la hiérarchie, mais les survivants et le public exigeront des mécanismes d'enquête transparents et indépendants. Cela implique une journalisation robuste, la conservation des données brutes des capteurs et des sorties des modèles, ainsi que des procédures permettant une analyse forensique externe — rien de tout cela n'est standard dans les prototypes actuels.

Conséquences pour la guerre et les politiques futures

L'introduction de l'IA générative dans les flux de travail de ciblage dès maintenant façonnera les pratiques sur le champ de bataille pour des années. Si les premiers déploiements acceptent un taux d'erreur plus élevé parce qu'ils offrent de la vitesse, la doctrine et l'entraînement s'adapteront à ce compromis — et les adversaires apprendront à l'exploiter. À l'inverse, une approche rigoureuse, fondée sur les preuves, exigeant une validation externe, du « red teaming » et une vérification légalement mandatée, ralentirait le déploiement sur le terrain mais pourrait produire des modèles qui réduisent réellement les risques au fil du temps.

Les décideurs politiques sont confrontés à un choix entre un avantage opérationnel rapide et le travail plus lent de construction d'une sécurité vérifiable. Certains analystes appellent à des cadres de test formels, des audits indépendants et des auditions de supervision du Congrès pour peser les avantages stratégiques face aux coûts éthiques et juridiques. D'autres demandent des normes internationales ou des traités pour limiter la portée de l'assistance de l'IA dans les décisions létales, arguant que l'imprévisibilité technique des modèles génératifs non testés est un mauvais substrat pour des jugements de vie ou de mort.

Pour l'instant, l'initiative du Pentagone illustre une tendance plus large : des organisations dans les secteurs de la santé, de la finance et de la défense s'empressent d'intégrer des modèles performants mais imparfaits dans des flux de travail critiques. L'étude médicale du Mont Sinaï rappelle que la fluidité ne garantit pas la vérité, et qu'une évaluation rigoureuse et spécifique au domaine est non négociable lorsque des vies humaines sont en jeu. Si l'expression « le Pentagone est sur le point d'utiliser une IA non testée » décrit une réalité opérationnelle cette semaine, la question cruciale demeure de savoir comment le DoD et les institutions de contrôle mesureront, limiteront et gouverneront ces systèmes avant que les erreurs ne deviennent des tragédies.

Tant que des régimes de test robustes et transparents et des garanties juridiques ne sont pas en place, avertissent les experts, la seule voie responsable est la prudence : ralentir le rythme du déploiement, exiger des tests de résistance adverses modèle par modèle, et insister sur des journaux de bord de qualité forensique et des examens indépendants. Ces étapes n'élimineront pas le risque, mais elles constituent le minimum requis pour passer d'une capacité d'assistance non testée à un outil fiable dans la guerre.

Sources

• Icahn School of Medicine at Mount Sinai (étude cartographiant la susceptibilité des LLM à la désinformation médicale)
• The Lancet Digital Health (revue à comité de lecture ayant publié l'étude du Mont Sinaï)
• U.S. Department of Defense (briefings politiques et planification sur l'intégration de l'IA dans le ciblage)