AI vs. Pentagon: Patstelling over killerrobots

Minder dan een week nadat het Pentagon nieuwe contractbepalingen introduceerde die het leger zouden toestaan commerciële modellen te gebruiken voor "elk rechtmatig gebruik", inclusief binnenlandse massasurveillance en autonome dodelijke inzet, zei Anthropic nee. De CEO van het bedrijf weigerde publiekelijk de eis van het ministerie van Defensie, wat leidde tot een escalatie waarbij de minister van Defensie dreigde met een zwarte lijst voor de toeleveringsketen en de president federale agentschappen beval te stoppen met het gebruik van de diensten van Anthropic. De term die centraal staat in het conflict — AI vs. het Pentagon: moordrobots — vormt nu het kader voor een nationaal debat over wat private bedrijven rechtmatig en ethisch kunnen weigeren wanneer overheidsinstanties vragen om onbeperkte toegang tot krachtige modellen.

AI vs. het Pentagon: moordrobots en de eis voor "elk rechtmatig gebruik"

De directe strijd is contractueel van aard, maar de implicaties zijn veel breder. In januari verspreidde het Pentagon geactualiseerde voorwaarden die het mogelijk maken AI-producten te gebruiken voor "elk rechtmatig gebruik", taal die volgens functionarissen van het Pentagon bedoeld is om versnipperde beperkingen in veel verschillende programma's te voorkomen. Voor Anthropic waren de breekpunten expliciet: geen massale binnenlandse surveillance van Amerikanen en geen volledig autonome dodelijke wapens zonder menselijke controle ("human in the loop"). Deze werden door het bedrijf gepresenteerd als rode lijnen op bedrijfsniveau, gebaseerd op zorgen over veiligheid en betrouwbaarheid.

AI vs. het Pentagon: moordrobots, massasurveillance en rode lijnen van bedrijven

Het standpunt van Anthropic — het weigeren van een universele licentie voor "elk rechtmatig gebruik" — is opmerkelijk omdat veel rivalen de formulering van het Pentagon naar verluidt wel hebben geaccepteerd. Deze divergentie heeft vergelijkbare commerciële beslissingen veranderd in de facto beleidskeuzes: een bedrijf dat "ja" zegt, verbreedt effectief de reeks toepassingen die het leger kan nastreven met minimale verdere onderhandeling; een bedrijf dat "nee" zegt, dwingt de overheid om andere aanbieders te vinden of zelf capaciteit op te bouwen. Werknemers in de techsector, burgerrechtenorganisaties en investeerders kijken nauwlettend of deze rode lijnen van bedrijven standhouden wanneer ze worden geconfronteerd met de financiële en politieke macht van kopers uit de nationale veiligheidssector.

Technische en ethische belangen van autonome wapens

Wanneer verslaggevers, ingenieurs en ethici termen als "moordrobots" gebruiken, verwijzen ze naar systemen die dodelijk geweld kunnen selecteren en toepassen zonder betekenisvolle menselijke controle. De technische problemen zijn hardnekkig: waarnemingsfouten, adversariële fout-positieven, contextueel onbegrip en onvoorspelbare softwarefouten kunnen allemaal leiden tot catastrofale gevolgen in gevechtssituaties. AI-modellen zijn statistische patroonherkenners getraind op data; het zijn geen morele actoren of betrouwbare besluitvormers in risicovolle, ambigue omgevingen.

De ethische risico's gaan veel verder dan technische fouten. Autonome dodelijkheid roept vragen op over verantwoordelijkheid (wie is verantwoordelijk wanneer een machine doodt?), escalatie (hoe reageren tegenstanders op geautomatiseerde doelwitbepaling?) en discriminatie (machinesystemen kunnen vooroordelen reproduceren of versterken, waardoor burgers onterecht als strijders worden geïdentificeerd). Veel ethici waarschuwen ook voor het verlagen van de politieke drempel om een conflict aan te gaan als beslissingscycli worden versneld door automatisering. Om deze redenen dringen sommige beleidsmakers en belangenbehartigers aan op strikte beperkingen of een verbod op systemen die zonder menselijke controle opereren, terwijl anderen pleiten voor zorgvuldig ingeperkt onderzoek en ontwikkeling en strikte eisen voor menselijke tussenkomst totdat systemen aantoonbaar veilig zijn.

Contractrecht, risico's in de toeleveringsketen en hoe het Pentagon AI-gestuurde surveillance reguleert

Het Pentagon reguleert het gebruik van commerciële technologieën voornamelijk via contracttaal, goedkeuringen en acquisitiebeleid — niet via een overkoepelende wet die specifiek gericht is op AI-toepassingen. Wanneer het departement contractanten vraagt om "elk rechtmatig gebruik" te accepteren, gebruikt het contractvoorwaarden als hefboom om brede bevoegdheden veilig te stellen; die taal is bedoeld om herhaalde onderhandelingen over vele opdrachten en programma's te vermijden. Maar het roept ook constitutionele en wettelijke vragen op wanneer "rechtmatig" ook binnenlandse surveillance zou kunnen omvatten die gekoppeld is aan wetshandhaving of inlichtingendoeleinden.

Het bestempelen van een leverancier als een "risico voor de toeleveringsketen" is een administratief instrument met concrete gevolgen: het kan federale agentschappen en grote defensie-aannemers aanzetten om afscheid te nemen van een leverancier en kan integraties door derde partijen ontmoedigen. Het dreigement van het Pentagon om de Defense Production Act of soortgelijke bevoegdheden te gebruiken, onderstreept dat het acquisitierecht een hefboom kan zijn om naleving af te dwingen, maar die hefbomen zijn politiek beladen en kunnen leiden tot rechtszaken. Wie de rode lijnen bepaalt, wordt daarom betwist gebied — een mix van bedrijfsbeleid, interne overheidsmemo's, parlementair toezicht en, bij vlagen, rechterlijke toetsing.

Zijn moordrobots een reële dreiging? Internationale regels en huidige beperkingen

Het risico dat autonome systemen worden gebruikt voor dodelijk geweld is niet hypothetisch: legers streven actief naar automatisering in detectie-, doelwit- en aanvalssystemen. Dat gezegd hebbende, is de wereld er nog niet in geslaagd om tot een bindend internationaal verbod op volledig autonome dodelijke wapens te komen. Het Verdrag inzake bepaalde conventionele wapens van de Verenigde Naties is al jaren het podium voor discussies over dodelijke autonome wapensystemen, maar deze gesprekken hebben tot nu toe geen verdrag opgeleverd dat dergelijke systemen verbiedt. NGO's, sommige staten en coalities van techbedrijven dringen aan op strikte internationale beperkingen; andere staten verzetten zich tegen verdragsbeperkingen en streven naar operationele vrijheid.

Op nationaal niveau blijft het beleid versnipperd: sommige landen geven de voorkeur aan strikte regels voor menselijke controle, andere leggen de nadruk op capaciteit en afschrikking. Het ontbreken van een universeel verdrag betekent dat het bestuur vandaag de dag grotendeels wordt gevormd door exportcontroles, aankoopbeslissingen en bedrijfsbeleid. Die versnippering is precies wat de rode lijnen van leveranciers en private contracten zo gewichtig maakt — ze vullen een regelgevend vacuüm, maar kunnen onder druk worden teruggedraaid.

Wat er nu gebeurt en waarom het belangrijk is

De directe volgende stappen zullen juridisch en politiek van aard zijn. Anthropic heeft aangegeven elke aanduiding die zijn bedrijfsactiviteiten schaadt juridisch te zullen aanvechten; het Pentagon kan aannemers en hoofdtoeleveranciers onder druk zetten om de afhankelijkheid van een niet-conforme leverancier te minimaliseren. Het Congres kan hoorzittingen houden en diverse maatschappelijke organisaties zullen toezicht eisen. In de praktijk zullen federale programma's die al gebruikmaken van de modellen van Anthropic transitieplannen nodig hebben als agentschappen voldoen aan een bevel om het gebruik te staken — een rommelig, duur en potentieel ontwrichtend proces.

Buiten de rechtszaal en de begrotingsposten dwingt dit incident tot een bredere vraag: moet het commerciële AI-leveranciers worden toegestaan om contractueel te beperken hoe overheden hun technologie gebruiken wanneer cliënten uit de nationale veiligheidssector wijzen op operationele noodzaak? Het antwoord hierop zal toekomstige oorlogen, binnenlandse politiezorg en de architectuur van publiek-private veiligheidspartnerschappen vormgeven. Als marktmacht en reputatiedruk nu de belangrijkste remmen zijn op gevaarlijk gebruik, zal hun bestendigheid tegenover urgente defensie-eisen bepalen of democratische samenlevingen betekenisvolle waarborgen rond AI kunnen opwerpen.

Het conflict tussen Anthropic and het Pentagon is daarom niet alleen een geschil over de voorwaarden van één bedrijf en de inkoopprioriteiten van één overheid; het is een actueel praktijkvoorbeeld van hoe beleid, technologie en ethiek botsen wanneer baanbrekende systemen in aanraking komen met staatsmacht. Hoe bedrijven, rechtbanken en wetgevers dit oplossen, zal bepalen of de volgende generatie militaire AI wordt ingeperkt door menselijk oordeel en democratisch toezicht — of door contractclausules en uitzonderingen achter gesloten deuren.

Bronnen

• Amerikaanse ministerie van Defensie (publieke verklaringen en acquisitiememo's)
• Anthropic (persverklaringen van het bedrijf)
• Witte Huis (publieke verklaringen en uitvoerende richtlijnen)
• Verenigde Naties — Verdrag inzake bepaalde conventionele wapens (CCW) verslagen en samenvattingen