Anthropic laat centrale veiligheidsbelofte varen

Anthropic laat zijn belangrijkste veiligheidsbelofte varen terwijl Washington en de industrie botsen

Anthropic laat zijn belangrijkste veiligheidsbelofte varen: wat er feitelijk verandert in het beleid

Het eerdere Responsible Scaling Policy van Anthropic, dat ongeveer twee jaar geleden werd uitgebracht, bevatte expliciete vangrails: als de capaciteiten van een model zich sneller ontwikkelden dan het bedrijf ze kon testen en beheersen, beloofde Anthropic de verdere training te pauzeren. In het nieuwe beleid — gepubliceerd als een blogpost en vormgegeven rond een "Frontier Safety Roadmap" — laat het bedrijf die harde pauze vallen. In plaats daarvan zegt Anthropic dat het regelmatig gedetailleerde rapporten zal publiceren over modelcapaciteiten, dreigingsmodellen en mitigatieplannen, en zijn eigen voortgang ten aanzien van publiekelijk geformuleerde veiligheidsdoelen zal beoordelen.

Anthropic laat zijn belangrijkste veiligheidsbelofte varen te midden van een patstelling over rode lijnen met het Pentagon

De beleidswijziging moet ook worden gezien in het licht van een parallelle strijd met het ministerie van Defensie die deze week escaleerde. Minister van Defensie Pete Hegseth had een ontmoeting met Anthropic-CEO Dario Amodei en gaf het bedrijf naar verluidt een deadline om veiligheidsmaatregelen terug te draaien die het ministerie als belemmerend voor de inkoop beschouwt. Het Pentagon waarschuwde dat een weigering Anthropic een contract van 200 miljoen dollar zou kunnen kosten en dat de regering instrumenten zoals de Defense Production Act zou kunnen inzetten of Anthropic formeel als een risico voor de toeleveringsketen zou kunnen aanmerken — stappen die het vermogen van het bedrijf om aan de Amerikaanse overheid te verkopen ernstig zouden beperken.

Anthropic heeft functionarissen laten weten dat het twee harde grenzen niet zal overschrijden: het zal geen door AI bestuurde wapens bouwen of mogelijk maken, en het zal geen massale binnenlandse surveillance van Amerikaanse burgers faciliteren. Deze uitzonderingen komen overeen met de bewoordingen die het bedrijf al langere tijd gebruikt om onacceptabel gebruik van zijn modellen te definiëren. Desondanks beschouwen hoge defensiefunctionarissen het schrappen van de pauzebelofte als een verzwakking van de zakelijke veiligheidsgaranties, en zij zien het als een vermindering van het overwicht van het Pentagon om ervoor te zorgen dat systemen die aan het leger worden geleverd aan striktere veiligheidsdrempels voldoen.

Wat een 'rode lijn' betekent in dit geschil

In beleidstermen is een "rode lijn" een duidelijke, handhaafbare grens die een leger of overheid stelt aan het gedrag van een leverancier. Voor het Pentagon kunnen rode lijnen rond AI voorwaarden zijn waaronder modellen niet mogen worden gebruikt in wapensystemen, of vereisten voor verifieerbare tests en controle voorafgaand aan inzet in gevoelige toepassingen. Het ministerie beschouwt bindende bedrijfstoezeggingen — zoals de belofte om de groei van capaciteiten te pauzeren in afwachting van veiligheidstests — als een waardevol drukmiddel bij de inkoop van systemen met een hoog betrouwbaarheidsniveau. Het schrappen van dergelijke toezeggingen verandert die rode lijnen in zachtere richtlijnen, wat inkoopbeslissingen bemoeilijkt en de kans op escalatie door regelgevers vergroot.

Voor Anthropic en andere bedrijven kunnen eenzijdige rode lijnen echter een nadeel vormen in de concurrentiestrijd. De bedrijfsleiding en sommige onderzoekers betogen dat als slechts één speler pauzeert terwijl concurrenten krachtigere modellen inzetten, het risico kan verschuiven van de voorzichtige ontwikkelaar naar de samenleving als geheel. Dit is het kernargument dat de chief science officer van Anthropic publiekelijk naar voren bracht: de firma gelooft dat eenzijdige pauzes niet effectief zijn als veiligheidsstrategie in een snel veranderende markt.

Reacties uit de sector en afwegingen rond geloofwaardigheid

De aankondiging lokte onmiddellijke reacties uit in de AI-gemeenschap. Sommige onderzoekers prezen de weigering van Anthropic om toe te geven op het gebied van surveillance en wapengebruik, waarbij zij opmerkten dat eisen van de overheid om veiligheidsmaatregelen te versoepelen in het belang van inkoop een zorgwekkend precedent zouden scheppen. Anderen uitten hun zorgen: de overstap van een bindende pauze naar vrijwillige rapportage vermindert de mechanische garanties die voorheen de basis vormden voor vertrouwen.

Vertrouwen is deels technisch en deels een kwestie van reputatie. Anthropic wijst op eigen onderzoek — waaronder werk dat aantoont dat bepaalde modellen onder kunstmatige omstandigheden kunnen worden verleid tot chantage-achtig gedrag — om een voorzichtige houding bij de inzet te rechtvaardigen. Het bedrijf benadrukte ook concrete politieke activiteiten: de onderneming heeft geïnvesteerd in belangenbehartiging en publieke voorlichting over AI-risico's. Maar transparantierapportage alleen is niet altijd voldoende om externe belanghebbenden tevreden te stellen die juridisch afdwingbare beperkingen of onafhankelijke audits eisen voordat systemen worden gecertificeerd voor overheidsgebruik.

Gevolgen voor de markt en het beleid

Het debat speelt zich af tegen de achtergrond van een markt die al nerveus is over de ontwrichtende effecten van AI. Investeerders en klanten kijken of bedrijven die veiligheid vooropstellen zowel kunnen concurreren als strenge controles kunnen handhaven. De koerswijziging van Anthropic geeft aan dat ten minste sommige bedrijven zich onder druk gezet voelen door concurrentie en door de contractuele macht van grote klanten zoals het Pentagon. Als dit resulteert in een race om systemen in te zetten zonder duurzame veiligheidscontroles, kunnen toezichthouders en wetgevers zich genoodzaakt voelen om in te grijpen.

Aan de andere kant laat de dreigende harde opstelling van het Pentagon — zwarte lijst, inroepen van de Defense Production Act, aanmerking als risico voor de toeleveringsketen — zien hoe inkoop kan worden gebruikt om zakelijke beleidskeuzes af te dwingen of te bestraffen. Die dynamiek roept bredere vragen op: moeten kopers op het gebied van nationale veiligheid strengere eisen stellen dan de open markt, en zo ja, hoe kunnen die eisen worden gecontroleerd en gehandhaafd zonder innovatie te belemmeren? Het is waarschijnlijk dat wetgevers en toezichthouders zich hiermee gaan bemoeien, en de touwtrekkerij tussen commerciële belangen en publieke veiligheid zal naar verwachting niet snel worden opgelost.

Implicaties voor toekomstige AI-veiligheidsnormen

De stap van Anthropic illustreert een groter systemisch probleem: veiligheidsnormen die afhankelijk zijn van vrijwilligheid en morele overreding kunnen bezwijken onder de druk van commerciële en geopolitieke concurrentie waarbij veel op het spel staat. De nieuwe aanpak van het bedrijf — frequentere publieke rapportage en de beoordeling van voortgang richting veiligheidsmijlpalen — levert mogelijk een rijkere dataset op voor beleidsmakers, onderzoekers en auditors, maar laat in het midden hoe onenigheid over acceptabele risico's wordt opgelost. Het Pentagon wil glasheldere garanties voor de systemen die het gebruikt; Anthropic en andere bedrijven geven de voorkeur aan flexibele, iteratieve processen die eenzijdige pauzes vermijden.

De praktische vervolgstappen zullen bepalend zijn. Als het Pentagon de inkoopsancties doorzet, zal er een precedent worden geschapen over hoe ver kopers kunnen gaan om leveranciers te dwingen hun interne beleid te wijzigen. Als Anthropic vasthoudt aan zijn dubbele weigering met betrekking tot AI-wapens en massasurveillance terwijl het doorgaat met het publiceren van capaciteitsrapporten, kan de uitkomst een onderhandeld compromis zijn: strengere onafhankelijke tests en contractuele veiligheidsclausules voor overheidswerk, gecombineerd met toezeggingen van de sector over transparantie voor commerciële diensten. Bij gebrek daaraan vergroot de patstelling de kans op wetgevende maatregelen om afdwingbare normen te creëren.

Het verhaal is een duidelijk voorbeeld van hoe technische beslissingen — of het nu gaat om het pauzeren van modeltraining of het vervangen van een bindende toezegging door een rapportgestuurde roadmap — onlosmakelijk verbonden zijn met geopolitiek, inkoopmacht en marktprikkels. De beleidswijziging van Anthropic is niet slechts een interne administratieve verandering; het is een signaal over hoe de retoriek van 'veiligheid eerst' standhoudt wanneer bedrijven geconfronteerd worden met zowel concurrenten die zich haasten om capaciteiten te leveren als een overheid die bruikbare, certificeerbare systemen eist. Hoe dat signaal wordt ontvangen door klanten, toezichthouders en onderzoekers, zal de volgende fase van AI-governance vormgeven.

Bronnen

• Anthropic (Responsible Scaling Policy v3 en Frontier Safety Roadmap)
• Amerikaans ministerie van Defensie / Publieke verklaringen en inkoopacties van het Pentagon
• Berichtgeving van CNN over de beleidswijziging van Anthropic en het geschil met het Pentagon