AI kontra Pentagon: Pat w sprawie autonomicznej broni

Niecały tydzień po tym, jak Pentagon przeforsował nowe zapisy w kontraktach, które pozwoliłyby wojsku na wykorzystywanie komercyjnych modeli do „dowolnego zgodnego z prawem zastosowania”, w tym do krajowej masowej inwigilacji i autonomicznego zabijania, firma Anthropic powiedziała „nie”. Dyrektor generalny spółki publicznie odrzucił żądanie Departamentu Obrony, co wywołało eskalację, w wyniku której sekretarz obrony zagroził wpisaniem firmy na czarną listę łańcucha dostaw, a prezydent nakazał agencjom federalnym zaprzestanie korzystania z usług Anthropic. Fraza znajdująca się w centrum tego starcia — AI kontra Pentagon: roboty-zabójcy — definiuje obecnie ogólnokrajową debatę na temat tego, czego prywatne firmy mogą zgodnie z prawem i etyką odmówić, gdy państwowi nabywcy proszą o nieograniczony dostęp do potężnych modeli.

AI kontra Pentagon: roboty-zabójcy i żądanie „dowolnego zgodnego z prawem zastosowania”

Bezpośredni spór ma charakter kontraktowy, ale jego implikacje są znacznie szersze. W styczniu Pentagon rozesłał zaktualizowane warunki, które pozwoliłyby mu na używanie produktów AI do „dowolnego zgodnego z prawem zastosowania” — sformułowanie to, według urzędników Pentagonu, ma na celu uniknięcie cząstkowych ograniczeń w wielu różnych programach. Dla Anthropic punkty sporne były jasne: zakaz masowej inwigilacji Amerykanów w kraju oraz zakaz stosowania w pełni autonomicznej broni śmiercionośnej bez udziału człowieka w pętli decyzyjnej. Zostały one przedstawione przez firmę jako „czerwone linie” na poziomie korporacyjnym, ugruntowane w obawach o bezpieczeństwo i niezawodność.

AI kontra Pentagon: roboty-zabójcy, masowa inwigilacja i korporacyjne czerwone linie

Stanowisko Anthropic — odmowa udzielenia uniwersalnej licencji na „dowolne zgodne z prawem zastosowanie” — jest znaczące, ponieważ wielu konkurentów rzekomo zaakceptowało warunki Pentagonu. Ta rozbieżność zmieniła podobne decyzje komercyjne w faktyczne wybory polityczne: firma, która mówi „tak”, skutecznie rozszerza zestaw zastosowań, które wojsko może realizować przy minimalnych dalszych negocjacjach; firma, która mówi „nie”, zmusza rząd do znalezienia innych dostawców lub samodzielnego budowania zdolności. Pracownicy sektora technologicznego, grupy zajmujące się wolnościami obywatelskimi oraz inwestorzy obserwują, czy te korporacyjne czerwone linie utrzymają się w obliczu finansowej i politycznej potęgi nabywców z sektora bezpieczeństwa narodowego.

Techniczne i etyczne stawki związane z bronią autonomiczną

Kiedy dziennikarze, inżynierowie i etycy używają skrótu myślowego „roboty-zabójcy”, odnoszą się do systemów, które mogą wybierać cele i stosować siłę śmiercionośną bez znaczącej kontroli człowieka. Problemy techniczne są uporczywe: błędy percepcji, kontradyktoryjne wyniki fałszywie dodatnie (adversarial false positives), niezrozumienie kontekstu i nieprzewidywalne awarie oprogramowania — wszystko to może prowadzić do katastrofalnych skutków w walce. Modele AI to statystyczne systemy dopasowywania wzorców wytrenowane na danych; nie są one podmiotami moralnymi ani wiarygodnymi decydentami w środowiskach o wysokiej stawce i dużym stopniu niejednoznaczności.

Ryzyko etyczne wykracza daleko poza błędy techniczne. Autonomiczna zdolność do zabijania budzi pytania o odpowiedzialność (kto odpowiada, gdy maszyna zabija?), eskalację (jak przeciwnicy zareagują na zautomatyzowane namierzanie?) oraz dyskryminację (systemy maszynowe mogą powielać lub wzmacniać uprzedzenia, które błędnie identyfikują cywilów jako kombatantów). Wielu etyków ostrzega również przed obniżeniem progu politycznego wejścia w konflikt, jeśli pętle decyzyjne zostaną przyspieszone przez automatyzację. Z tych powodów niektórzy decydenci i aktywiści naciskają na surowe ograniczenia lub zakazy systemów działających bez kontroli człowieka, podczas gdy inni opowiadają się za starannie ograniczonymi badaniami i rozwojem (R&D) oraz silnymi wymogami dotyczącymi „człowieka w pętli”, dopóki systemy nie okażą się bezsprzecznie bezpieczne.

Prawo kontraktowe, ryzyko w łańcuchu dostaw i sposób regulowania przez Pentagon inwigilacji opartej na AI

Pentagon reguluje wykorzystanie technologii komercyjnych przede wszystkim poprzez zapisy w kontraktach, zatwierdzenia i politykę zakupową — a nie poprzez nadrzędną ustawę, która konkretnie odnosiłaby się do przypadków użycia AI. Kiedy departament prosi wykonawców o zaakceptowanie „dowolnego zgodnego z prawem zastosowania”, wykorzystuje warunki kontraktowe do zabezpieczenia szerokich uprawnień; sformułowanie to ma na celu uniknięcie powtarzania negocjacji przy wielu zamówieniach i programach. Budzi to jednak również pytania konstytucyjne i ustawowe, gdy „zgodne z prawem” mogłoby obejmować inwigilację krajową powiązaną z działaniami organów ścigania lub wywiadu.

Etykietowanie dostawcy jako „zagrożenie dla łańcucha dostaw” jest narzędziem administracyjnym o konkretnych konsekwencjach: może skłonić agencje federalne i dużych wykonawców obronnych do rezygnacji z usług dostawcy i może powstrzymać integracje z podmiotami trzecimi. Groźba Pentagonu dotycząca użycia Defense Production Act lub podobnych uprawnień podkreśla, że prawo zamówień publicznych może być dźwignią wymuszającą zgodność, ale dźwignie te są obciążone politycznie i mogą prowokować spory sądowe. To, kto wyznacza czerwone linie, staje się zatem terytorium spornym — mieszanką polityki firmy, wewnętrznych notatek rządowych, nadzoru Kongresu, a niekiedy także kontroli sądowej.

Czy roboty-zabójcy to realne zagrożenie? Międzynarodowe zasady i obecne ograniczenia

Ryzyko, że systemy autonomiczne zostaną użyte do użycia siły śmiercionośnej, nie jest hipotetyczne: armie aktywnie dążą do automatyzacji w systemach wykrywania, namierzania i uderzeń. Niemniej jednak świat nie wypracował jeszcze wiążącego międzynarodowego zakazu w pełni autonomicznej broni śmiercionośnej. W ramach Konwencji ONZ o pewnych broniach konwencjonalnych od lat toczą się dyskusje na temat systemów śmiercionośnej broni autonomicznej, ale rozmowy te jak dotąd nie doprowadziły do powstania traktatu zakazującego takich systemów. Organizacje pozarządowe, niektóre państwa i koalicje firm technologicznych naciskają na silne ograniczenia międzynarodowe; inne państwa opierają się ograniczeniom traktatowym, dążąc do swobody operacyjnej.

Na szczeblu krajowym kombinacje polityk pozostają rozproszone: niektóre kraje opowiadają się za ścisłymi zasadami „człowieka w pętli”, inne kładą nacisk na zdolności i odstraszanie. Brak uniwersalnego traktatu oznacza, że większość dzisiejszego ładu jest kształtowana przez kontrole eksportu, decyzje zakupowe i polityki korporacyjne. To właśnie to rozdrobnienie sprawia, że czerwone linie dostawców i prywatne kontrakty mają tak duże znaczenie — wypełniają one próżnię regulacyjną, ale mogą zostać cofnięte pod presją.

Co wydarzy się dalej i dlaczego ma to znaczenie

Najbliższe kroki będą miały charakter prawny i polityczny. Anthropic zasygnalizował, że zaskarży każdą decyzję, która zaszkodzi jego działalności; Pentagon może naciskać na wykonawców i głównych dostawców, aby zminimalizowali zależność od niepokornego dostawcy. Kongres może zorganizować przesłuchania, a kilka grup interesu publicznego będzie dążyć do nadzoru. W praktyce programy federalne, które już korzystają z modeli Anthropic, będą potrzebowały planów przejścia, jeśli agencje dostosują się do nakazu zaprzestania użytkowania — co będzie procesem chaotycznym, kosztownym i potencjalnie destrukcyjnym.

Poza salą sądową i pozycjami budżetowymi, ten epizod wymusza postawienie szerszego pytania: czy komercyjni dostawcy AI powinni mieć prawo do umownego ograniczania sposobu, w jaki rządy korzystają z ich technologii, gdy klienci z sektora bezpieczeństwa narodowego argumentują to koniecznością operacyjną? Odpowiedź ukształtuje przyszłe wojny, krajowy nadzór policyjny oraz architekturę publiczno-prywatnych partnerstw w zakresie bezpieczeństwa. Jeśli siła rynkowa i presja reputacyjna są obecnie głównymi hamulcami dla niebezpiecznych zastosowań, ich trwałość w obliczu pilnych potrzeb obronnych zadecyduje o tym, czy demokratyczne społeczeństwa będą w stanie wyznaczyć sensowne bariery ochronne wokół AI.

Starcie między Anthropic a Pentagonem nie jest zatem tylko sporem o warunki jednej firmy i priorytety zakupowe jednego rządu; to studium przypadku na żywo, pokazujące, jak polityka, technologia i etyka zderzają się, gdy systemy nowej generacji spotykają się z potęgą państwa. To, jak rozwiążą to firmy, sądy i ciała ustawodawcze, wpłynie na to, czy następna generacja wojskowej AI będzie ograniczona ludzkim osądem i demokratycznym nadzorem — czy też klauzulami kontraktowymi i zakulisowymi wyjątkami.

Źródła

• Departament Obrony USA (publiczne oświadczenia i notatki dotyczące zakupów)
• Anthropic (oświadczenia prasowe firmy)
• Biały Dom (publiczne oświadczenia i wytyczne wykonawcze)
• Organizacja Narodów Zjednoczonych — raporty i podsumowania spotkań dotyczących Konwencji o pewnych broniach konwencjonalnych (CCW)