Hinton ostrzega, że AI może doprowadzić do rozpadu społeczeństwa

Dlaczego jeden z twórców AI twierdzi, że cywilizacja może ulec rozpadowi

Geoffrey Hinton — kluczowa postać w rozwoju uczenia głębokiego — wykorzystał publiczną debatę na forum uniwersyteckim, aby nakreślić scenariusz, którego wielu w branży technologicznej woli unikać: masowe bezrobocie, osłabiona odpowiedzialność demokratyczna oraz środowisko bezpieczeństwa międzynarodowego, które stało się bardziej niestabilne przez systemy autonomiczne. To wystąpienie było po części krytyką polityczną, a po części sygnałem alarmowym; wyostrzyło ono znane już obawy o to, jak gospodarka i ustrój zaprojektowane dla pracy ludzkiej poradzą sobie, gdy praca ta zostanie zastąpiona na masową skalę.

Co powiedział Hinton – w prostych słowach

Jego główna teza była prosta i dobitna: jeśli AI osiągnie lub przekroczy kompetencje na poziomie ludzkim w wystarczająco szerokim zakresie, zawody wykonywane obecnie przez ludzi mogą zostać zautomatyzowane bez pojawienia się oczywistych nowych ról, które mogłyby je zastąpić. Według niego osoby tracące pracę mogą nie znaleźć nowej, co mogłoby doprowadzić do załamania konsumpcji i spójności społecznej w skali całego kraju. Argument ten łączy postęp techniczny, który obserwujemy, z pętlą sprzężenia społecznego — mniejsza liczba opłacanych pracowników prowadzi do mniejszej liczby nabywców towarów i usług, co z kolei podważa rynkowe fundamenty wielu przedsiębiorstw.

Z laboratorium badawczego do ryzyka społecznego

Profil Hintona ma tutaj kluczowe znaczenie: pomógł on stworzyć metody sieci neuronowych, które stanowią podstawę obecnych modeli generatywnych. Ten dorobek nadaje jego ostrzeżeniom dodatkową wagę, ponieważ pochodzą one od kogoś, kto rozumie zarówno inżynierię, jak i ścieżki badawcze. Hinton już wcześniej twierdził, że nadejście sztucznej inteligencji ogólnego przeznaczenia na poziomie ludzkim jest bliższą perspektywą, niż kiedyś sądził, i publicznie rozważał egzystencjalne skutki, które niegdyś wydawały się marginalne. Te wcześniejsze oceny ukształtowały wydźwięk jego uwag na uniwersytecie — będących mieszanką prognoz technicznych i ostrzeżeń społecznych.

Jak załamanie mogłoby wyglądać w praktyce

Hinton opisał grupę mechanizmów, które mogą się wzajemnie wzmacniać. Przesunięcia gospodarcze mogłyby skoncentrować bogactwo w rękach właścicieli systemów AI i mocy produkcyjnych czipów, ograniczając powszechny popyt. Instytucje polityczne mogą mieć trudności z adaptacją, gdy bazy podatkowe zostaną uszczuplone, a duża część populacji poczuje się porzucona. W kwestii bezpieczeństwa argumentował, że automatyzacja siły — śmiercionośne systemy działające przy ograniczonym nadzorze ludzkim — mogłaby obniżyć polityczny koszt użycia potęgi militarnej, czyniąc konflikty szybszymi i trudniejszymi do kontrolowania. Łącznie dynamiki te stwarzają ryzyko systemowego załamania, a nie tylko izolowanych zakłóceń.

Nie wszyscy się zgadzają — a dowody są niejednoznaczne

Scenariusz Hintona jest kwestionowany. Niektórzy eksperci zauważają, że poprzednie rewolucje technologiczne niszczyły pewne miejsca pracy, tworząc jednocześnie inne, a historia oferuje szereg adaptacyjnych rozwiązań. W obecnej fali wiele prób zastąpienia ludzkich pracowników przez półautonomicznych agentów napotkało praktyczne ograniczenia: systemy mają trudności z chaotycznymi sytuacjami brzegowymi, kwestiami bezpieczeństwa oraz bodźcami, które wymuszają obecność ludzkiego nadzoru. Mimo to, pojawiające się prace akademickie wskazują na inny rodzaj ryzyka: nawet stopniowy, przyrostowy postęp może osłabić ludzką kontrolę nad dużymi systemami w sposób subtelny, ale ostatecznie głęboki. Nie chodzi o to, że upadek jest nieunikniony, ale o to, że drogi do poważnych szkód systemowych są zarówno różnorodne, jak i na tyle prawdopodobne, by zasługiwać na poważne planowanie.

Opcje polityczne na stole

Reakcje dzielą się na dwa główne obozy: te, które starają się spowolnić lub ukształtować technologię poprzez regulacje, podatki i kontrolę eksportu, oraz te, które mają na celu złagodzenie skutków zakłóceń dla społeczeństwa poprzez redystrybucję, systemy bezpieczeństwa socjalnego i nowe instytucje. Idee sięgają od wyższych podatków dla korporacji po publiczne finansowanie przekwalifikowania zawodowego, pilotaże bezwarunkowego dochodu podstawowego oraz surowsze zasady bezpieczeństwa dla systemów podwójnego zastosowania, takich jak autonomiczna broń. Uzasadnienie wielu z tych propozycji jest proste: jeśli zyski z AI szybko się skoncentrują, same mechanizmy rynkowe nie zapewnią stabilnej i sprawiedliwej transformacji. Decydenci, którzy chcą zapobiec najgorszym skutkom, będą musieli połączyć politykę gospodarczą z ukierunkowanym nadzorem technicznym.

Na co zwrócić uwagę w najbliższym czasie

• Tempo wdrażania: jak szybko firmy wprowadzają systemy zastępujące pracę ludzką do usług i procesów na dużą skalę.
• Sygnały z rynku pracy: mierzalne spadki w zatrudnieniu lub trwała presja płacowa w zawodach uznawanych za możliwe do zautomatyzowania.
• Reakcje regulacyjne: czy rządy przyjmą wiążące zasady bezpieczeństwa dla systemów AI wysokiego ryzyka oraz w jaki sposób będą opodatkowywać lub redystrybuować zyski.
• Zastosowania militarne: czy państwa przyspieszą wdrażanie systemów autonomicznych i jak ewoluują normy lub traktaty ograniczające szkodliwe użycie.

Dlaczego ma to znaczenie dla czytelników

Ostrzeżenia Hintona są istotne nie dlatego, że są pewne, ale dlatego, że konkretyzują ryzyka łączące potencjał technologiczny z wrażliwością gospodarczą i polityczną. Skala współczesnych gospodarek i szybkość zmian napędzanych przez moc obliczeniową oznaczają, że niewielkie przesunięcia w bodźcach lub możliwościach mogą mieć ogromne skutki społeczne. Dla obywateli oznacza to, że debata nie ma już charakteru wyłącznie akademickiego: decyzje dotyczące zamówień publicznych, polityki podatkowej, siatek bezpieczeństwa socjalnego i finansowania badań i rozwoju ukształtują to, czy AI stanie się silnikiem wspólnego dobrobytu, czy siłą koncentrującą władzę i destabilizującą instytucje.

Niezależnie od tego, czy postrzegasz Hintona jako proroka zagłady, czy jako niezbędnego mąciciela, jego głos wysuwa na pierwszy plan kluczowe pytanie: kto czerpie korzyści z dzisiejszego postępu, a kto płaci za niego cenę? Odpowiedź na nie ukształtuje oblicze pracy, polityki i bezpieczeństwa w nadchodzących dekadach.

— Mattias Risberg, Dark Matter