Figure AI przed pozwem sygnalisty dotyczącym robotów „kruszących czaszki”

Były inżynier ds. bezpieczeństwa pozywa Figure AI, zgłaszając poważne obawy dotyczące bezpieczeństwa

Figure AI, głośny twórca robotów humanoidalnych, został objęty federalnym pozwem sygnalisty, w którym były główny inżynier ds. bezpieczeństwa twierdzi, że został zwolniony po ostrzeżeniu kierownictwa firmy, że maszyny mogą powodować śmiertelne obrażenia — w tym siłę wystarczającą do złamania ludzkiej czaszki. Skarga, złożona w Northern District of California, mówi, że powód zgłaszał wewnętrznie udokumentowane zastrzeżenia dotyczące bezpieczeństwa i zarzuca, że firma później zmieniła mapę drogową bezpieczeństwa przedstawioną inwestorom.

Co zarzuca pozew

Powód, zidentyfikowany w raportach medialnych jako główny inżynier ds. bezpieczeństwa produktu, twierdzi, że wielokrotnie ostrzegał kadrę kierowniczą wyższego szczebla, iż prototypy humanoidalne firmy mogą wywierać niebezpiecznie duże siły. Wśród przykładów cytowanych w dokumentach znajduje się incydent, w którym usterka robota rzekomo wycięła ćwierćcalowe wyżłobienie w stalowych drzwiach lodówki — konkretny epizod, którego pozew używa do argumentacji, że ryzyko było realne i możliwe do przewidzenia. Skarga mówi, że inżynier przedstawił swoje obawy kadrze zarządzającej, w tym CEO i głównemu inżynierowi, oraz że został zwolniony krótko po wysłaniu czegoś, co opisał jako kompleksową, końcową skargę dotyczącą bezpieczeństwa.

Zarzuty dotyczące prezentacji dla inwestorów i „okrojonego” planu bezpieczeństwa

Osobno pozew zarzuca, że szczegółowy plan bezpieczeństwa przygotowany przez inżyniera dla potencjalnych inwestorów został później osłabiony lub zmieniony przed zamknięciem rundy finansowania — rundy, która według raportów wyceny wyceniła firmę na około 39 miliardów dolarów. Prawnicy powoda twierdzą, że rozmycie mapy drogowej bezpieczeństwa pokazanej inwestorom mogło sprowadzać się do wprowadzających w błąd informacji; firma zaprzecza zarzutom i twierdzi, że inżynier został zwolniony z powodów związanych z wynikami pracy. Spór rodzi pytania o to, jak traktowane są ujawnienia ryzyka inżynieryjnego podczas szybkich cykli pozyskiwania funduszy.

Dlaczego ma to znaczenie dla robotyki i bezpieczeństwa publicznego

Roboty humanoidalne to urządzenia o dużej sile fizycznej. Kiedy siłowniki, przełożenia i oprogramowanie sterujące połączą się, kończyna poruszająca się z dużą prędkością może wygenerować duże siły przejściowe. Badania biomechaniczne i dane kryminalistyczne pokazują, że progi pęknięcia czaszki są zróżnicowane, ale kontrolowane testy laboratoryjne i badania uderzeń określają typowe siły powodujące złamania w dolnych granicach tysięcy niutonów dla czaszek dorosłych w wielu warunkach — wartości te są osiągalne dla nieograniczonych przemysłowych siłowników, jeśli nie ma wprowadzonych limitów mocy i siły, osłon lub zatwierdzonych trybów bezpieczeństwa. Te realia techniczne są powodem, dla którego inżynieria bezpieczeństwa i niezależna walidacja są kluczowe dla przekształcenia robotów humanoidalnych z wersji demonstracyjnych w maszyny, które mogą pracować w otoczeniu ludzi.

Standardy i akceptowane środki kontroli inżynieryjnej

Praktyka branżowa w zakresie bezpiecznej interakcji człowiek-robot opiera się na warstwowej redukcji ryzyka: starannych ocenach ryzyka na poziomie systemu, wyborach projektowych ograniczających energię uderzenia, ograniczaniu mocy i siły systemu sterowania, czujnikach oraz niezawodnych funkcjach separacji lub zatrzymania, a także udokumentowanej walidacji względem norm międzynarodowych. Rodzina norm bezpieczeństwa robotów ISO — historycznie ISO 10218 oraz wytyczne techniczne ISO/TS 15066 — kodyfikuje sposób oceny ryzyka dla różnych obszarów ciała i definiuje dopuszczalne podejścia, takie jak ograniczanie mocy i siły oraz monitorowanie prędkości i separacji. Ostatnie rewizje nadal integrują wytyczne dotyczące robotów współpracujących z podstawowymi ramami robotów przemysłowych, odzwierciedlając rosnące przypadki użycia w świecie rzeczywistym, w których roboty i ludzie dzielą przestrzeń.

Kontury prawne i regulacyjne

Od strony prawnej skarga łączy wątki bezpodstawnego zwolnienia i ochrony sygnalistów z możliwym aspektem ujawniania informacji inwestorom; jeśli plan bezpieczeństwa pokazany inwestorom został istotnie zmieniony, może to przyciągnąć uwagę organów regulacyjnych lub dać podstawę do roszczeń cywilnych. Sprawa pojawia się również w momencie, gdy ustawodawcy i regulatorzy coraz bardziej skupiają się na AI i robotyce. Ustawodawcy zaproponowali lub przeforsowali ostatnio środki mające na celu ochronę pracowników zgłaszających ryzyka związane z bezpieczeństwem AI, a debata na temat tego, jak dużej przejrzystości i zewnętrznych audytów należy wymagać od systemów wysokiego ryzyka, trwa nadal. Te wysiłki polityczne mają znaczenie, ponieważ same kanały wewnętrzne mogą pozostawić ryzyka systemowe nierozwiązane, gdy presja komercyjna jest wysoka.

Odpowiedź firmy i bezpośrednie skutki

Figure AI publicznie zakwestionowało relację byłego pracownika, twierdząc, że zwolnienie nastąpiło z powodów związanych z wynikami pracy i określając oskarżenia jako fałszywe. Prawnik powoda argumentował, że prawo Kalifornii chroni pracowników zgłaszających niebezpieczne praktyki i że sądy będą musiały rozważyć zarówno faktyczny zapis incydentów laboratoryjnych, jak i to, czy istniał jakikolwiek motyw odwetowy. Dla inwestorów i klientów pozew zwiększa ryzyko wizerunkowe dla firmy, która wzbudziła duże zainteresowanie finansowe w ostatnich rundach. Media donoszące o złożeniu pozwu zauważyły, że może on być jednym z pierwszych przypadków dotyczących sygnalistów powiązanych wyraźnie z bezpieczeństwem robotów humanoidalnych.

Co to oznacza dla branży

• Ostrożność operacyjna: Startupy kładące duży nacisk na sprzęt i autonomię będą musiały podwoić wysiłki w zakresie solidnej, niezależnie audytowanej walidacji bezpieczeństwa, aby uspokoić inwestorów i regulatorów.
• Oczekiwania dotyczące ujawniania informacji: Procesy pozyskiwania funduszy obejmujące briefingi techniczne muszą chronić przed selektywną prezentacją środków zaradczych; audytorzy i prawnicy coraz częściej analizują twierdzenia o gotowości operacyjnej.
• Impuls dla polityki: Skarga wzmacnia debaty polityczne na temat ochrony sygnalistów wśród pracowników branży AI i robotyki oraz tego, czy potrzebne są nowe systemy w celu ujawniania ukrytych zagrożeń bezpieczeństwa.

Jak może rozwinąć się ta historia

Należy wypatrywać kilku sygnałów w nadchodzących tygodniach: czy Figure odpowie szczegółowymi sprostowaniami technicznymi lub danymi z testów stron trzecich; czy powód złoży dodatkowe dowody lub ujawni wewnętrzne e-maile i raporty; oraz czy regulatorzy lub organy normalizacyjne skomentują sprawę lub wszczną dochodzenia. Proces prawny może również ujawnić szczegółowe fakty techniczne dotyczące tego, jak firma testowała moment obrotowy, uderzenia i zachowania w razie awarii — fakty, które mogą mieć znaczenie dla norm branżowych, jeśli zostaną upublicznione w drodze sporu sądowego. Dla badaczy, decydentów i inżynierów ds. bezpieczeństwa sprawa ta jest przypomnieniem, że techniczne wyzwania związane z budową zdolnych fizycznie robotów są nierozerwalnie związane z praktykami organizacyjnymi i bodźcami, które je kształtują.

Final thought

Robotyka humanoidalna znajduje się na styku oprogramowania, sprzętu i ludzkiej podatności na zranienie. Przekształcenie imponujących wersji demonstracyjnych w bezpieczne, użyteczne maszyny wymaga nie tylko lepszych algorytmów i siłowników, ale także kultury rygorystycznej inżynierii bezpieczeństwa i przejrzystego zarządzania. Ten pozew będzie prawdopodobnie wczesnym testem tego, jak rynek, prawo i standardy oddziałują na siebie, gdy dochodzi do kolizji ryzyka fizycznego i pędu komercyjnego.

— Mattias Risberg, Dark Matter. Z siedzibą w Kolonii, zajmuje się robotyką, bezpieczeństwem i polityką technologiczną.