Dwaj mężczyźni, którzy w zeszłym roku w Los Angeles próbowali ukraść robota dostawczego, prawdopodobnie nie postrzegali tego jako przełomowego momentu w historii inwigilacji. Chcieli po prostu darmowego posiłku. Bot, mierzący do kolan chłodzony pojemnik na kołach w barwach Serve Robotics, stał na krawężniku, gdy go porwali. Nie przewidzieli jednak, że pół tuzina kamer rejestruje ich twarze, ubrania i trasę ucieczki w 360 stopniach, przesyłając obraz bezpośrednio do serwera w chmurze. Firma Serve Robotics przekazała to nagranie policji z Los Angeles (LAPD) w ciągu kilku godzin. Bez nakazu. Bez sędziego. Zapadła po prostu korporacyjna decyzja.
„Bez tego wideo nie było sposobu na zidentyfikowanie sprawców” – przyznał później detektyw z LAPD w wewnętrznym e-mailu. Nagranie było „wysoce przydatne”. Podejrzanych skazano za kradzież z włamaniem. Robot tymczasem wrócił do swojej codziennej pracy, rozwożąc pad thai, a jego czujniki po cichu przeklasyfikowały każdego przechodnia na potencjalny punkt danych.
To nie jest odosobniony incydent. Tak wygląda przyszłość pracy policji, która nadeszła na fali logistyki finansowanej przez fundusze venture capital. W całej Europie organy regulacyjne, które przez ostatnie pięć lat zmagały się z RODO i ustawą o sztucznej inteligencji (AI Act), zaczynają dostrzegać trudniejszy problem: co się dzieje, gdy dostawa jedzenia staje się mobilnym podsłuchem?
Bot, który dobrowolnie przekazał swoje wspomnienia
Serve Robotics, spółka wyodrębniona z działu eksperymentalnego Ubera, obsługuje w Los Angeles flotę około 200 autonomicznych jednostek dostawczych i planuje zwiększyć tę liczbę do tysięcy. Każda jednostka wyposażona jest w zestaw kamer, czujników ultradźwiękowych i modułów GPS. Polityka prywatności firmy, jak większość tego typu dokumentów, napisana jest kojącym językiem „minimalizacji danych” i „anonimizacji”. Jednak incydent w LA uchylił rąbka tajemnicy.
Gdy podejrzani chwycili bota, jego kamery nawigacyjne wyraźnie ich zarejestrowały. Firma przejrzała nagranie, stwierdziła, że doszło do przestępstwa i proaktywnie skontaktowała się z LAPD. Nie było wezwania, nie było nakazu sądowego. Dane przekazano bez wiedzy podejrzanych – ani nikogo innego. Dla policji był to dar. Dla wszystkich pozostałych osób spacerujących po tym samym chodniku był to dowód na to, jak gruntownie załamały się zasady.
Serve Robotics nie jest jedyna. Konkurenci tacy jak Coco i Starship Technologies rejestrują codziennie tysiące godzin wideo na ulicach. Ich polityki różnią się: jedni opierają się żądaniom organów ścigania, inni współpracują. Ta mozaika przypomina wczesne dni nagrań z dzwonków Ring, kiedy Amazon ochoczo udostępniał nagrania policji, dopóki sprzeciw społeczny nie zmusił go do odwrotu. Jednak dzwonek jest stacjonarny, podczas gdy robot dostawczy przemieszcza się po dzielnicach, parkach i strefach pieszych, tworząc niezwykle szczegółowy zapis codziennego życia.
Skarbiec danych bez nadzorcy
Prawna pustka jest uderzająca. W Stanach Zjednoczonych „doktryna osób trzecich” – relikt rejestrów bankowych z lat 70. – stanowi, że treści, które jednostki dobrowolnie udostępniają firmie, tracą ochronę wynikającą z Czwartej Poprawki. Ponieważ kamery robota rejestrują ulice publiczne, a nagranie należy do operatora, policja często może je uzyskać bez nakazu, jeśli operator wyrazi zgodę. To zmienia każdą dostawę w gotową skrytkę z dowodami.
Europa ma silniejsze podstawowe zabezpieczenia, ale zostały one napisane z myślą o statycznym monitoringu CCTV, a nie o mobilnej platformie, która rejestruje twarze, ubiory, rozmowy i tablice rejestracyjne w ciągłym strumieniu. Zgodnie z RODO, każdy obraz identyfikujący osobę jest daną osobową. Przetwarzanie go do celów organów ścigania wymaga określonej podstawy prawnej – zazwyczaj zgody, wymogu ustawowego lub prawnie uzasadnionego interesu, który przeważa nad prawami jednostki. W większości państw członkowskich UE przekazanie policji wizerunku osoby postronnej bez jej zgody nie mieści się w żadnym z tych uzasadnień.
„Firmy nie mogą po prostu zdecydować, że lubią policję i kliknąć 'udostępnij'” – mówi Anna-Lena Vogeler, prawniczka ds. ochrony danych z berlińskiego think tanku Privacy & Automation. „Robot dostawczy nie jest świadkiem. Jest administratorem danych i musi przestrzegać dyrektywy ePrivacy oraz RODO od momentu otwarcia migawki. Obejmuje to środki techniczne, takie jak rozmywanie obrazu w czasie rzeczywistym, ograniczenia retencji i odrzucanie dobrowolnych żądań bez nakazu sądowego”.
Jak dotąd niewielu operatorów wdrożyło te środki. Większość ukrywa ten fakt w regulaminach usług, których nikt nie czyta. I choć europejski rynek robotów dostawczych pozostaje ułamkiem rynku amerykańskiego – roboty Starship poruszają się po Milton Keynes i Tallinnie, a DPD testuje kilka jednostek w Niemczech – kierunek jest jasny. Komisja Europejska wskazała autonomiczną dostawę jako kluczowy filar zrównoważonej logistyki miejskiej, a program Horyzont Europa przeznacza miliony na automatyzację ostatniej mili. Floty botów nadchodzą. Pytanie brzmi, czy europejskie regulacje będą na nie gotowe.
Czego Bruksela może się nauczyć od nieudanego skoku
Europejska Rada Ochrony Danych nie wydała jeszcze wytycznych w sprawie mobilnego autonomicznego nadzoru, ale sprawa z LA wymusza podjęcie tematu. Wewnętrzny dokument do dyskusji, rozprowadzony wśród organów ochrony danych państw członkowskich na początku 2024 roku i pozyskany przez Apollo Thirteen, argumentuje, że roboty dostawcze powinny być traktowane jako „wysokiego ryzyka” zgodnie z klasyfikacją AI Act dla „kategoryzacji biometrycznej”, nawet jeśli nie przeprowadzają rozpoznawania twarzy. Uzasadnienie jest proste: ponieważ nagranie może zostać użyte do identyfikacji osób po fakcie, sam akt nagrywania stanowi operację przetwarzania wysokiego ryzyka.
Takie zakwalifikowanie wywołałoby lawinę wymagań: obowiązkowe oceny skutków dla ochrony danych, nadzór ludzki, surowe limity przechowywania i całkowity zakaz automatycznego udostępniania danych organom ścigania bez nakazu sądowego. Zmusiłoby to również operatorów do przeprojektowania systemów kamer tak, aby gromadziły dane niezbędne wyłącznie do nawigacji – a nie do archiwizacji kryminalistycznej.
Branża już stawia opór. Dokumenty lobbingowe z European Robotics Forum pokazują, że operatorzy twierdzą, iż rejestrują jedynie „dane środowiskowe” niezbędne do omijania przeszkód, podobnie jak czujniki parkowania w samochodzie. Chcą, aby boty dostawcze były klasyfikowane jako „pojazdy transportowe”, a nie „platformy nadzoru”. Ta bitwa semantyczna jest daleka od błahej: pojazdy transportowe podlegają pod Ogólne Rozporządzenie o Bezpieczeństwie, a nie pod AI Act. Jeśli wygrają ten spór, zobowiązania dotyczące prywatności znacząco zmaleją.
Inżynierowie znają jednak różnicę. Chmura punktów lidarowych robota nie pomoże policji zidentyfikować podejrzanego; strumień wideo 4K ze stabilizowanym ujęciem twarzy – tak. Kamery w botach Serve nie służą tylko do przejeżdżania przez skrzyżowania – są aktywem biznesowym. Zagregowane nagrania ujawniają wzorce ruchu, zagęszczenie pieszych, a nawet to, które witryny sklepowe przyciągają wzrok. Kilku operatorów eksperymentowało już ze sprzedażą zanonimizowanych danych o mobilności planistom miejskim i ubezpieczycielom. Granica między koniecznością operacyjną a kapitalizmem inwigilacji zaciera się z każdym blokiem.
Niewygodna cisza w zarządzie
Innym wymiarem, rzadko omawianym publicznie, jest rachunek ubezpieczeniowy. Gdy bot zostaje skradziony lub zniszczony, operator zgłasza szkodę. Nagranie, które pomaga policji odzyskać mienie lub skazać sprawcę, bezpośrednio obniża wskaźnik szkodowości. To daje każdej firmie kurierskiej cichą zachętę finansową do pełnienia roli de facto sieci kamer bezpieczeństwa. To ta sama logika, która skłoniła Amazon do udostępniania nagrań z dzwonków Ring: kilka minut wideo może zaoszczędzić wypłatę odszkodowania.
W Europie, gdzie składki ubezpieczeniowe dla systemów autonomicznych już rosną, pokusa będzie jeszcze większa. Organy regulacyjne UE mają jednak narzędzia, których brakuje USA. Dyrektywa ePrivacy już teraz wymaga, aby dane o lokalizacji – w tym lokalizacji wnioskowanej z przekazów kamer – były anonimizowane lub usuwane przed jakimkolwiek przetwarzaniem wykraczającym poza główną usługę. A nadchodząca dyrektywa w sprawie odpowiedzialności za AI znacznie ułatwi jednostkom pozywanie firm w przypadku niewłaściwego obchodzenia się z ich danymi. Pozew zbiorowy pieszych, którzy odkryją, że zostali nagrani i udostępnieni bez powiadomienia, mógłby z dnia na dzień zresetować modele ryzyka.
Do tego czasu domyślną zasadą pozostaje zaufanie, które w rzeczywistości nie jest żadną podstawą. Rzecznik Serve Robotics powiedział amerykańskim mediom, że firma udostępnia nagrania tylko wtedy, gdy „pomaga to w zgodnym z prawem śledztwie”. Ale kto definiuje „zgodność z prawem”? Przeczucie detektywa? Wewnętrzna polityka korporacyjna, którą można zmienić uchwałą zarządu? Bot nie nosi odznaki, ale teraz może wpędzić kogoś w policyjną kartotekę.
Europejski apetyt na odsuwanie praw do prywatności w imię wydajności nigdy nie był testowany na tym polu. Podczas gdy miasta od Kolonii po Kopenhagę przygotowują się do prób autonomicznych dostaw, epizod z LA powinien skupić uwagę wszystkich. Bot, który trzy razy dziennie przejeżdża obok twoich drzwi wejściowych, to nie tylko wygoda; to świadek pod kontrolą korporacji. Czy stanie się szpiegiem, czy strażnikiem, zależy wyłącznie od prawa, które teraz tworzymy – a Bruksela ma w zwyczaju finalizowanie regulacji dopiero wtedy, gdy technologia już się upowszechniła.
Pewnego dnia europejski sąd będzie musiał odpowiedzieć na pytanie, które dwaj oportunistyczni złodzieje niechcący postawili na chodniku w Los Angeles: dla kogo właściwie pracuje robot dostawczy? Odpowiedź może zdecydować o tym, po czyich ulicach tak naprawdę chodzimy.
Comments
No comments yet. Be the first!