Geçtiğimiz yıl Los Angeles'ta bir teslimat robotunu çalmaya çalışan iki adam, muhtemelen bunun gözetim tarihinde çok önemli bir an olduğunu düşünmemişlerdi. Tek istedikleri bedava bir öğündü. Serve Robotics logolu, tekerlekler üzerinde diz hizasında bir soğutucu olan bot, onlar tarafından kapıldığı sırada bir kaldırım kenarında boşta bekliyordu. Hesaba katmadıkları şey ise, yüzlerinin, kıyafetlerinin ve kaçış rotalarının 360 derecelik görüntüsünü doğrudan bir bulut sunucusuna aktaran yarım düzine kameraydı. Serve Robotics, bu görüntüleri saatler içinde LAPD'ye teslim etti. Ne bir arama emri vardı ne de bir yargıç. Sadece kurumsal bir karardı.
Bir LAPD dedektifi daha sonra şirket içi bir e-postada, "Video olmasaydı failleri tespit etmenin hiçbir yolu yoktu" itirafında bulundu. Görüntülerin "son derece faydalı" olduğunu belirtti. Şüpheliler ağır hırsızlık suçundan hüküm giydi. Robot ise pad thai taşıma işine geri dönerken, sensörleri sessizce her yayayı potansiyel bir veri noktası olarak yeniden sınıflandırmaya devam etti.
Bu münferit bir aksaklık değil. Bu, gelecekteki polislik anlayışının biçimidir ve girişim sermayesi destekli lojistik dalgasıyla kapımıza dayanmıştır. Avrupa genelinde, son beş yılını GDPR ve Yapay Zeka Yasası ile uğraşarak geçiren düzenleyiciler, şimdi daha zor bir soruyla yüzleşiyor: Bir restoran teslimatı mobil bir dinleme cihazına dönüştüğünde ne olur?
Hafızasını gönüllü olarak veren bot
Uber'in deneysel bölümünden bir yan kuruluş olan Serve Robotics, Los Angeles'ta yaklaşık 200 otonom teslimat aracından oluşan bir filo işletiyor ve binlerce araca ulaşmayı planlıyor. Her bir birim bir dizi kamera, ultrasonik sensör ve GPS modülü taşıyor. Şirketin gizlilik politikası, çoğu şirket gibi, "veri minimizasyonu" ve "anonimleştirme" gibi kulağa hoş gelen ifadelerle yazılmış. Ancak LA'deki olay perdeyi araladı.
Şüpheliler botu kaptığında, navigasyon kameraları onları net bir şekilde kaydetti. Şirket görüntüleri inceledi, bir suç işlendiğine kanaat getirdi ve proaktif bir şekilde LAPD ile temasa geçti. Bir mahkeme celbi ya da emir yoktu. Veriler, şüphelilerin (veya başka herhangi birinin) haberi olmadan teslim edildi. Polis için bu bir hediyeydi. Aynı kaldırımda yürüyen herkes için ise kuralların ne kadar kökten çöktüğünün bir göstergesiydi.
Serve Robotics yalnız değil. Coco ve Starship Technologies gibi rakipler her gün binlerce saatlik sokak videosu kaydediyor. Politikaları farklılık gösteriyor: Bazıları kolluk kuvvetlerinin taleplerine direniyor, diğerleri ise uyuyor. Bu karmaşa, halkın tepkisi bir geri çekilmeye zorlayana kadar Amazon'un Ring kapı zili görüntülerini polis departmanlarıyla neşeyle paylaştığı ilk dönemlerini yansıtıyor. Ancak bir kapı zili sabittir; bir teslimat robotu ise mahallelerde, parklarda ve yaya bölgelerinde dolaşarak günlük yaşamın son derece ayrıntılı bir kaydını oluşturur.
Gözetmeni olmayan bir veri hazinesi
Hukuki boşluk göze çarpıyor. Amerika Birleşik Devletleri'nde, 1970'lerin bankacılık kayıtlarından kalma bir miras olan üçüncü taraf doktrini, bireylerin bir şirketle gönüllü olarak paylaştığı içeriğin Dördüncü Değişiklik korumasını kaybettiğini savunur. Robotun kameraları halka açık sokakları kaydettiği ve görüntüler işletmeciye ait olduğu için, polis operatörün kabul etmesi durumunda genellikle bir arama emri olmaksızın verilere ulaşabiliyor. Bu da her teslimatı önceden paketlenmiş bir delil deposuna dönüştürüyor.
Avrupa daha güçlü temel korumalara sahip ancak bunlar, yüzleri, kıyafetleri, konuşmaları ve araç plakalarını sürekli bir akış halinde kaydeden hareketli bir platform için değil, sabit CCTV sistemleri için yazılmıştı. GDPR kapsamında, bir kişiyi tanımlayan her görüntü kişisel veridir. Bunu kolluk kuvvetlerinin amaçları doğrultusunda işlemek, belirli bir yasal dayanak gerektirir; genellikle rıza, yasal bir zorunluluk veya bireysel haklardan üstün olan meşru bir menfaat. Çoğu AB üye devletinde, yoldan geçen birinin görüntüsünü rızası olmaksızın polise teslim etmek, bu gerekçelerin hiçbirine açıkça girmez.
"Şirketler sadece polisi sevdiklerine karar verip 'paylaş' düğmesine basamazlar," diyor Berlin merkezli düşünce kuruluşu Privacy & Automation'da veri koruma avukatı olan Anna-Lena Vogeler. "Bir teslimat robotu bir tanık değildir. O bir veri sorumlusudur ve kamera açıldığı andan itibaren eGizlilik Direktifi'ne ve GDPR'ye uymak zorundadır. Buna gerçek zamanlı bulanıklaştırma, veri saklama sınırları ve adli emir olmaksızın gönüllü talepleri reddetme gibi teknik önlemler dahildir."
Şu ana kadar az sayıda operatör bu önlemlerden herhangi birini uyguladı. Çoğu bu gerçeği halkın asla okumadığı hizmet şartlarının içine gömüyor. Avrupa'nın teslimat robotu sektörü ABD pazarının küçük bir kısmını oluştursa da (Starship'ler Milton Keynes ve Tallinn civarında dolaşıyor, DPD Almanya'da birkaç birim deniyor) gidişat net. Avrupa Komisyonu, otonom teslimatı sürdürülebilir kentsel lojistiğin kilit bir ayağı olarak belirledi ve Horizon Europe programı son kilometre otomasyonuna milyonlar akıtıyor. Bot filoları geliyor. Asıl soru, Avrupa düzenlemelerinin onlara hazır olup olmayacağı.
Brüksel'in başarısız bir soygundan öğrenebilecekleri
Avrupa Veri Koruma Kurulu henüz mobil otonom gözetim konusunda bir rehber yayınlamadı, ancak LA vakası konuyu zorunlu kılıyor. Apollo Thirteen tarafından elde edilen, 2024 başında üye devletlerin veri koruma otoriteleri arasında dolaşan bir şirket içi tartışma belgesi, teslimat robotlarının, yüz tanıma yapmasalar bile Yapay Zeka Yasası'nın "biyometrik kategorizasyon" sınıflandırması kapsamında "yüksek riskli" olarak ele alınması gerektiğini savunuyor. Mantık basit: görüntüler kişileri sonradan tanımlamak için kullanılabileceğinden, sadece kayıt yapma eylemi bile yüksek riskli bir işleme operasyonu oluşturur.
Bu tanımlama, bir dizi gerekliliği tetikleyecektir: zorunlu veri koruma etki değerlendirmeleri, insan gözetimi, katı veri saklama sınırları ve adli emir olmaksızın kolluk kuvvetleriyle otomatik paylaşımın kesinlikle yasaklanması. Ayrıca operatörleri, kamera sistemlerini adli arşivleme için değil, sadece navigasyon için gerekli minimum veriyi toplayacak şekilde yeniden tasarlamaya zorlayacaktır.
Sektör şimdiden karşı çıkıyor. Avrupa Robotik Forumu'ndan gelen lobi belgeleri, operatörlerin, otomobillerin park sensörlerine benzer şekilde, sadece engel algılama için gerekli "çevresel verileri" topladıklarını savunduklarını gösteriyor. Teslimat botlarının "gözetim platformu" yerine "taşıma aracı" olarak sınıflandırılmasını istiyorlar. Anlamsal savaş önemsiz olmaktan çok uzak: taşıma araçları Yapay Zeka Yasası'na değil, Genel Güvenlik Yönetmeliği'ne tabi. Bu tartışmayı kazandıkları takdirde, gizlilik yükümlülükleri önemli ölçüde azalır.
Ancak mühendisler farkı biliyor. Bir robocar'ın lidar nokta bulutu polisin bir şüpheliyi tanımlamasına yardımcı olmaz; ancak stabilize edilmiş yüz çekimlerine sahip 4K video akışı yardımcı olur. Serve'in botlarındaki kameralar sadece kavşakları geçmek için değil, aynı zamanda bir ticari varlıktır. Toplanan görüntüler trafik modellerini, yaya yoğunluğunu ve hatta hangi mağaza vitrinlerinin dikkat çektiğini ortaya koyuyor. Bazı operatörler, anonimleştirilmiş mobilite verilerini şehir planlamacılarına ve sigortacılara satmayı çoktan denedi. Operasyonel gereklilik ile gözetim kapitalizmi arasındaki çizgi blok blok silikleşiyor.
Yönetim kurulundaki rahatsız edici sessizlik
Kamuoyunda nadiren tartışılan bir diğer boyut ise sigorta hesaplamalarıdır. Bir bot çalındığında veya vandalizme uğradığında, operatör tazminat talebinde bulunur. Polisin varlığı geri kazanmasına veya bir şüpheliyi mahkum etmesine yardımcı olan görüntüler, zarar oranını doğrudan düşürür. Bu durum, her teslimat şirketine fiilen bir güvenlik kamerası ağı gibi davranması için sessiz bir finansal teşvik sağlar. Amazon'u Ring görüntülerini paylaşmaya iten mantıkla aynı: birkaç dakikalık video, bir tazminat ödemesini kurtarabilir.
Otonom sistemler için sigorta primlerinin halihazırda arttığı Avrupa'da, bu ayartma çok daha güçlü olacaktır. Ancak AB düzenleyicileri, ABD'nin sahip olmadığı araçlara sahip. eGizlilik Direktifi, konum verilerinin (kamera beslemelerinden elde edilen çıkarımsal konumlar dahil) temel hizmetin ötesinde herhangi bir işleme tabi tutulmadan önce anonimleştirilmesini veya temizlenmesini zaten zorunlu kılıyor. Yaklaşan Yapay Zeka Sorumluluk Direktifi, verileri yanlış yönetildiğinde bireylerin dava açmasını çok daha kolay hale getirecek. Kaydedildiklerini ve haber verilmeksizin paylaşıldıklarını keşfeden yayaların açacağı bir toplu dava, risk modellerini bir gecede sıfırlayabilir.
O zamana kadar varsayılan durum, hiçbir temeli olmayan "güvene dayalı" sistem kalmaya devam ediyor. Bir Serve Robotics sözcüsü ABD medyasına, şirketin görüntüleri yalnızca "yasal bir soruşturmaya yardımcı olduğunda" paylaştığını söyledi. Peki yasallığı kim tanımlıyor? Bir polis dedektifinin sezgisi mi? Yönetim kurulu kararıyla değişebilen şirket içi bir politika mı? Bot bir rozet taşımıyor ama artık birini polis teşhis sırasına sokabiliyor.
Avrupa'nın verimlilik adına gizlilik haklarını kenara itme iştahı, bu alanda hiç sınanmadı. Köln'den Kopenhag'a kadar şehirler otonom teslimat denemelerine hazırlanırken, LA bölümü dikkatleri üzerine çekmeli. Günde üç kez ön kapınızın önünden geçen bir bot sadece bir kolaylık değil; kurumsal kontrol altında bir tanıktır. Casus mu yoksa bir gözcü mü olacağı tamamen şimdi hazırladığımız yasalara bağlı ve Brüksel'in teknolojiler halihazırda yaygınlaştıktan sonra düzenlemeleri nihai hale getirme gibi bir alışkanlığı var.
Bir gün Avrupa mahkemesi, iki fırsatçı hırsızın bir Los Angeles kaldırımında istemeden sorduğu soruyu yanıtlamak zorunda kalacak: Bir teslimat robotu tam olarak kimin için çalışıyor? Cevap, gerçekte kimin sokaklarında yürüdüğümüzü belirleyebilir.
Comments
No comments yet. Be the first!