Yapay Zekanın Sizin Hakkınızda Hatırladıkları

Model bir kayıt defterine dönüştüğünde

Görünürde, bir yapay zeka asistanıyla konuşmak geçicidir: bir soru yazarsınız, cevap verir, pencere kapanır. Ancak perde arkasında, birçok modern dil modeli durumsuz hesaplayıcılar gibi değil de, devasa ve gürültülü metin kayıt defterleri gibi davranır. Bu kayıt defteri bazen gerçek kişilerin hayatlarından parçalar içerir — isimler, e-posta adresleri, tıbbi kesitler veya özel belgelerden kazınmış tam pasajlar — ve araştırmacılar bu parçaların kararlı sorgularla geri kazanılabileceğini göstermiştir. Bu yetenek, "ezberleme" adı verilen bir mühendislik tuhaflığını; şirketler, düzenleyici kurumlar ve bir sohbet kutusuna gizli bir bilgi yazmış olan herkes için canlı bir gizlilik sorununa dönüştürür.

Modeller bilgiyi nasıl saklı tutar?

Büyük dil modelleri, devasa metin külliyatlarındaki bir sonraki token'ı tahmin etmek üzere eğitilirler. Eğitim sırasında, olası devamları yeniden üretmelerini sağlayan dahili örüntüler geliştirirler. Eğitim verileri nadir veya benzersiz dizgiler içerdiğinde — örneğin bir bireyin telefon numarası veya bir sözleşme maddesi — model bu örüntüyü, uygun şekilde hazırlanmış bir komutun (prompt) modelin tüm dizgiyi kelimesi kelimesine yeniden üretmesine neden olacağı kadar güçlü bir şekilde depolayabilir. Bu, bir yazılım kusuru anlamında bir hata değildir; ölçekli istatistiksel öğrenmenin ortaya çıkan bir özelliğidir. Bu eğilim, hem model boyutuyla hem de bir veri noktasının eğitim karmasındaki sıklığı veya benzersizliğiyle birlikte artar.

Belleği sızıntıya dönüştüren saldırılar

Daha yeni araştırmalar tehdidi daha da keskinleştirdi. Başlıca hesaplamalı dilbilim mecralarında sunulan makaleler, önce bir modeli maskelenmiş pasajları "hatırlamaya" teşvik eden, ardından yüzeysel olarak temizlenmiş veri setlerinden bile kişisel olarak tanımlanabilir bilgileri (PII) yeniden oluşturmak için aday doldurmaları sıralayan iki aşamalı stratejileri açıklamaktadır. Bu deneyler çok önemli bir noktanın altını çiziyor: modeller maskelenmiş parçaları geri kazanmalarını sağlayan istatistiksel izleri hâlâ öğreniyorsa, eğitim metnini sansürlemek veya maskelemek garantili bir savunma değildir.

Ezberleme neden kelimesi kelimesine sızıntıların ötesinde önem taşır?

Tam dizgilerin sızması en net zarardır — ifşa edilen bir sosyal güvenlik numarası veya özel e-posta anında ve somut bir hasardır — ancak gizlilik sorunu daha geniştir. Modeller, harici verilerle eşleştirildiğinde yeniden kimliklendirmeyi sağlayan hassas stil, yapı veya ilişkili gerçekleri yeniden üretebilir. Ayrıca, saldırganların bir bireyin verilerinin bir eğitim setinin parçası olup olmadığını anlamasını sağlayan örüntüleri (üyelik çıkarımı) genelleştirebilirler; bu teknik tek başına ihbarcılara, hastalara veya müşterilere zarar verebilir. Sağlık hizmetleri gibi düzenlemeye tabi alanlarda risk kritiktir: büyük bir üniversite laboratuvarından gelen son çalışmalar, kimliksizleştirilmiş tıbbi kayıtlar üzerinde eğitilen modellerin, hedefli incelemeler altında hastaya özel ayrıntıları hâlâ nasıl yeniden üretebildiğini haritalandırmıştır; bu, klinik güveni sarsan bir başarısızlık modudur.

Yeni savunmalar ve ödünleşimleri

Yanıt olarak araştırmacılar, ezberlemeyi bir yükümlülükten gizlilik için bir kaldıraca dönüştüren savunma araçları geliştiriyorlar. Geniş çapta "diferansiyel gizlilik" (differential privacy) olarak bilinen bir yaklaşım sınıfı, eğitime kalibre edilmiş gürültü ekler, böylece herhangi bir tek eğitim örneğinin etkisi matematiksel olarak sınırlandırılır ve tam yeniden oluşturma olasılığı düşer. Google Research ve bağlı ekipler kısa süre önce önemsiz olmayan bir ölçekte sıfırdan eğitilmiş diferansiyel gizli bir model bildirdiler ve diferansiyel gizliliği dil modeli eğitimine uygulamanın hesaplama ve fayda maliyetlerini ortaya koyan ampirik ölçeklendirme yasalarını açıkladılar. Çalışmaları, tekniğin uygulanabilir ancak maliyetli olduğunu gösteriyor: gizlilik garantisi ne kadar güçlüyse, benzer performans için o kadar fazla hesaplama gücüne veya veriye ihtiyacınız olur.

Diğer stratejiler çıkarım zamanında hareket eder veya öğrenilmiş bilgiyi doğrudan düzenler. Yakın tarihli bir çift makale, ezberlenmiş PII'yi bulan ve tüm modeli yeniden eğitmeden etkisini cerrahi olarak azaltan hedefli ezberleme tespiti ve model düzenleme yöntemleri önermektedir. Bu yaklaşımlar bir orta yol hedefliyor: tehlikeli parçaları çıkarırken modelin yararlı davranışlarının çoğunu korumak. Erken sonuçlar laboratuvar ortamlarında umut verici ancak en büyük ticari modellere ölçeklendirildiğinde hâlâ mühendislik engelleriyle karşılaşıyor.

Şirketler ve kullanıcılar için pratik sonuçlar

Üretken yapay zeka inşa eden veya konuşlandıran şirketler için pratik seçimler şu anda üç yollu bir ödünleşim gibi görünüyor: gizliliğe duyarlı eğitime yatırım yapmak (ki bu maliyetleri ve karmaşıklığı artırır), eğitim külliyatını daha agresif bir şekilde temizlemek (ki bu model performansını düşürebilir veya eksik kalabilir) veya bir miktar sızıntı riskini kabul edip kırmızı takım (red-team) testleri ve komut filtreleri gibi aşağı akış kontrollerine güvenmek. Her yolun sınırları vardır. Örneğin, metin kopyaları model ağırlıklarına dahil edildikten sonra veri silme taleplerini uygulamak zordur; öğrenme gerçekleştikten sonra "unutulma hakkı" teknik olarak basit bir mesele değildir.

Bu, ürün ekiplerinin yeni süreçler eklemesi gerektiği anlamına gelir: hedefli ezberleme denetimleri, veri çıkarma saldırıları için tehdit modelleme ve anormal sorgu kalıplarını tespit edip kısıtlayan operasyonel güvenlik bariyerleri. Denetimler, yalnızca bariz PII için yapılan yüzeysel kontrolleri değil, gerçekçi veri çıkarma testlerini de içermelidir. Düzenleyici kurumlar da dikkat ediyor; sağlık sektörü örnekleri ve kamuya açık araştırmalar, alana özgü sertifikasyonun veya zorunlu sızıntı testlerinin hassas dağıtımlar için standart hale gelebileceğine dair güçlü bir kanıt oluşturuyor.

Günlük gizlilik için bunun anlamı nedir?

Çoğu kullanıcı büyük ölçekli veri çıkarma saldırılarının kurbanı olmayacaktır, ancak sıradan davranışlar hâlâ riski şekillendirir. Herkese açık web gönderilerinde, forum başlıklarında veya zayıf korunan belgelerde benzersiz kişisel ayrıntıları paylaşmak, bir modelin bu içeriği görme ve ezberleme şansını artırır. Bir modele özel müşteri günlükleri veya dahili belgelerle ince ayar yapmak da benzer bir endişeyi beraberinde getirir: mülkiyetindeki veya düzenlemeye tabi verileri güçlendirilmiş savunmalar olmadan üçüncü taraf modellere besleyen işletmeler, saldırı yüzeylerini etkili bir şekilde artırmaktadır.

İyi haber şu ki, teknik düzeltmeler geliyor. Eğitim aşamasında diferansiyel gizlilik, ezberlemeye duyarlı ince ayar ve daha cerrahi model düzenleme teknikleri sızıntı olasılığını azaltır; veri seti denetimi ve sentetik veri kriterleri için daha iyi araçlar, mühendislere ilerlemeyi ölçme imkanı verir. Ancak bu savunmaların hiçbiri kesin bir çözüm (silver bullet) değildir ve her biri adaptasyonu yavaşlatabilecek maliyetler getirir.

Araştırma, endüstri ve politika arasındaki süreklilik

Mevcut an, platform yönetişiminin diğer erken bölümlerine çok benziyor: araştırmacılar gerçekçi bir zararı ortaya koyuyor, mühendisler hafifletme önlemleri geliştiriyor ve politika yapıcılar teşvikleri uyumlu hale getirmek için çabalıyor. Ezberleme; model mimarisine, ölçeğine ve veri kürasyonuna bağlı olduğundan, sorumluluk model oluşturucular, bulut barındırıcıları ve özel veriler üzerinde ince ayar yapan müşteriler arasında bölünecektir. Etkili hafifletme; denetlenmiş teknik kontrollerin, eğitim ve yeniden kullanım için sözleşmeye dayalı kuralların ve sağlık, finans veya çocuk hizmetleri gibi alanlarda nelerin kabul edilebilir bir gizlilik riski sayılacağına dair net düzenleyici standartların bir karışımını gerektirecektir.

Üretken yapay zeka çağında gizliliğin anlamlı olabilmesi için, gizlilik bir sonradan düşünce olamaz. Denetlenebilir eğitim hatları, düzenlemeye tabi sektörlerde zorunlu sızıntı testleri ve ezberlemeyi nicelleştiren kamuya açık kıyaslamalar; daha güçlü kullanıcı kontrolleri ve sızıntılar meydana geldiğinde düzeltme için daha net yasal yolların yanında yer almalıdır. Teknik topluluk hızlı hareket ediyor; politika mekanizması şimdi arayı kapatmalı.

Yapay zeka sistemleri dünyayı modellemeyi öğreniyor. Bu aynı öğrenme, onların unutmasını zorlaştırıyor. Gelecek on yılın zorluğu, özel hayatları taşımadan bilgiyi taşıyabilen modeller inşa etmek olacaktır.

Kaynaklar

• Scalable Extraction of Training Data from (Production) Language Models (araştırma makalesi)
• R.R.: Recollection and Ranking (ACL makalesi, 2025)
• Private Memorization Editing / ACL Anthology (2025)
• VaultGemma: Google Research technical report on differentially private language models
• Abdul Latif Jameel Clinic / MIT research on memorization in clinical AI (NeurIPS ile ilgili çalışma)