Deepfake Zorbalığı: Kız Öğrenci Okuldan Atıldı, Erkek Çocuklara Suçlama Yöneltildi

Yapay zeka ile oluşturulan görseller yüzünden çıkan tartışma, ortaokullu bir kız öğrenciyi sınıftan uzaklaştırdı

Ağustos ayında Louisiana, Thibodaux'daki Sixth Ward Middle School'da, yapay zeka ile oluşturulmuş cinsel içerikli görseller okul servisinde ve sınıflarda öğrenciler arasında yayıldı. Yerel avukatlar ve kolluk kuvvetleri, bu görsellerde 13 yaşındaki bir kız çocuğunun yüzünün çıplak bir vücuda yerleştirildiğini belirtiyor. Olayı okul personeline bildirdikten sonra kız öğrenci, görselleri paylaştığını iddia ettiği bir erkek öğrenciyle fiziksel bir kavgaya karıştı. Okul yetkilileri kızın okuldan atılma kararını onaylarken; yerel savcılar daha sonra en az bir erkek öğrenciyi Louisiana'nın yeni yapay zeka deepfake yasaları kapsamında birden fazla suçla itham etti.

Olayların gelişimi ve ilk tepkiler

Kızın avukatının yaptığı açıklamalara göre, öğrenci manipüle edilmiş görsellerinin paylaşıldığını okul personeline bildirdi. Ailenin avukatları, kızın defalarca yardım istediğini ve görselleri yayan öğrencilerle aynı servise bindirildiğini söylüyor. Serviste bir erkek öğrenciyle yüzleşip ona vurduğunda, okul yetkilileri kıza disiplin cezası uygulayarak okuldan attı. Bölge yönetimi daha sonra kızın denetimli serbestlik şartıyla geri dönmesine izin verdi. Ayrı bir gelişme olarak, Lafourche Parish Şerif Ofisi bir soruşturma başlattı ve savcılar, yeni yürürlüğe giren bir eyalet yasasına dayanarak, bir ortaokul öğrencisini yapay zeka tarafından oluşturulan görselleri hukuka aykırı şekilde yaymakla ilgili birden fazla suçla itham etti.

Okul bölgesi yönetimi, reşit olmayanlar için federal gizlilik korumalarını gerekçe göstererek ve öğrenci davranış kurallarının ihlallerini titizlikle araştırdıklarını belirterek kamuoyuna yaptığı açıklamalarda eylemlerini savundu. Bölge müfettişi, olayların akışına dair bazı iddiaları çarpıtma olarak nitelendirdi. Bölge savcısı ise yasal gizlilik nedeniyle çocuklara yönelik yargılama süreçlerinin ayrıntılarını tartışmayı reddetti.

Yasa neleri kapsıyor ve nerelerde yetersiz kalıyor?

Louisiana, 2024 yılında çocukların sahte cinsel içerikli görüntülerini üreten üretken yapay zekanın zararlı kullanımlarını cezalandırmayı amaçlayan bir yasayı kabul etti. Yasama yürütücüleri ve yerel savcılar, yasanın kendilerine bu tür içerikleri oluşturan ve paylaşan öğrencilerin peşine düşmek için araçlar sağladığını; bir hükme göre bir kişinin hukuka aykırı yayma suçundan para ve hapis cezasıyla karşı karşıya kalabileceğini belirtiyor. Aynı zamanda bölgedeki milletvekilleri, cezaları ağırlaştırma isteğini kamuoyuna açıkça belirttiler: Bazı yerel temsilciler, belirli yayma suçlarının kabahatten ağır suça yükseltilmesini önerdi.

Ancak yasalar yapbozun sadece bir parçası. Yapay zeka ile manipüle edilmiş görseller sınıflarda ve özel mesajlaşma uygulamalarında dolaştığında, müfettişler ve okul liderleri teknik, kanıtsal ve prosedürel engellerle karşılaşıyor. Artık telefon uygulamalarında ve sosyal platformlarda paketlenmiş olarak sunulan üretken yapay zeka araçlarının hızlı gelişimi, bir zamanlar gereken teknik uzmanlığa ihtiyaç duyulmadan gerçekçi görünen içeriklerin üretilebileceği anlamına geliyor; bu da okul disiplin ve ceza yargılamalarında kaynağın ve aidiyetin tespitini zorlaştırıyor.

Uzmanlar sorunu nasıl tanımlıyor?

Çevrimiçi istismarı takip eden araştırmacılar, yapay zeka ürünü deepfake'lerin niteliksel olarak dedikodudan ve basit tacizden farklı olduğunu vurguluyor. Deepfake'ler üzerine çalışan Texas Christian University'den araştırma görevlisi Sergio Alexander, yakın zamana kadar inandırıcı sahte görüntüler oluşturmanın teknik beceri gerektirdiğini; bugün ise tüketiciye yönelik araçların gerçekçi bir resim veya klip üretmeyi sıradan hale getirdiğini belirtiyor. Bu gerçekçilik, görüntüler dar akran ağlarında yayıldığında mağdurların yaşadığı travmayı ve sosyal hasarı artırıyor.

Florida Atlantic University'deki Siber Zorbalık Araştırma Merkezi'nden Sameer Hinduja, okulların hem teknolojinin hem de öğrencilerin uygulamalarının gerisinde kaldığını söylüyor. Hinduja, net ve iletilmiş politikalar ve eğitimler olmadan olayların yanlış yönetilebileceği konusunda uyarıyor; bu da mağdurlara disiplin sorunu gibi davranılmasına veya kolluk kuvvetleri için gerekli kanıtların toplanamamasına neden olabiliyor.

Fenomenin boyutu

Ulusal veriler, sorunun kısa bir süre içinde devasa boyutlara ulaştığını gösteriyor. Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne yapılan raporlar, yapay zeka tarafından oluşturulan çocuk cinsel istismarı materyallerinde çarpıcı bir artışa işaret ediyor: 2023'teki binlerce rapordan 2025'in ilk yarısında yüz binlerce rapora bir sıçrama görüldü. Bu rakamlar hem üretimdeki artışı hem de iyileştirilmiş raporlama kanallarını yansıtıyor ancak okul çağındaki ağların yeni istismar biçimlerine ne kadar hızlı kapılabileceğinin altını çiziyor.

Okulun tepkisi neden önemli ve neden genellikle mağdurları hayal kırıklığına uğratıyor?

Yapay zeka ile manipüle edilmiş cinsel içerikli görüntülerin mağdurları farklı bir dizi zararla karşı karşıyadır. İnandırıcı derecede gerçek görünen bir görüntü, asıl olay çözüldükten çok sonra bile yeniden paylaşılabilir, yaraları yeniden açabilir ve kalıcı bir travma döngüsü yaratabilir. Bu süreklilik okul bağlamında önemlidir: Uygunsuz davranışların gerçekleştiği alan, sınıf arkadaşları arasındaki sosyal ekoloji ve okulların kullandığı disiplin sistemlerinin tümü, hem üretilmiş hem de geniş çapta dağıtılmış dijital içeriklerle başa çıkmak için yetersizdir.

Louisianalı kızın ailesini temsil eden avukatlar, okulun iddia edilen failleri tecrit edememesinin ve yayılımın devam etmesini engelleyememesinin, kızın tepkisinde ve ardından gelen toplumsal öfkede kilit bir faktör olduğunu söylüyor. Okul yetkilileri, soruşturma yürüttüklerini ve FERPA ve reşit olmayanların gizliliği kurallarının neleri açıklayabileceklerini kısıtladığını belirtiyor; eleştirenler ise bu kısıtlamaların koruma konusundaki başarısızlıkları gizlemek için kullanılmaması gerektiğini savunuyor.

Uzmanların önerdiği pratik adımlar

• Disiplin politikalarını, yapay zeka ile manipüle edilmiş içerikleri açıkça kapsayacak şekilde güncelleyin ve mağdurların net ve korunaklı bir raporlama yoluna sahip olduğundan emin olun.
• Personeli dijital kanıtların korunması konusunda eğitin; ekran görüntülerini, mesajlaşma meta verilerini ve cihaz zincirlerini öğrencileri mağdur etmeden veya yeniden mağdur etmeden nasıl belgeleyeceklerini öğretin.
• Okul disiplini ile cezai soruşturma arasındaki boşluğu doldurmak için yerel kolluk kuvvetleri ve çocuk koruma kuruluşlarıyla koordinasyon sağlayın.
• Ebeveynleri ve toplulukları proaktif olarak sürece dahil edin: Yanıltıcı derecede gerçekçi sahte içerikler artık o kadar yaygın ki, gündelik sohbetler olayları büyümeden gün yüzüne çıkarabilir.

Politika ve platform sorumluluğu için daha geniş kapsamlı sonuçlar

Yasa yapıcılar ödünleşimlerle karşı karşıya. Daha ağır cezai yaptırımlar bazı davranışları caydırabilir, ancak aynı zamanda çocuk adalet sistemi kaynaklarının uygun kullanımı ve gençler için uzun süreli sicil kayıtlarının riskleri hakkında soruları da beraberinde getiriyor. Pek çok savunucu, en verimli yolun yasal caydırıcıları önleme ile birleştirmek olduğunu savunuyor: Öğrenciler için zararlar ve sonuçlar hakkında eğitim, ebeveyn katılımı ve okul temelli ruh sağlığı desteklerine yatırım.

Thibodaux topluluğunda olayın yankıları

Dava, yerel yasama organlarının dikkatini çekti, okul yönetim kurulu toplantılarına ve okulun yeterince çaba gösterip göstermediğine dair kamuoyunda bir tartışmaya yol açtı. Bazı topluluk üyeleri, deepfake oluşturan ve paylaşan öğrenciler için daha ağır cezalar talep ederken; diğerleri okulun, şikayette bulunan öğrencileri koruma prosedürlerini iyileştirmesi gerektiğinde ısrar ediyor. Milletvekilleri, yargılama sürecini izleyeceklerini ve gerekirse cezaların ağırlaştırılmasını değerlendireceklerini söylüyor.

Olayın merkezindeki kız çocuğu ve ülke genelindeki pek çok öğrenci için kalıcı zarar sosyal ve psikolojiktir. Bir okul veya bir savcı harekete geçse bile, görseller yayılmaya devam edebilir; uzmanlar, kontrol altına alma ve ilginin, cezalandırma kadar önemli olduğunu söylüyor.

Kaynaklar

• Texas Christian University (deepfake araştırması)
• Florida Atlantic University, Siber Zorbalık Araştırma Merkezi (Sameer Hinduja)
• Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (siber ihbar hattı verileri)
• Lafourche Parish Şerif Ofisi (soruşturma)
• Louisiana Eyalet Yasama Organı (yapay zeka deepfake yasası)
• Lafourche Parish Okul Yönetim Kurulu (okulun yanıtı ve disiplin süreci)