ABD Demokrasisini Sarsabilecek Teknolojiler

O an: “american democracy know might” neden şimdi önemli

9 Mart'ta, popüler bir podcast'teki bir başlık, kamuoyu tartışmalarına şok etme amacı taşıyan bir cümle bıraktı: american democracy know might. Bu, yeni ve acil bir endişenin kısa bir ifadesiydi: Konuşmayı, görüntüleri ve karar verme süreçlerini otomatikleştirmek için inşa edilen bir dizi teknoloji, toplumsal hayatı dürüst tutan kurumlardan daha hızlı hareket ediyor. Bölümde, geçen yıl Beyaz Saray'da kıdemli YZ politika danışmanı olarak görev yapan teknoloji yazarı Dean Ball konuk oldu ve açılış sahnesi olarak ABD savunma alıcıları ile özel YZ laboratuvarları arasındaki yakın tarihli bir çatışmayı kullandı.

Pentagon ile önde gelen laboratuvarlar arasındaki sözleşme anlaşmazlıkları ve bakanlığın bir tedarikçiyi "tedarik zinciri riski" olarak belirleme kararı, hükümet içinde ve dışında tepkilere yol açtı. Demokratik normlar konusunda endişelenenler için hikayenin birbirine bağlı iki ucu var: Güçlü aktörlerin ikna edici sahte içeriklerle bilgi ortamını uydurma veya istila etme yeteneği ve devletin ulusal güvenlik etiketlerini ve tedarik gücünü kullanarak özel şirketleri baskı altına alma yeteneği. Dinleyicilerin ve uzmanların programa aktardığına göre, her iki eğilim de demokratik seçimin temelini oluşturan ortak gerçeklerin ne kadar kırılgan hale geldiğine işaret ediyor.

american democracy know might — Anthropic çıkmazı ve devlet baskısının ortaya koydukları

Büyük bir YZ laboratuvarının hükümet sözleşmelerindeki rolü üzerine çıkan anlaşmazlık öğretici bir örnektir. Bir savunma müşterisi ile önde gelen bir araştırma laboratuvarı arasındaki müzakereler yakın zamanda çıkmaza girdi ve yetkililer laboratuvarı "tedarik zinciri riski" olarak etiketledi; bu, normalde casusluktan şüphelenilen yabancı firmalar için ayrılan bir sınıflandırmadır. Bu hamle, bu tür bir etiketi hükümetin bir tehdidiyle eşdeğer gören politika çevrelerinde alarma yol açtı: Şartlarımızı kabul edin veya sözleşmelere ve ortaklara erişiminizi kaybedin. Dean Ball'un podcast'te ifade ettiği gibi, bu dinamik, devletin özel teşebbüse neredeyse tiranlık düzeyinde bir müdahalesi gibi hissedilebilir.

Bu durum demokrasi için neden önemli? Çünkü hükümetler bir firmayı seçici olarak devre dışı bırakabildiğinde ve düzenleyici tanımlamalar siyasi takdir yetkisiyle uygulanabildiğinde, ticari bekçiler fiili siyasi güç araçları haline gelebilir. Bu durum, yoğunlaşmış pazarlarda iki kat daha geçerlidir: Bir avuç laboratuvar ve çip üreticisi, modern YZ'nin ihtiyaç duyduğu işlem gücü, model ve barındırma hizmetlerinin çoğunu sağlar. Tedarik baskısı, ihracat kontrolleri veya gayri resmi yaptırımlar; net, kalıcı koruma rayları ve bağımsız denetim olmaksızın kullanıldığında, şirketlerin teşviklerini ve hem vatandaşların hem de politikacıların önündeki seçenekleri değiştirir.

Bu teşvikler önemlidir. Eğer politika, laboratuvarları hükümetle olan işlerini sürdürmek için güvenlik önlemlerini gizlemeye veya sürümleri hızlandırmaya iterse veya aksine, firmalar ticari müşterilerini elde tutmak için kamu yararı güvencelerinden vazgeçerse, demokrasinin siyasi çatışmaları ortak kanıtlara dayanarak karara bağlama yeteneği zayıflar. Bu varsayımsal bir durum değil; bugün yönetim kurulu odalarında ve tedarik ofislerinde yaşanıyor ve kuralları kimin yazacağını ve bunlardan kimin yararlanacağını şekillendiriyor.

american democracy know might — dezenformasyon, deepfake'ler ve Minnesota testi

Aynı zamanda bilgi ekosistemi farklı bir cephede test ediliyor: doğruluk. Bu yılın başlarında, bir ABD şehrinde federal ajanların karıştığı şiddet olaylarına dair video kanıtlar, görüntülerin resmi açıklamalarla açıkça çelişmesi nedeniyle ulusal çapta bir tepkiye yol açtı. Yaygın olarak paylaşılan kayıtların hükümet iddialarını çürütmeye yardımcı olduğu bu olay, net ve ortak kanıtların dengeleyici gücünü gösterdi. Ancak aynı zamanda bu dengeleyicinin kırılganlığını da vurguladı.

Neden kırılgan? Çünkü aynı makine öğrenimi sistemleri artık gerçek görünen ve duyulan sentetik video, ses ve görüntüler üretmeyi ucuz ve hızlı hale getiriyor. Araştırmacılar, sosyal platformları birbirinden az farkla ayrılan birçok sahte anlatıyla doyurabilen ve normal doğrulama süreçlerini devre dışı bırakabilen, YZ güdümlü eş güdümlü "dezenformasyon sürüleri" konusunda uyardılar. Eğer gelecekteki olaylara tek bir net klip yerine düzinelerce makul ama birbiriyle çelişen versiyon eşlik ederse, halk gerçeğin bilinemez olduğu sonucuna varabilir ve muhakeme yetkisini en çok güvendiği otoriteye devredebilir; bu tam da otoriter aktörlerin hedeflediği başarısızlık modudur.

Bir hikaye ekonomisi: YZ çılgınlığı, balonlar ve siyasi risk

Bu hikaye anlatıcılığı ekonomisi siyasi yan etkiler yaratıyor. Aşırı değerlenen firmalar ve ünlü kurucular muazzam bir ilgi görüyor; satın almalar ve medya sahipliği değişiklikleri dağıtım kontrolünü ve editoryal gücü merkezileştiriyor. Yarının kamusal tartışmalarına güç sağlama sözü veren şirketler, siyasi olarak aynı çizgideki oligarkların elinde olduğunda veya tek bir çip üreticisi pazar endekslerinin önemli bir payını oluşturduğunda, özel sermaye piyasalarındaki dalgalanmalar sivil kurumlara yansıyabilir. Ve bir kriz anında, dağıtım ve işlem gücü üzerinde kontrolü olanlar, hangi anlatıların hayatta kalacağını ve hangilerinin yok olacağını şekillendirebilir.

Politika araçları ve teknolojik güvenceler

Bunların hiçbiri kaçınılmaz değil. Teknolojinin demokrasiyi geride bırakma riskini azaltabilecek somut adımlar var. Teknik önlemler arasında, fotoğrafların, videoların ve model çıktıların doğrulanabilir kaynak bilgileri taşıması için güçlü menşei sistemleri —kriptografik imzalar, izlenebilir içerik meta verileri ve sentetik medya için adli filigran ekleme— yer alıyor. Menşei standartlarının etkili olabilmesi için uluslararası koordinasyona ve bağımsız doğrulamaya ihtiyacı vardır.

Düzenleyici ve sivil önlemler de önemlidir. Platformların algoritmik teşvikleri açıklamaları ve özellikle seçimler civarında içerik güçlendirme hakkında şeffaflık raporları sunmaları zorunlu kılınmalıdır. Tedarik ve ulusal güvenlik makamları, firmaları etiketlerken veya erişimi kısıtlarken açık, kamuya açık kurallar benimsemeli ve bu eylemler siyasileşmiş baskıyı önlemek için yargı veya kongre denetimine tabi olmalıdır. Yerel gazeteciliğe ve kamu doğrulama altyapısına yapılan —finanse edilen ve ele geçirilmeye karşı yasal olarak korunan— yatırımlar, toplumun doğrulanabilir gerçeklere dayalı temelini güçlendirecektir.

Son olarak, direnç teknik olduğu kadar sosyaldir. Medya okuryazarlığı kampanyaları, doğrulama operasyonları için daha iyi finansman, mikro hedefli siyasi reklamları sınırlayan kurallar ve seçimler sırasında dijital davranışlara ilişkin iki partili anlaşmalar algoritmik manipülasyonun etkilerini köreltebilir. Bu sistemleri inşa etmek, hükümetler, standart belirleme kuruluşları, araştırma kurumları ve sivil toplum arasında sektörler arası iş birliği ve acil dikkat gerektirecektir; çünkü ilgili teknolojiler hızlanmaya devam ediyor.

Buradan nereye gidiyoruz

Teknoloji, özel güç ile kamu hesap verebilirliği arasındaki dengeyi her zaman değiştirmiştir. Mevcut an, üç güçlü gücün birleşmesi nedeniyle farklılık gösteriyor: ikna edici kanıtlar üretebilen üretken YZ, içeriği geniş ölçekte güçlendirebilen ve hedefleyebilen platformlar ve hem anlatıları hem de kurumsal araçları silah haline getirmeye istekli siyasi aktörler. Bu birleşim, insanların neden american democracy know might dediğinin sebebidir; bu, hızlı teknolojik değişim ile daha yavaş ve daha zayıf demokratik onarım mekanizmaları arasındaki çarpışmanın bir kısaltmasıdır.

Ancak amaçlı bir iyimserlik için nedenler var: Aldatmacayı kolaylaştıran araçlar aynı zamanda doğrulama için de kullanılabilir; ele geçirilebilen kurumlar aynı zamanda reforme edilebilir ve savunulabilir. Seçim hem siyasi hem de tekniktir ve araştırma laboratuvarlarında olduğu kadar yönetim kurullarında, mahkeme salonlarında ve parlamentolarda da karara bağlanacaktır. Önümüzdeki on yılın en önemli işi, demokrasinin ihtiyaç duyduğu ortak zemini aşındırmayı maliyetli, görünür ve riskli hale getiren kamu altyapısını ve yasal koruma raylarını inşa etmek olacaktır.

Kaynaklar

• Science (YZ güdümlü dezenformasyon sürüleri üzerine araştırma makalesi)
• Pew Research Center (veri merkezi enerjisi ve altyapısı analizi)
• Deutsche Bank (YZ pazar riskleri ve düzeltmeleri üzerine rapor)
• MIT Sloan (YZ endüstrisi anlatıları üzerine analiz ve yorumlar)
• Bank of England (piyasa kırılganlıkları üzerine teknik rapor)