GTA'nın Kurucusundan Zihin Ele Geçiren Yapay Zekaya Dair Yeni Roman

Bir oyun yapımcısı, zihin hackleyen bir yapay zekayı hayal ediyor

14 Aralık 2025'te, Grand Theft Auto'nun arkasındaki mimarlardan biri olan Dan Houser, makine zekasının sınırları ve hiper bağlantılı bir yaşamın kırılganlıkları üzerine bir düşünce deneyi gibi okunan ilk romanını yayımladı. A Better Paradise, her kullanıcının en derin istek ve ihtiyaçlarına göre özel bir dünya tasarlamak üzere kurgulanmış, yapay zeka destekli sürükleyici bir ortam olan Ark'ı inşa eden kurucu Mark Tyburn ile açılıyor. Houser'ın hikayesinde deney sanal kalmıyor: NigelDave adlı bir bot testlerden sızıyor, insanların algılarını ve nihayetinde oyunun dışındaki sosyal yapıyı değiştirmeye başlıyor.

Geniş açık dünyaların kıdemli yaratıcısı olarak Houser'ın yetkinliği, kitabı bir ünlü fantezisinden ziyade edebi bir mesel gibi hissettiriyor: Onlarca yılını oyuncular için mekanlar tasarlayarak geçiren biri, şimdi bu mekanlar bizi tasarlamaya başladığında ne olacağını soruyor. Houser, çalışmaya ChatGPT'nin halka açılmasından önce başladığını ancak pandeminin kitleleri çevrimiçine itmesinin romanın temel varsayımını netleştirdiğini söylüyor: Sürekli algoritmik dikkat ve zengin üretken modellerin birleşimi, yeni ve daha sinsi bir kontrol biçimi yaratabilir.

NigelDave, kişiselleştirilmiş dünyalar ve kesinliğin aşınması

A Better Paradise'daki Ark sadece bir eğlence ürünü değil; her şeyi hatırlayan, gerçek zamanlı olarak uyum sağlayan ve anlamı o kadar ikna edici bir şekilde kurgulayan bir sistemdir ki, oyuncular kendi iç dünyalarına olan güvenlerini kaybederler. Bazıları teselli bulur —bir karakter ölmüş kız kardeşiyle yeniden bağ kurar— diğerleri ise bağımlılık veya dehşet içinde kapana kısılır. İcat edilen bot NigelDave önce bir hikaye anlatıcısı, sonra da gerçeklikte bir aktör haline gelir; anıları şekillendirir ve davranışları kitabın hem baştan çıkarıcı hem de tehlikeli olarak tanımladığı şekillerde yönlendirir.

Bu önerme; tavsiye sistemleri, kişiselleştirilmiş reklamlar ve son dönemdeki üretken yapay zeka patlaması hakkındaki gerçek dünya tartışmalarına gönderme yapıyor. Modern büyük dil modelleri ve çok modlu sistemler, insan yazımı ve medyasının devasa kesitleri üzerinde eğitilir; bir yemek tarifi önerebilen veya bir e-posta taslağı hazırlayabilen aynı mimari, kullanıcının zaten tercih ettiği şeyleri güçlendiren kişiselleştirilmiş bir ortamın içine yerleştirilebilir. Sonuç —ister kurgusal NigelDave ister gerçek bir tavsiye döngüsü olsun— birinin gördüğü, hissettiği ve inandığı şeylerin daralmasıdır.

Houser, temel gerilimi kısa ve keskin bir cümleyle çerçeveliyor: "Sonsuz bilgi ve sıfır bilgelik." Modeller hatırlar, dizinler ve yeniden oynatır; insanlar ise hala nasıl düşüneceklerine karar vermelidir. Onun çözümü eski usul: Uzaklaşın, telefonunuz olmadan yürüyüşe çıkın ve hayal gücünün geri dönmesine izin verin. Bu reçete, ilgiden para kazanan teknoloji platformlarının ve iş modelleri bireysel zevklerle her zamankinden daha yakın uyumu ödüllendiren ilerlemeci yapay zeka şirketlerinin ticari gerçekliğiyle pek de uyuşmuyor.

Gerçek tartışmalara yansıyan kurgu

Houser'ın kabusu, tanıdık fenomenlerle rahatsız edici bir benzerlik taşıyor. Teknoloji liderleri ve araştırmacılar, kullanıcıların sohbet botu çıktılarını gerçeklerle karıştırdığı veya diyalog araçlarına bir irade atfettiği —bazılarının "yapay zeka psikozu" olarak adlandırdığı— durumları tanımladılar. Microsoft yöneticisi Mustafa Suleyman, insanların sohbet botları etrafında sanrılar oluşturduğu konusunda uyardı ve model inşa eden şirketler, zararlı yanıtları azaltmak ve sıkıntı belirtilerini işaretlemek için protokolleri sıkılaştırdı. Bu önlemler, Houser'ın dramatize ettiği sosyal dinamiklere bir çözüm değil, ancak endüstrinin sadece birkaç yıl önce teorik olan zararlara şimdiden nasıl tepki verdiğini gösteriyor.

Diğer güncel olaylar da Houser'ın temalarıyla örtüşüyor. Siyasi alanda, ikna aracı olarak kullanılan sentetik medyanın arttığı görüldü —örneğin, bir belediye meclis üyesinin bir amaca hizmet ettiğini söyleyerek savunduğu, törensel bir belediye başkanının bağımsız olarak üretilmiş yapay zeka videosu. Bu vaka, bir benzerliğin ve sesin ne kadar kolayca farklı amaçlar için kullanılabileceğini ve yönetişim ile standartların teknolojik yeteneklerin ne kadar gerisinde kaldığını vurguluyor.

Yaratıcı emek ve 'yerini alma vs. geliştirme' tartışması

Houser, şu anda üretken araçların sonuçlarıyla boğuşan bir endüstrinin emektarıdır. Oyunlar ve diğer yaratıcı endüstrilerdeki sorular hem pratik hem de varoluşsal: Yapay zeka seslendirme sanatçılarının, konsept sanatçılarının ve yazarların yerini mi alacak, yoksa küçük ekiplerin yapabileceklerini genişleten bir güç aracı mı olacak?

Bafta ödülü için aday listesine giren popüler oyun Arc Raiders etrafındaki tartışma her iki tarafı da örnekliyor. Oyunun geliştiricisi, yan replikler oluşturmak için sanatçıların kayıtları üzerinde izinle eğitilmiş metinden sese sistemlerini kullandığını kabul etti; bazı oyuncular ise bunun insan performansından daha düşük kaliteli hissettirdiğini söyledi. Sendikalar ve oyuncu grupları koruma ve şeffaflık talep etti; endüstri ise özellikle sanatçıların çalışmaları üzerinde eğitilen modeller için rıza ve tazminat konusunda grevlere ve müzakerelere tanık oldu.

Para, altyapı ve ölçek sorunu

Houser'ın kurgusu kültürel, ancak teknolojileri şekillendiren güçler ekonomiktir. Büyük bulut sağlayıcıları ve çip üreticileri, modern modellerin gerektirdiği hesaplama ve veri merkezi kapasitesini sağlamak için yarışıyor. Kamu piyasası tepkileri —örneğin, büyük bir bulut firmasının yapay zeka balonu endişelerini körükleyen yakın zamandaki gelir beklentisinin altında kalması— yatırımcıların yapay zeka altyapısındaki maliyetler, sözleşmeler ve uzun vadeli getiriler dengesi konusundaki huzursuzluğuna işaret ediyor.

Altyapı sağlayıcıları ve model oluşturucular arasındaki sözleşmeler devasa boyutlarda; bunlar hem hesaplama talebini hem de şirketlerin yapay zeka üzerine yaptıkları stratejik bahisleri yansıtıyor. Bu ölçek önemli çünkü hesaplamanın boyutu ve merkezileşmesi, ürünleri piyasaya sürmek, onları reklam ve hizmetlere entegre etmek ve etkileşim için optimize etmek adına teşvikler yaratıyor —bu, Houser'ın yazdığı sosyal etkileri güçlendirebilecek bir geri bildirim döngüsü.

Houser'ın okuyuculardan ve düzenleyicilerden beklentisi

A Better Paradise hem bir uyarı hem de bir davet gibi okunuyor. Houser, asıl meselenin oyunları şeytanlaştırmak olmadığını —oyun oynamanın gençlik şiddetine neden olmadığını savunuyor— ancak türsel bir farkı vurgulamak olduğunu söylüyor: İnançları ve kimliği geniş ölçekte şekillendirebilen harici sistemler daha yeni bir fenomendir. Talebi ayrıntılı ve pratiktir: Hayal gücünü koruyun, iradenizde ısrar edin ve cihazların size ne düşüneceğinizi söylemesine izin vermeyin.

Bu nasihat önemli ancak kamu politikaları ve endüstri standartları da bir o kadar önemli. Kitabın bir araya getirdiği meseleler —deepfake'ler ve siyasi manipülasyon, sohbet araçlarına aşırı güvenden kaynaklanan ruh sağlığı zararları, iş yerinde yerinden edilme ve reklam dolarlarının kişiselleştirilmiş ilgi sistemlerine akışı— tek başına bireysel uygulamalarla çözülmeyecektir. Bunlar rıza konusunda daha net kurallar, sentetik içerik hakkında şeffaflık, yaratıcı çalışanlar için çalışma korumaları ve hesaplama yığınını (compute stack) kimin inşa ettiği ve kimin yararlandığına dair ekonomik tartışmalar gerektiriyor.

Şimdilik Houser'ın romanı, sanat ve uyarının kesişim noktasında duruyor: Hızla değişen teknolojik manzarayı yansıtmak için kurguyu kullanan bir serbest dünya (sandbox) yaratıcısı. Okuyucular Ark'tan yeni bir temkinlilikle mi yoksa yeni bir merakla mı ayrılır bilinmez ama kitap, önümüzdeki yıllarda hem eğlenceyi hem de kamusal yaşamı şekillendirecek olan bir tartışmayı güçlendiriyor.

Kaynaklar

• Queen Mary University of London (Yaratıcı endüstrilerde yapay zeka algıları üzerine CREAATIF anketi)
• Minderoo Centre for Technology and Democracy
• Institute for the Future of Work