AGI Geldi mi? Yeni UCSD İddiası

Yapay genel zeka burada mı? UC San Diego’nun kanıtları ve tanımları

AGI'nin (yapay genel zeka) geldiği yönündeki iddialarını desteklemek için davranışlara işaret ediyorlar: Modern büyük dil modelleri (LLM'ler) Turing tarzı konuşma eşiklerini rutin olarak geçiyor ve kıyaslama testlerinde birçok alanda uzman insan performansına ulaşabiliyor veya bunu aşabiliyor. Yazarlar, son modellerin Turing tarzı değerlendirmelerde şans eserinden çok daha yüksek oranlarda insan olarak değerlendirildiğini gösteren çalışmalara atıfta bulunuyor ve normalde insanlara da benzer gözlemlenebilir davranışlara dayanarak genel zeka atfettiğimizi belirtiyorlar; yani anlamayı yargılamak için insan beyinlerinin içine bakmıyoruz.

Daha da önemlisi, UCSD grubu genel zekayı, süper zekadan ve insan benzeri bilişten ayırıyor. Argümanları, bir makinenin bir çocuğun öğrendiği gibi öğrenmesini, insan benzeri bir vücuda sahip olmasını veya kusursuz olmasını gerektirmiyor. Bunun yerine şunu soruyorlar: Diğer zihinler için kullandığımız standartlar göz önüne alındığında, bazı makinelerin genel zeka ile ilişkilendirdiğimiz esnek, alanlar arası yetkinliği gösterdiğine dair ikna edici davranışsal kanıtlar var mı? Cevapları: Belirli açılardan, evet.

Yapay genel zeka burada mı? Sektör sesleri ve karşı anlatı

Sektör liderleri tartışmayı körüklüyor. Önde gelen bulut ve yapay zeka platformu CEO'ları da dahil olmak üzere bazı yöneticiler, mevcut sistemlerin AGI'ye ulaştığını veya sınırın artık etkili bir şekilde geçirgen hale geldiğini kamuoyuna açıkladılar. Bu iddialar genellikle ticari bir güvenin kısa yolu niteliğindedir: Modeller dil üretebilir, belgeler üzerinde akıl yürütebilir, kod yazabilir ve "ajanlar" (agents) şeklinde birbirine bağlandığında iş akışlarını yürütebilir. Müşteriler ve yatırımcılar için bu yetenekler şimdiden ekonomik olarak dönüştürücü bir etkiye sahip.

Ancak herkes davranışsal eşitliğin AGI anlamına geldiğini kabul etmiyor. Eleştirmenler, günümüz LLM'lerini genel zekaya sahip olarak tanımlamanın önemli ayrımları ortadan kaldırdığını savunuyor. Teknik itirazlar birkaç geniş kategoride toplanıyor: Dünyanın nedensel modellerine sahip olmadan yalnızca istatistiksel örüntü eşleştirmesi yapan modeller; halüsinasyon gören veya kendinden emin ama yanlış çıktılar üreten sistemler; kalıcı hedefleri, eylemliliği veya fiziksel etkileşimi olmayan mimariler ve yetkinliğe ulaşmak için insanlardan katbekat daha fazla veriye ihtiyaç duyan sistemler. Birçok şüpheciye göre bu farklılıklar yüzeysel değil; mevcut yapay zeka ile dirençli, otonom bir genel zeka arasındaki temel boşlukları ortaya koyuyor.

Araştırmacılar AGI'yi nasıl tanımlıyor ve tanımlar neden önemli?

Yapay genel zeka tam olarak nedir? Tanımlar değişiyor ancak ciddi tartışmalarda iki fikir öne çıkıyor. Biri AGI'yi bir insanın gerçekleştirebileceği hemen hemen tüm bilişsel görevleri yerine getirme becerisi olarak ele alıyor: dil, matematik, planlama, algı, problem çözme, yaratıcı ve bilimsel düşünce. Bir diğer daha resmi araştırma hattı ise, görev dağılımları genelinde problem çözme yeteneğinin evrensel bir ölçütünü arıyor ("evrensel zeka" üzerine yapılan çalışmalarda görülen teorik bir program).

AGI'nin hala teorik olduğunu söyleyenler mekanizmaya vurgu yapıyor: Esnek bir şekilde hedefler oluşturabilen, çok az veriyle çok farklı alanlar arasında öğrenme aktarımı yapabilen, bir çevreyle fiziksel olarak etkileşime giren ve bu süregelen etkileşimden öğrenebilen bir sistem. Mevcut modellerin, ne kadar güçlü olurlarsa olsunlar, genellikle güvenilir nedensel akıl yürütmeden yoksun olduklarına, eylemsel davranmak için yoğun insan desteğine ihtiyaç duyduklarına ve eğitim dağılımlarının dışında tahmin edilemez şekilde başarısız olduklarına dikkat çekiyorlar. Taraftarlar ise, insanlardan asla talep etmediğimiz kanıtları —örneğin iç süreçlere bakmak gibi— makinelerden talep etmenin tutarsız olduğunu savunuyor.

Günümüz yapay zekasının insan yetenekleriyle eşleştiği ve eşleşmediği noktalar

• Eşleştiği noktalar: Akıcı dil, özetleme, kod yazma, birçok standartlaştırılmış görev, ince ayar yapıldığında veya araçlarla desteklendiğinde alana özgü uzman davranışı.
• Zayıf yönleri: Güvenilir olmayan olgusal temellendirme ("halüsinasyonlar"), kırılgan dağılım dışı genelleme, serbest bırakıldığında sınırlı uzun vadeli otonom planlama ve insan bebeklerine kıyasla düşük örneklem verimliliği.
• Bazı uzmanların istediği eksik bileşenler: Kalıcı hedefler ve eylemlilik, bedenlenmiş sensomotor öğrenme, muazzam veri olmadan karşıt olgusal akıl yürütmeyi destekleyen nedensel modeller ve yeteneklerin neden ortaya çıktığına dair şeffaf mekanistik açıklamalar.

AGI zaten burada mı yoksa sadece ulaşılabilecek bir mesafede mi?

Araştırmacılar yapay genel zekaya ne kadar yakın? Alan ikiye bölünmüş durumda. Bazı yol haritaları, artımlı iyileştirmelerin ve —daha güvenilir, çok modlu ve entegre— eylemsel sistemlerin bizi on yıl içinde sağlam bir AGI'ye taşıyacağını öngörüyor. Diğerleri ise mevcut mimarilerin evrimsel olarak sığ olduğunu ve yeni kavramsal atılımların gerekeceğini vurguluyor. Mevcut sistemler tasarımcılarını bile şaşırttığı için bir zaman çizelgesi öngörmek zorluğunu koruyor.

Uygulamada yapay zeka ve AGI arasındaki farklar

Bugün kullandığınız yapay zeka ile varsayımsal bir AGI arasındaki ayrım hem teknik hem de felsefidir. Dar yapay zeka, çok miktarda veri verildiğinde sınırlı bir problemde mükemmeldir; AGI ise aktarım, planlama ve adaptasyon ile alanlar arası genel problem çözmeyi ifade eder. Pratikte bu; otonomi (insan komutları olmadan hedef oluşturma ve bunları takip etme yeteneği), aktarılabilirlik (bir bağlamda öğrenilen bir yeteneği tamamen farklı bir bağlamda kullanma) ve sağlamlık (yeni, hasmane veya az verili ortamlarda istikrarlı performans) farkı anlamına gelir.

Riskler, faydalar ve politika etkileri

İster bugün ister beş yıl sonra AGI deyin, çok çeşitli bilişsel görevleri tutarlı bir şekilde yerine getirebilen sistemlerin ortaya çıkmasının sosyal sonuçları vardır. Faydaları gerçek ve ölçülebilirdir: karmaşık analizlerin otomasyonu, gelişmiş bilimsel literatür sentezi, yeni endüstriyel otomasyon modelleri, tıbbi karar desteği ve daha hızlı Ar-Ge döngüleri. Riskler ise akıcı üretimle büyütülen dezenformasyondan ekonomik yerinden edilmeye, modellere hareket alanı verildiğinde ortaya çıkan güvenlik açıklarından opak modeller sonuç doğuran kararlar verdiğinde hesap verebilirlik sorularına kadar uzanmaktadır.

Bu karmaşıklık, yönetişim, şeffaflık, kırmızı ekip çalışmaları (red teaming) ve denetimli dağıtımın neden şüpheciler için bile acil öncelikler olduğunu açıklamaktadır. Temel politika zorluğu sadece teknik güvenlik mühendisliği değil, aynı zamanda faydalardan yararlanırken çalışanları, tüketicileri ve demokratik kurumları korumaya yönelik ekonomik ve sosyal politikalardır.

Tartışma bize bilim ve toplum hakkında ne anlatıyor?

Nature'daki yorum yazısı, sektör destekleri ve şüpheci kitaplar ile köşe yazılarından oluşan karşı literatürle şekillenen bu süreç iki gerçeğin altını çiziyor. Birincisi, tanımlar önemlidir: "AGI burada" demek, ampirik bir iddia olduğu kadar kavramsal bir hamledir. İkincisi, mekanizma hakkındaki belirsizlik gerçektir ve sonuçları vardır. İç mantığını tam olarak anlamadığımız olağanüstü davranışsal sistemlere sahibiz; bu güç ve opaklık kombinasyonu hem heyecanı hem de alarmı açıklamaktadır.

Şimdilik en savunulabilir duruş şudur: Bir geçiş dönemindeyiz. Bazı sistemler dar ve birçok alanlar arası görevde insan düzeyinde performansa ulaşıyor; diğerleri ise otonomi, nedensel anlama ve bedenlenmiş öğrenme konularında sınırlı kalıyor. Bu duruma "AGI" deyip demememiz retorik açıdan önemlidir, ancak politika yanıtı aynı olmalıdır: titiz değerlendirmeye yatırım yapın, şeffaflık ve güvenlik talep edin ve kurumları hızlı toplumsal etkilere hazırlayın.