Pentagon, Hedef Belirlemede Test Edilmemiş Yapay Zekayı Kullanmaya Yaklaşıyor

Bu hafta yayımlanan raporlar, Pentagon'un hayati önem taşıyan hedefleme kararlarında test edilmemiş yapay zekayı (YZ) kullanmaya yaklaştığını; gösterim aşamasından, üretken modellerin potansiyel hedef listelerini sıralamasına ve insan operatörlerin onaylayacağı öneriler sunmasına olanak tanıyan operasyonel pilot uygulamalara geçtiğini ortaya koydu. Bilgilendirme toplantılarında ve son haberlerde açıklandığı üzere plan, tamamen otonom ölümcül sistemler önermiyor; bunun yerine Savunma Bakanlığı, büyük dil modellerini ve üretken modelleri karar destek araçları olarak hedefleme iş akışlarına entegre etmeye hazırlanıyor. Bu kısa vadeli hamle, mevcut sistemlerdeki net ve ölçülebilir hata modlarına ve tıp alanındaki güncel YZ araştırmalarının, kendinden emin şekilde sunulan yanlış önerilerin operasyonel süreçler içinde nasıl yayılabileceğini göstermesine dikkat çeken araştırmacılar ve etik uzmanları arasında endişeye yol açtı.

Pentagon hedeflemede test edilmemiş YZ kullanımına yaklaşıyor: operasyonel değişim

Belgeler ve raporlar, Pentagon'un savaş alanı verilerini üretken YZ sistemlerine aktararak sıralı hedef listeleri ve önerilen eylem planları oluşturmaya yönelik deneyleri hızlandırdığını, ancak son kararın insanlara bırakıldığını gösteriyor. Önerilen mimari, yapay zekayı bir infazcıdan ziyade bir asistan olarak ele alıyor: Modeller; görüntüleri, sinyalleri ve diğer veri akışlarını sentezleyerek önceliklendirilmiş seçenekler ve destekleyici gerekçeler sunacak. Savunma yanlıları, bunun uzun istihbarat döngüsünü kısaltabileceğini ve komutanların hızlı gelişen senaryolar sırasında yoğun sensör verilerini işlemesine yardımcı olabileceğini savunuyor.

Ancak bir sistemi "asistan" olarak adlandırmak operasyonel riski ortadan kaldırmıyor. Denetlenmemiş modeller bir karar mekanizmasına dahil edildiğinde, hatalar alışılmadık kusurlar olarak değil, makul görünen iddialar —otoriter görünen kısa ve iyi ifade edilmiş öneriler— olarak ortaya çıkabiliyor. "Pentagon hedeflemede test edilmemiş YZ kullanımına yaklaşıyor" ifadesi bu gerilimi özetliyor: Makineler, sektörün saldırgan ve uç durum koşullarında güvenilirliği ölçmek için şeffaf, standartlaştırılmış yöntemler oluşturmasından önce, ölümcül sonuçları olan görevler için hazırlanıyor.

Pentagon hedeflemede test edilmemiş YZ kullanımına yaklaşıyor: hata modları ve tıbbi paralellikler

Tıp alanındaki son akademik çalışmalar, Pentagon'un karşı karşıya olduğu riskler için somut bir örnek teşkil ediyor. Icahn School of Medicine at Mount Sinai'den araştırmacıların yürüttüğü geniş kapsamlı bir çalışma, önde gelen dil modellerini klinik notlar üzerinde test etti ve modellerin, bu yanlış iddialar gerçekçi metinler içine yerleştirildiğinde uydurma önerileri sıklıkla tekrarladığını buldu. Yazarlar sorunu "bu sistem bir yalanı aktarabilir mi?" şeklinde çerçeveledi ve modeller klinik bakımda kullanılmadan önce büyük ölçekli stres testleri ve dış kanıt kontrolleri yapılması çağrısında bulundu.

Bu bulguyu hedeflemeye uyarlarsak; üretken bir model hatalı sinyalleri —yanlış etiketlenmiş görüntüler, güncel olmayan konum meta verileri veya yanıltıcı düşman taktikleri— kabul edebilir veya büyütebilir ve bir insan denetçinin güvenilir kabul edebileceği özlü, kendinden emin bir öneri sunabilir. Düşmanlar girdileri kasıtlı olarak manipüle edebilir ve rutin operasyonel belirsizlikler (zayıf aydınlatma, görüş engelleri veya zararsız sivil faaliyetler), bir modelin yüzeysel akıcılığının derin bir belirsizliği maskelediği tam da o koşulları yaratabilir. Mount Sinai makalesinin ölçülebilir, sistematik test çağrısı doğrudan buraya da uygulanabilir: Askeri yapay zeka, kötü bir öneriyi ne sıklıkla "aktaracağını" tahmin etmek için saldırgan, belirsiz ve kasıtlı olarak yanıltıcı vakalarla incelenmelidir.

İnsan denetimi, hukuk ve koruma önlemleri

Yetkililer, insanların devrede kalacağını ve herhangi bir kinetik eylemden önce YZ önerilerini doğrulaması gerektiğini vurguluyor. İnsan denetimindeki (human-in-the-loop) mimariler, hukuki incelemeler ve yerleşik angajman kuralları birincil koruma önlemleri olarak gösteriliyor. Ancak uygulamada, insan denetimi operasyon hızı nedeniyle zorlanabilir: Sensör akışları operatörleri saatte düzinelerce YZ tarafından önceliklendirilmiş seçenekle boğduğunda, inceleme yüzeysel hale gelebilir. Bu dinamik, bir güvenlik mekanizmasını bir uygunluk onay kutusuna dönüştürür ve YZ tarafından ekilen hataların yargı eşiklerini aşmasına izin verir.

Uluslararası hukuk ve silahlı çatışma hukuku; saldırılarda ayrım gözetme, orantılılık ve önlem alınmasını gerektirir. Hukuk danışmanları doktrinleri ve ihtilaflı vakaları inceleyebilir ancak sunulan bilginin kalitesine güvenirler. Denetimin anlamlı olması için koruma önlemleri; hangi verilerin modeli etkilediğini ortaya koyan denetim izlerini, insan denetçiler için kalibre edilmiş ve anlaşılabilir güven metriklerini ve yüksek sonuçlu öneriler için zorunlu ikinci kanal doğrulamasını içermelidir. Bazı akademisyenler ve teknoloji uzmanları, bu korumaların geçici dahili kılavuzlar yerine bağlayıcı protokollerle resmileştirilmesi gerektiğini savunuyor.

Teknik, etik ve hesap verebilirlik boşlukları

Hesap verebilirlik konusu da belirsizliğini koruyor. Eğer bir YZ sıralı bir liste sunar ve bir insan operatör zaman baskısı altında bunu kabul ederse, siviller zarar gördüğünde hukuki ve ahlaki sorumluluğu kim üstlenir? Komuta zinciri normları ve dahili inceleme kurulları suçlamayı üst kademelere taşıyabilir ancak hayatta kalanlar ve kamuoyu şeffaf, bağımsız soruşturma mekanizmaları talep edecektir. Bu da sağlam kayıt tutma, ham sensör verilerinin ve model çıktılarının saklanması ve dış adli analize olanak tanıyan prosedürler anlamına gelir ki bunların hiçbiri mevcut prototiplerde standart değildir.

Gelecekteki savaşlar ve politika üzerindeki sonuçlar

Üretken YZ'nin hedefleme iş akışlarına dahil edilmesi, savaş alanı uygulamalarını yıllarca şekillendirecektir. Eğer ilk konuşlandırmalar hız sağladıkları için daha yüksek bir hata oranını kabul ederse, doktrin ve eğitim bu ödüne uyum sağlayacak —ve düşmanlar bunu istismar etmeyi öğrenecektir. Aksine, dış doğrulama, kırmızı ekip testleri ve yasal olarak zorunlu kılınan doğrulama gerektiren katı, kanıta dayalı bir yaklaşım, sahaya sürmeyi yavaşlatacak ancak zamanla riski gerçekten azaltan modeller üretebilecektir.

Politika yapıcılar, hızlı operasyonel avantaj ile doğrulanabilir güvenlik inşa etmenin daha yavaş süreci arasında bir seçimle karşı karşıya. Bazı analistler, stratejik faydaları etik ve hukuki maliyetlere karşı tartmak için resmi test çerçeveleri, bağımsız denetimler ve kongre denetim oturumları yapılması çağrısında bulunuyor. Diğerleri ise test edilmemiş üretken modellerin teknik öngörülemezliğinin hayati kararlar için zayıf bir temel olduğunu savunarak, ölümcül kararlarda YZ desteğinin kapsamını kısıtlayacak uluslararası normlar veya anlaşmalar yapılması konusunda ısrar ediyor.

Şimdilik, Pentagon'un bu hamlesi daha geniş bir örüntüyü örnekliyor: Sağlık, finans ve savunma alanındaki kuruluşlar, yetenekli ancak kusurlu modelleri kritik iş akışlarına dahil etmek için acele ediyor. Mount Sinai'nin tıbbi çalışması, akıcılığın doğruluk anlamına gelmediğini ve insan hayatı söz konusu olduğunda titiz, alana özgü değerlendirmenin tartışılamaz olduğunu hatırlatıyor. Eğer "Pentagon hedeflemede test edilmemiş YZ kullanımına yaklaşıyor" ifadesi bu haftanın operasyonel gerçeğini tanımlıyorsa, asıl soru Savunma Bakanlığı ve denetim kurumlarının, hatalar trajedilere dönüşmeden önce bu sistemleri nasıl ölçeceği, sınırlayacağı ve yöneteceği olmaya devam ediyor.

Uzmanlar, sağlam ve şeffaf test rejimleri ile yasal garantiler yürürlüğe girene kadar tek sorumlu yolun ihtiyatlı olmak olduğu konusunda uyarıyor: Konuşlandırma temposunu yavaşlatın, model bazında saldırgan stres testleri talep edin ve adli tıp düzeyinde kayıtlar ile bağımsız inceleme konusunda ısrarcı olun. Bu adımlar riski ortadan kaldırmayacaktır ancak test edilmemiş bir destek yeteneğinden, savaşta güvenilir bir araca geçmek için gereken asgari adımlardır.

Kaynaklar

• Icahn School of Medicine at Mount Sinai (Büyük Dil Modellerinin tıbbi dezenformasyona duyarlılığını haritalandıran çalışma)
• The Lancet Digital Health (Mount Sinai çalışması için hakemli yayın mecrası)
• U.S. Department of Defense (Hedeflemede YZ entegrasyonu üzerine politika bilgilendirmeleri ve planlama)