Yeni Yöntem LLM’lerdeki Bağlamsal Halüsinasyonları Tespit Ediyor

Büyük Dil Modellerinde bağlamsal halüsinasyonlar nelerdir?

Büyük Dil Modellerindeki (LLM'ler) bağlamsal halüsinasyonlar, bir sistemin akıcı ve mantıklı görünen ancak sağlanan kaynak materyalden olgusal olarak kopuk yanıtlar üretmesiyle ortaya çıkar. Eğitim verilerine dayalı genel halüsinasyonların aksine, bu hatalar özellikle çıktıyı erişilen bağlama dayandırma konusundaki bir başarısızlığı temsil eder ve teknik veya profesyonel ortamlarda incelikli ancak tehlikeli dezenformasyonlara yol açar.

Kurumsal ortamlarda Büyük Dil Modelleri kullanımının artması, Veri Erişimli Destekli Üretim (RAG) çerçevelerindeki kritik bir "güvenilirlik boşluğunu" gün yüzüne çıkardı. RAG, modelleri harici verilere dayandırmak için tasarlanmış olsa da, model girdiyle sağlanan belirli gerçekler yerine kendi dahili olasılık dağılımlarına öncelik verdiğinde bağlamsal halüsinasyonlar devam eder. Bu fenomen özellikle sorunludur çünkü ortaya çıkan uydurmalar genellikle kaynak materyalin stilini ve tonunu taklit eder, bu da insan kullanıcıların bunları zahmetli manuel doğrulamalar olmadan tespit etmesini zorlaştırır.

Araştırmacılar Wei Liu, Yulan He ve Zhanghao Hu, bu hataların sadece rastgele aksaklıklar olmadığını, modellerin odaklanmayı nasıl yönettiğiyle bağlantılı olduğunu belirlediler. Bu sorunu çözmeye yönelik önceki girişimler, bir modelin çıktısının varyansını veya entropisini ölçmek gibi "kaba" tespit yöntemlerine dayanıyordu. Ancak bu metrikler, bir model bağlam üzerindeki hakimiyetini kaybetmeye ve içerik uydurmaya başladığında meydana gelen nüanslı, anlık istikrarsızlıkları yakalamakta genellikle yetersiz kalmaktadır.

Dikkat sinyalleri neden Büyük Dil Modellerindeki halüsinasyonlara işaret eder?

Dikkat sinyalleri halüsinasyonlara işaret eder çünkü bunlar, modelin çıktısını kaynak metnin belirli tokenlarına nasıl "dayandırdığının" doğrudan bir haritası işlevini görür. Bu dikkat ağırlıkları yayıldığında veya hızlı, düzensiz dalgalanmalar sergilediğinde, modelin artık ilgili kanıtlara odaklanmadığını ve bunun yerine dilbilimsel tutarlılığı korumak için bilgi uydurduğunu gösterir.

Büyük Dil Modelleri'nin dahili dikkat mekanizması, bir sonraki kelimeyi üretirken girdinin hangi bölümlerinin en alakalı olduğunu belirleyen bir spot ışığı gibi çalışır. Sağlıklı ve olgusal olarak doğru bir üretim sürecinde bu spot ışığı sabit kalır ve kanıtlara odaklanır. Ancak bir halüsinasyon meydana geldiğinde, bu spot ışığı genellikle parçalı hale gelir. Sabit bir odak hüzmesi yerine, dikkat dağılımı dağınıklaşır, alakasız tokenlar arasında atlar veya enerjisini tüm dizi boyunca seyreltir.

Bu dayandırma davranışlarını analiz eden araştırma ekibi, dikkatin gerçeklik için metnin kendisinden çok daha hassas bir "termometre" olduğunu buldu. Metin mükemmel görünse de, altta yatan dikkat kalıpları modelin dahili mücadelesini ortaya koyar. Bu keşif, bilim insanlarının yapay zekanın mantığının kaynak materyalden tam olarak ne zaman ayrılmaya başladığını görmek için "kaputun altına" bakmalarına olanak tanıyarak, kendi sonuçlarını gerekçelendirebilen Açıklanabilir Yapay Zeka'ya doğru bir yol açmaktadır.

Frekans duyarlı analiz, LLM istikrarsızlıklarını tespit etmede varyans veya entropiden daha mı iyidir?

Frekans duyarlı analiz, varyans veya entropiden daha üstündür çünkü basit istatistiksel özetlerin genellikle gözden kaçırdığı dikkat sinyallerindeki ince taneli, yerelleşmiş istikrarsızlıkları yakalar. Dikkat dağılımlarını ayrık sinyaller olarak ele alan bu yöntem, küresel ortalamaların eşleşemeyeceği bir hassasiyet düzeyi sunarak, halüsinasyonlar için özel bir imza görevi gören "yüksek frekanslı enerjiyi" (hızlı yerel değişimler) tanımlar.

Varyans ve entropi gibi geleneksel metrikler, bir modelin dahili durumuna dair "bulanık" bir görünüm sunar. Bir modelin genel olarak kafasının karışık olup olmadığını söyleyebilirler ancak kafa karışıklığının tam olarak hangi anda veya hangi tokenda olgusal bir hataya dönüştüğünü belirleyemezler. Buna karşılık, frekans duyarlı bakış açısı dikkat mekanizmasını, bir ses dalgasına benzer şekilde dijital bir sinyal olarak ele alır. Bir ses kaydındaki yüksek frekanslı gürültünün bozulmaya işaret etmesi gibi, dikkat sinyallerindeki yüksek frekanslı "gürültü" de modelin muhakeme zincirindeki bir kopuşu gösterir.

Bu sinyal işleme yaklaşımı, hızlı yerel değişimleri yansıtan belirli yüksek frekanslı bileşenlerin çıkarılmasını sağlar. Araştırmacılar, halüsinasyon içeren tokenların neredeyse her zaman yüksek frekanslı dikkat enerjisiyle ilişkili olduğunu keşfettiler. Bu "doğruluk nabzı", genellikle pahalı harici doğrulama veya karmaşık dahili temsil analizi gerektiren önceki yöntemlerden daha verimli ve doğru olan hafif bir detektör oluşturulmasına olanak tanır.

Hatanın "Yüksek Frekanslı" İmzası

Bir LLM'in dikkatinin sinyal enerjisini tanımlamak, onun mantığının belirgin bir görselleştirmesini sağlar. Doğru tokenların üretimi sırasında, dikkat sinyali tipik olarak düşük frekanslı bir kararlılık sergiler; bu da modelin istikrarlı bir şekilde tutarlı bir kaynak gerçekler setine odaklandığı anlamına gelir. Bir halüsinasyon başladığında sinyal, parçalı dayandırma davranışını yansıtacak şekilde yüksek frekanslı bir duruma geçer. Bu düzensiz "nabız", modelin kaynak bağlamı bir sonraki kelime tahminleriyle uzlaştırmakta zorlandığının açık bir işaretidir.

Bunu doğrulamak için araştırmacılar, dikkat dağılımlarını ayrık sinyaller olarak modellediler ve bu yüksek frekanslı bileşenleri izole etmek için filtreler uyguladılar. Güçlü bir korelasyon buldular: Dikkat sinyali ne kadar "titrek" ise, tokenın bir halüsinasyon olma olasılığı o kadar yüksekti. Bu atılım, yapay zekanın "kara kutu" doğasının ötesine geçerek, bir modelin gerçek zamanlı metin üretirken düşüncelerinin istikrarını görselleştirmek ve ölçmek için matematiksel bir yol sunmaktadır.

RAGTruth ve HalluRAG Üzerindeki Deneysel Sonuçlar

Bu frekans duyarlı yaklaşımın etkinliği, bağlamsal hataları ölçmek için özel olarak tasarlanmış RAGTruth ve HalluRAG benchmarkları kullanılarak test edildi. Sonuçlar netti: Frekans duyarlı detektör, mevcut doğrulama tabanlı ve dikkat tabanlı yöntemlerden tutarlı bir şekilde daha iyi performans gösterdi. Deneylerden elde edilen temel bulgular şunlardır:

• Artan Doğruluk: Yöntem, karmaşık Veri Erişimli Destekli Üretim (RAG) boru hatlarında kullanılanlar da dahil olmak üzere çeşitli görevler ve modellerde önemli performans kazanımları elde etti.
• Verimlilik: Mevcut dikkat sinyallerini analiz ettiği için detektör "hafiftir" ve ikincil doğrulama modellerinin devasa hesaplama yükünü gerektirmez.
• Modeller Arası Çok Yönlülük: Yüksek frekanslı imzanın, farklı model mimarilerinde halüsinasyonların tutarlı bir göstergesi olduğu bulundu; bu da Büyük Dil Modelleri'nin bilgiyi nasıl işlediğine dair temel bir özelliğe işaret etmektedir.

Doğrulanabilir Üretken Yapay Zekanın Geleceği

Üretken yapay zekadaki güven boşluğunu kapatmak, sadece doğru "görünen" modellerden kanıtlanabilir şekilde temellendirilmiş modellere geçmeyi gerektirir. Geliştiriciler, gerçek zamanlı frekans duyarlı tespiti kullanıcıya yönelik LLM'lere entegre ederek, kullanıcı daha görmeden kendi halüsinasyonlarını işaretleyen sistemler oluşturabilirler. Bu, mantıklarını yeniden değerlendirmek ve kaynak metinde daha iyi bir dayanak aramak için dikkat sinyali geri bildirimini kullanan kendi kendini düzelten modellere yol açabilir.

Tıp, hukuk ve mühendislikteki profesyonel uygulamalar için bu bulgular dönüştürücü niteliktedir. Doğruluğun tartışılamaz olduğu durumlarda, dahili sinyal işlemeye dayalı bir "doğruluk ölçere" sahip olmak, daha önce mevcut olmayan bir güvenlik düzeyi sağlar. Bu araştırmanın gelecekteki yönleri arasında, daha ince hataları yakalamak için sinyal filtrelerini geliştirmek ve bu frekans duyarlı bakış açısının, doğası gereği daha istikrarlı ve dürüst Büyük Dil Modelleri oluşturmak için eğitim aşamasında nasıl kullanılabileceğini keşfetmek yer almaktadır.