Yapay zeka halüsinasyonu, bir yapay zeka sistemi tarafından üretilen, gerçeğe dayalıymış gibi sunulan uydurma, hatalı veya doğrulanamayan bilgiler içeren kendinden emin ve akıcı bir yanıttır. Bu terim en yaygın olarak büyük dil modelleri (LLM'ler) ve diğer üretken yapay zeka sistemleri için kullanılır; bu sistemler yetkili bir tonda görünen ancak gerçek verilere dayanmayan metinler, görseller, kaynakça göstermeleri veya sayısal iddialar üretebilir. Bu sistemler doğrulanmış gerçeği getirmek yerine inandırıcı çıktı üretmek için tasarlandığından halüsinasyonlar, nasıl çalıştıklarının yapısal bir özelliğidir; ara sıra ortaya çıkan bir hata değildir.
Yapay zeka halüsinasyonu nasıl çalışır?
Büyük dil modelleri, eğitim sırasında öğrendikleri örüntülere dayanarak istatistiksel olarak sırada ne gelebileceğini tahmin ederek çıktılarını her seferinde bir token üreterek oluşturur. Modelin doğrulanmış bir veri tabanı kavramı yoktur; yalnızca hangi kelimelerin ve ifadelerin hangilerinden sonra gelme eğiliminde olduğunu bilir. Bir istem, bir kaynakça gösterme, tarih veya kişi biyografisi gibi belirli ayrıntılar istediğinde model, gerçek dünya olgularına bağlayan herhangi bir kısıtlama olmadan bir yanıtın doğru biçimine benzeyen metin üretebilir. Eğitim verileri bir konuda yetersizse ya da soru alışılmadık bir soruysa model, boşlukları zahmetsizce en iyi tahminiyle doldurur.
Basit bir örnek: bir LLM'den bir makale başlığı ve yazarı istendiğinde, model gerçek bir araştırmacıya atfedilmiş ancak o kişinin hiç yazmadığı gerçekçi görünen bir başlık uydurabilir. Model bilinçli olarak yalan söylemiyor; eğitildiği işi, yani olası bir devamı üretmeyi yapıyor. Retrieval-augmented generation (RAG), araç kullanımı ve kısıtlanmış çözümleme (constrained decoding), bu davranışı azaltmak için kullanılan yaygın tekniklerdir; ancak tamamen ortadan kaldırmazlar.
Neden önemlidir?
Halüsinasyonlar önemlidir çünkü kullanıcılar yapay zeka çıktılarını, özellikle kendinden emin ve düzgün bir biçimde sunulduğunda, çoğu zaman yetkili bir kaynak olarak değerlendirir. Tıp, hukuk, gazetecilik ve yazılım mühendisliği gibi alanlarda uydurulmuş tek bir kaynakça veya hayali bir API gerçek zararlara yol açabilir. Bu nedenle kurumsal ve üretim düzeyindeki çoğu dağıtım, üretken modelleri getirilen bilgi sistemleri, doğruluk kontrolü katmanları ve insan incelemesiyle birlikte kullanır. Halüsinasyonun nadir bir hata değil, varsayılan bir davranış olduğunu anlamak, yapay zeka üreten veya bu çıktılara güvenen herkes için vazgeçilmezdir.
Yaygın yapay zeka halüsinasyonu türleri
- Olgusal halüsinasyon: uydurma istatistikler, tarihler veya tarihsel olaylar gibi kendinden emin biçimde dile getirilen ancak yanlış olan bilgiler.
- Uydurma kaynakça: var olmayan ya da gerçek bir çalışmayı yanlış yazara atfeden makale, haber veya URL'lere yapılan göndermeler.
- İçsel ve dışsal halüsinasyon: içsel halüsinasyon, modele verilen kaynakla (örneğin sağlanan bir belge) çelişir; dışsal halüsinasyon ise hiçbir kaynak tarafından desteklenmeyen bilgileri ortaya koyar.
- Akıl yürütme halüsinasyonu: geçerli görünen ancak hatalı çıkarımlar içeren mantık adımları; örneğin doğru görünen ancak yanlış sonuca ulaşan bir matematik işlemi.
Halüsinasyonlar, günümüz üretken yapay zekasının kaçınılmaz bir ödünleşimidir: modelleri kullanışlı kılan aynı akıcılık ve esneklik, onları inandırıcı uydurmalar üretebilir hale de getirir. Model çıktısını bitmiş bir doğruluk kaynağı olarak değil, doğrulanması gereken bir taslak olarak ele almak, hâlâ en güvenilir savunma yöntemidir. Modelleri getirilen belgelerle temellendiren, yapılandırılmış çıktılar dayatan veya iddiaları güvenilir veri tabanlarına göre kontrol eden araçlar halüsinasyon oranını gözle görülür biçimde azaltabilir; ancak altta yatan nedeni ortadan kaldırmaz.