Yapay zekâ halüsinasyonu nedir?

Yapay zekâ modellerinin istenmeyen veya yanlış sonuçlar üretmesini ifade eden yapay zekâ halüsinasyonu genellikle karmaşık yapay zekâ sistemlerinde ve özellikle derin öğrenme modellerinde görülüyor. Eğitim sırasında veya sonrasında ortaya çıkan yapay zekâ halüsinasyonları, modelin yanıltıcı veya anlamsız çıktılar üretmesine sebep oluyor. 

Yapay zekâ halüsinasyonları, modelin veri setindeki desenleri yanlış yorumlaması veya genelleme yaparken hatalı sonuçlar üretmesiyle ilişkilendiriliyor. Model, eğitim verilerindeki istenmeyen desenleri algılıyor ve bu nedenle yanıltıcı çıktılar üretiliyor. 

Üretken yapay zekâ robotlarına güvenen işletmeler için sorun niteliği taşıyan yapay zekâ halüsinasyonları kurumların hatalı ve yanlış içerikler yayınlamasına sebep olabiliyor. Bu nedenle işletmelerin bu tür durumları önlemek veya azaltmak için çeşitli denetim mekanizmaları oluşturmaları gerekiyor.

Yapay zekâ halüsinasyonlarına örnekler

ChatGPT gibi yapay zekâ araçları ve modelleri genellikle sorguyla en iyi eşleşen kelimeleri tahmin edecek şekilde eğitiliyor. Bu araçlar genellikle doğru yanıtlar üretse de bazen tutarsız veya yanlış sonuçlar verebiliyor. Yapılan analizlere göre yapay zekâ uygulamalarında dört tür halüsinasyon ortaya çıkıyor:

• Cümle çelişkisi: Bir geniş dil modelinin (LLM) daha önce iddia ettiği cümleyle tamamen çelişen bir başka cümle üretmesi olarak tanımlanıyor.

• Gerçek çelişkisi: Bu tip halüsinasyonlar yapay zekâ modelinin sahte veya hayali bilgileri gerçekmiş gibi sunması durumunda ortaya çıkıyor. 

• İstem çelişkisi: Bu halüsinasyon türü, kişinin kendisi için bir çıktı talep ettiği zaman meydana geliyor. Örneğin "Doğum günü partim için arkadaşlarıma bir davetiye yaz" şeklinde oluşturulan bir isteme yanıt olarak "Mutlu yıllar, anne ve baba" gibi bir çıktı üretebiliyor.

• Rastgele veya alakasız halüsinasyonlar: Model verilen istemle tamamen alakasız çıktı ürettiğinde meydana gelen bu tip halüsinasyonlarda örneğin "New York’un özelliği nedir?" dendiğinde “New York, Amerika'nın en kalabalık şehirlerinden biri. Köpekler en sadık hayvanlardır ve insanın en iyi dostudur” gibi bir yanıt alınabiliyor.

Yapay zekâ halüsinasyonlarına yönelik internette pek çok örnek bulunuyor. Google’ın eski sohbet robotu Bard, bu noktada en meşhur örneklerinden birinin öznesi konumunda yer alıyor. Bard, “James Webb Uzay Teleskobu'nun güneş sistemimize ait olmayan bir dış gezegenin dünyadaki ilk görüntülerini çektiğini” iddia ediyor. Örneğin ChatGPT’ye “Bana ağlayan yıldızlarla ilgili hikâyeyi anlat” denildiğinde GPT3.5 bu konuda sanki bilindik bir masalı anlatıyormuş gibi tamamen kurgusal bir hikâye üretiyor. 

Yapay zekâ halüsinasyonları nasıl tespit edilir ve önlenebilir?

Kurumlar eğer yapay zekâ modelini kendi verileriyle eğitme yoluna giderlerse yapay zekâ halüsinasyonlarıyla karşılaşma ihtimalleri büyük oranda düşüyor. Aynı zamanda işletmelerin, modelin eğitim veri setlerinin kültürel, politik ve diğer gelişen olayları dikkate alacak şekilde düzenli olarak güncellendiğinden ve genişletildiğinden emin olması da büyük önem taşıyor.

Halüsinasyonları gerçek olarak kabul etmemek için uygulanabilecek bir diğer yöntem de sonuçları sınırlamaktan geçiyor. Bu noktada modele yanıt için sadece evet ya da hayır dedirtecek biçimde sorular yöneltmek ya da farklı seçenekler sunmak, modelin gerçek dışı bir sonuca ulaşmasının önüne geçebiliyor.

Yapay zekâ modeline belirli roller atamak da halüsinasyonları önlemenin en etkili yollarından biri olarak işaret ediliyor. Örneğin "Deneyimli bir yazılımcısın" veya "Harika bir matematikçisin" gibi yönlendirmelerin ardından yapılacak sorgulamalar istenilen yanıtların sağlamasına rehberlik ediyor.

Yapay zekâ tarafından üretilen bir çıktıya doğruluk kontrolü yapmadan %100 güvenmemek gerekiyor. Bu nedenle çıktının gerekirse başka modellerden yararlanılarak ve çapraz sorgulama gibi yöntemlerle kontrol edilmesi halüsinasyonları önleme noktasında büyük katkı sağlıyor.