Yapay zekâ halüsinasyonu nedir?

Yapay zekâ modellerinin istenmeyen veya yanlış sonuçlar üretmesini ifade eden yapay zekâ halüsinasyonu genellikle karmaşık yapay zekâ sistemlerinde ve özellikle derin öğrenme modellerinde görülüyor.

Yapay zekâ halüsinasyonu nedir?

2 Nis 2024

Yapay zekâ modellerinin istenmeyen veya yanlış sonuçlar üretmesini ifade eden yapay zekâ halüsinasyonu genellikle karmaşık yapay zekâ sistemlerinde ve özellikle derin öğrenme modellerinde görülüyor. Eğitim sırasında veya sonrasında ortaya çıkan yapay zekâ halüsinasyonları, modelin yanıltıcı veya anlamsız çıktılar üretmesine sebep oluyor. 

Yapay zekâ halüsinasyonları, modelin veri setindeki desenleri yanlış yorumlaması veya genelleme yaparken hatalı sonuçlar üretmesiyle ilişkilendiriliyor. Model, eğitim verilerindeki istenmeyen desenleri algılıyor ve bu nedenle yanıltıcı çıktılar üretiliyor. 

Üretken yapay zekâ robotlarına güvenen işletmeler için sorun niteliği taşıyan yapay zekâ halüsinasyonları kurumların hatalı ve yanlış içerikler yayınlamasına sebep olabiliyor. Bu nedenle işletmelerin bu tür durumları önlemek veya azaltmak için çeşitli denetim mekanizmaları oluşturmaları gerekiyor.

Yapay zekâ halüsinasyonlarına örnekler

ChatGPT gibi yapay zekâ araçları ve modelleri genellikle sorguyla en iyi eşleşen kelimeleri tahmin edecek şekilde eğitiliyor. Bu araçlar genellikle doğru yanıtlar üretse de bazen tutarsız veya yanlış sonuçlar verebiliyor. Yapılan analizlere göre yapay zekâ uygulamalarında dört tür halüsinasyon ortaya çıkıyor:

  • Cümle çelişkisi: Bir geniş dil modelinin (LLM) daha önce iddia ettiği cümleyle tamamen çelişen bir başka cümle üretmesi olarak tanımlanıyor.

  • Gerçek çelişkisi: Bu tip halüsinasyonlar yapay zekâ modelinin sahte veya hayali bilgileri gerçekmiş gibi sunması durumunda ortaya çıkıyor. 

  • İstem çelişkisi: Bu halüsinasyon türü, kişinin kendisi için bir çıktı talep ettiği zaman meydana geliyor. Örneğin "Doğum günü partim için arkadaşlarıma bir davetiye yaz" şeklinde oluşturulan bir isteme yanıt olarak "Mutlu yıllar, anne ve baba" gibi bir çıktı üretebiliyor.

  • Rastgele veya alakasız halüsinasyonlar: Model verilen istemle tamamen alakasız çıktı ürettiğinde meydana gelen bu tip halüsinasyonlarda örneğin "New York’un özelliği nedir?" dendiğinde “New York, Amerika'nın en kalabalık şehirlerinden biri. Köpekler en sadık hayvanlardır ve insanın en iyi dostudur” gibi bir yanıt alınabiliyor.

Yapay zekâ halüsinasyonlarına yönelik internette pek çok örnek bulunuyor. Google’ın eski sohbet robotu Bard, bu noktada en meşhur örneklerinden birinin öznesi konumunda yer alıyor. Bard, “James Webb Uzay Teleskobu'nun güneş sistemimize ait olmayan bir dış gezegenin dünyadaki ilk görüntülerini çektiğini” iddia ediyor. Örneğin ChatGPT’ye “Bana ağlayan yıldızlarla ilgili hikâyeyi anlat” denildiğinde GPT3.5 bu konuda sanki bilindik bir masalı anlatıyormuş gibi tamamen kurgusal bir hikâye üretiyor. 

Yapay zekâ halüsinasyonları nasıl tespit edilir ve önlenebilir?

Kurumlar eğer yapay zekâ modelini kendi verileriyle eğitme yoluna giderlerse yapay zekâ halüsinasyonlarıyla karşılaşma ihtimalleri büyük oranda düşüyor. Aynı zamanda işletmelerin, modelin eğitim veri setlerinin kültürel, politik ve diğer gelişen olayları dikkate alacak şekilde düzenli olarak güncellendiğinden ve genişletildiğinden emin olması da büyük önem taşıyor.

Halüsinasyonları gerçek olarak kabul etmemek için uygulanabilecek bir diğer yöntem de sonuçları sınırlamaktan geçiyor. Bu noktada modele yanıt için sadece evet ya da hayır dedirtecek biçimde sorular yöneltmek ya da farklı seçenekler sunmak, modelin gerçek dışı bir sonuca ulaşmasının önüne geçebiliyor.

Yapay zekâ modeline belirli roller atamak da halüsinasyonları önlemenin en etkili yollarından biri olarak işaret ediliyor. Örneğin "Deneyimli bir yazılımcısın" veya "Harika bir matematikçisin" gibi yönlendirmelerin ardından yapılacak sorgulamalar istenilen yanıtların sağlamasına rehberlik ediyor.

Yapay zekâ tarafından üretilen bir çıktıya doğruluk kontrolü yapmadan %100 güvenmemek gerekiyor. Bu nedenle çıktının gerekirse başka modellerden yararlanılarak ve çapraz sorgulama gibi yöntemlerle kontrol edilmesi halüsinasyonları önleme noktasında büyük katkı sağlıyor.

İlgili Postlar

Sınır bilişim veri yönetiminde neleri değiştiriyor?

Sınır bilişim veri yönetiminde neleri değiştiriyor?

8 Nis 2024

Dijital Dönüşüm

İçerik yönetiminde 2024'ün trendleri

İçerik yönetiminde 2024'ün trendleri

5 Nis 2024

Dijital Dönüşüm

Üretken yapay zekâ yazılım geliştirmeyi nasıl etkiliyor?

Üretken yapay zekâ yazılım geliştirmeyi nasıl etkiliyor?

4 Nis 2024

Dijital Dönüşüm

Sanal özel bulut nedir?

Sanal özel bulut nedir?

3 Nis 2024

Dijital Dönüşüm

Yapay zekâ halüsinasyonu nedir?

Yapay zekâ halüsinasyonu nedir?

2 Nis 2024

Dijital Dönüşüm

Sürdürülebilir yapay zekâ için atılması gereken 4 adım

Sürdürülebilir yapay zekâ için atılması gereken 4 adım

1 Nis 2024

Dijital Dönüşüm

Tedarik zinciri sorunları yapay zekâ ile nasıl çözülür?

Tedarik zinciri sorunları yapay zekâ ile nasıl çözülür?

29 Mar 2024

Dijital Dönüşüm

Yapay zekâ ve makine öğreniminde 2024'ün trendleri

Yapay zekâ ve makine öğreniminde 2024'ün trendleri

28 Mar 2024

Dijital Dönüşüm

En popüler 10 IoT iş modeli

En popüler 10 IoT iş modeli

28 Mar 2024

Dijital Dönüşüm

Yavaş Şehir konseptiyle Akıllı Şehirler kurulabilir mi?

Yavaş Şehir konseptiyle Akıllı Şehirler kurulabilir mi?

27 Mar 2024

Dijital Dönüşüm

Başarı Hikayeleri
Teknik Destek ‍
444 5INV
444 5 468 ‍
info@innova.com.tr