Doğruluk, Halüsinasyon ve İçerik Doğrulama

Doğruluk, Halüsinasyon ve İçerik Doğrulama

Önceki derste yapay zekâya hangi verileri vermememiz gerektiğini konuştuk. Bu derste akışın diğer ucuna bakıyoruz: yapay zekâdan ne geldiğine ve o çıktıya ne kadar güvenebileceğimize. Bir sonraki derste ise bu çıktıların adil olup olmadığını, yani önyargı ve adalet konusunu ele alacağız.

Halüsinasyon nedir?

Halüsinasyon, yapay zekâ modelinin gerçek olmayan bir bilgiyi emin bir dille sunmasıdır. Model bir bilgiyi "bilerek" değil, olasılıksal olarak en uygun görünen kelime dizisini üreterek yazar. Bu yüzden akıcı ve ikna edici bir metin, doğru olmak zorunda değildir.

Neden önemli?

• Yanlış bir rakam, rapor veya sunuma girerse itibar ve para kaybına yol açabilir.
• Uydurma bir mevzuat maddesi, sözleşme ya da kaynak hukuki risk doğurabilir.
• Güncel olmayan bilgi, yanlış karar verilmesine neden olabilir.
• Sorumluluk yapay zekâda değil, çıktıyı kullanan kişidedir.

Yaygın hata türleri

Doğrulama kontrol listesi

• Önemini belirle: Çıktı kime ulaşacak, hata olursa sonucu ne olur? Risk yükseldikçe kontrol de sıkılaşır.
• Somut iddiaları işaretle: Rakam, tarih, isim, alıntı, mevzuat maddesi gibi kontrol edilebilir noktaları ayır.
• Birincil kaynağa git: Resmî kurum sitesi, orijinal belge veya şirket içi doğru kaynakla karşılaştır.
• Kaynağın varlığını sına: Modelin verdiği link veya referansı gerçekten açıp kontrol et.
• Güncelliği kontrol et: Bilginin tarihine bak; hızlı değişen konularda son durumu doğrula.
• Hesapları yeniden yap: Sayıları kendin ya da bir hesap aracıyla tekrar kontrol et.
• Gerekirse uzmana sor: Hukuk, finans, İK ve teknik konularda ilgili birimin onayını al.
• Kayıt tut: Neyi, nasıl doğruladığını kısaca not et.

Halüsinasyon riskini azaltan istem ipuçları

• Modele kendi metnini ya da belgeni ver ve yalnızca ona dayanarak yanıtlamasını iste.
• "Emin değilsen bilmediğini söyle" diye açıkça belirt.
• Kaynak isteyeceksen, kaynağı yine kendin doğrulayacağını unutma.
• Uzun ve karmaşık soruyu küçük parçalara böl.

Sık yapılan hatalar

• Akıcı metni doğru metin sanmak.
• Yapay zekâya "bunu doğru mu?" diye sorup yine onun cevabıyla yetinmek.
• Zaman baskısıyla kontrolü atlamak.
• Sorumluluğu "yapay zekâ yazdı" diyerek devretmeye çalışmak.

Küçük uygulama

Yakın zamanda yapay zekâya hazırlattığınız bir metni açın. İçinden en az beş kontrol edilebilir iddia seçin (rakam, tarih, isim, mevzuat). Her birini birincil kaynakta arayın ve "doğru / yanlış / doğrulanamadı" olarak işaretleyin. Doğrulanamayanları metinden çıkarın ya da düzeltin.

Hatırlatma: Yapay zekâ taslak hazırlayan hızlı bir yardımcıdır; son imza her zaman sizindir.