Güney Koreli araştırmacılar, yapay zekanın yanlış bilgi üretmesini azaltabilecek dikkat çekici bir yöntem geliştirdi. Yeni sistem sayesinde yapay zeka modellerinin, emin olmadığı konularda hatalı yanıt vermek yerine “bilmediğini” kabul etmesi hedefleniyor.
Çalışma, Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) bünyesinde görev yapan bilim insanları tarafından yürütüldü. Araştırmanın sonuçları, bilim dünyasının saygın yayınlarından Nature Machine Intelligence dergisinde yayımlandı.
Uzmanlara göre yapay zekanın en büyük sorunlarından biri, yanlış bilgileri büyük bir özgüvenle doğruymuş gibi sunması. Teknoloji dünyasında bu durum “halüsinasyon” olarak tanımlanıyor. Özellikle sağlık, otonom sürüş ve karar destek sistemleri gibi kritik alanlarda bu hataların ciddi sonuçlar doğurabileceği belirtiliyor.
Araştırmacılar, geliştirdikleri yeni yöntemde insan beyninin çalışma sisteminden ilham aldı. Yapay zeka modeli, gerçek verilerle eğitilmeden önce rastgele “gürültü verileriyle” kısa bir ön eğitim sürecinden geçiriliyor. Böylece sistem, henüz bilgi sahibi olmadığı aşamada kendi belirsizliğini tanımayı öğreniyor.
Bilim insanları, bu yaklaşım sayesinde yapay zekanın “Henüz bilmiyorum” durumunu kavrayabildiğini ve eğitim sırasında karşılaşmadığı konularda daha düşük güvenle yanıt verdiğini ifade etti.
Araştırma ekibi, yöntemin yalnızca doğru cevap oranını artırmayı değil, aynı zamanda yapay zekanın hangi konularda emin olmadığını da anlayabilmesini amaçladığını vurguladı.
Çalışmanın yazarlarından Se-Bum Paik, “Bu yöntem, yapay zekanın kendi bilgi durumunu insanlara daha benzer biçimde değerlendirebilmesini sağlıyor” dedi.