Yapay Zeka Robotları Her Seferinde Doğru Cevap Veriyor Mu?

Nature dergisinde yayınlanan bir araştırma, birçok yeni yapay zeka sohbet robotunun cevabı bilmediklerini kabul etmektense yanlış cevap vermeyi tercih ettiklerini ortaya koyuyor. Zaman geçtikçe, birçok yapay zeka sohbet robotu daha gelişmiş ve doğru hale geliyor, ancak yanlış cevap verme olasılıkları da artıyor. 

İnsanlar da gelişmiş yapay zekalı chatbotlara inanmaya daha yatkın olduklarından, chatbot tarafından verilen cevabın doğru olması gerektiğini varsayıyorlar.

Yapay Zeka Her Seferinde Doğru Cevabı Vermiyor

Araştırmanın yazarı, İspanya'daki Universitat Politecnica de Valencia'da profesör olan José Hernández-Orallo, YZ sohbet robotlarının bugünlerde her şeye cevap verebileceklerini iddia ettiklerini söylüyor. 

Bu, daha çeşitli cevaplar verebiliyor olsalar da, aynı zamanda daha fazla yanlış bilgi verebilecekleri anlamına da geliyor. Araştırmacı ekip bu konuda daha fazla bilgi edinmek için Meta'nın Llama'sını, açık kaynaklı BLOOM'u ve OpenAI'nin GPT serisini inceledi.

Araştırmacılar çalışmaya daha önceki modellerden başladılar ve daha sonra yavaş yavaş daha büyük ve gelişmiş modellere geçtiler. Daha yeni ve en gelişmiş modeller çalışmaya dahil edilmedi. Modellere coğrafya, aritmetik, bilim ve anagramlarla ilgili binlerce soru soruldu. Modeller geliştikçe yanlış cevap verme eğiliminin de arttığı tespit edildi.

Araştırmacılar ayrıca bazı gönüllülerden bu yapay zeka modellerinden gelen cevapları okumalarını ve hangilerinin yanlış veya hatalı olduğunu belirlemelerini istedi. Bu gönüllüler tarafından doğru olarak algılanan cevapların yaklaşık %40'ı aslında yanlıştı. 

Araştırmacılar, insanların YZ sohbet robotlarının tüm sorularına cevap veremeyeceğini anlamaları gerektiğini söyledi. YZ geliştiricileri, YZ sohbet robotlarını, aslında cevabı olmayan bir soruya “bilmiyorum” cevabını verecek şekilde programlamalıdır. Ayrıca YZ'den gelen her bilgiye inanmaktan kaçınmalı ve doğruluğunu kendimiz kontrol etmeliyiz.