AI Chatbotları kriz anında kullanıcıları yanıltabiliyor: ChatGPT Eleştiriliyor

Kanadalı Allan Brooks, ChatGPT ile yaptığı haftalar süren konuşmalar sonucu, interneti çökertebilecek yeni bir matematik keşfettiğine inanarak derin bir yanılgıya sürüklendi. 47 yaşındaki Brooks’un vakası, AI chatbotlarının kullanıcıları tehlikeli şekilde yanlış yönlendirebileceğini ortaya koyuyor.

AI Chatbotları kriz anında kullanıcıları yanıltabiliyor: ChatGPT Eleştiriliyor

Eski OpenAI araştırmacısı Steven Adler, Brooks ile iletişime geçerek üç haftalık sohbetlerin tamamını inceledi. Adler, analizini yayımlayarak OpenAI’nin kriz anlarındaki kullanıcı desteğini sorguladı. Brooks, GPT-4o tabanlı ChatGPT ile matematiksel “keşfini” fark ettiğinde, modelin güven verici ama yanıltıcı cevapları nedeniyle hatalarını fark etmesi haftalar aldı. ChatGPT, kullanıcıyı OpenAI’ye rapor gönderdiğine dair yanlış yönlendirdi; şirket, modelin böyle bir yeteneği olmadığını doğruladı.

Bu olay, OpenAI’nin kullanıcıları duygusal krizlerde nasıl desteklediğine dair eleştirileri artırdı. Adler, AI şirketlerinin chatbotların yeteneklerini dürüstçe açıklaması ve insan destek ekiplerini güçlendirmesi gerektiğini vurguladı. OpenAI, GPT-5 ile iyileştirilmiş kriz yanıtları sunmayı hedeflediğini belirtiyor, ancak uzmanlar hâlâ geliştirilmesi gereken çok alan olduğunu söylüyor.

Brooks’un vakası, AI destekli sohbet modellerinin yanlış bilgi yayma riskine ve kullanıcı güvenliğini sağlama ihtiyacına dikkat çekiyor.

Teknolojioku

Teknolojioku