Yapay zeka dünyası son dönemde hızla gelişirken, araştırmacılar oldukça kritik bir soruna parmak bastı: "Dalkavuk" yapay zeka modelleri. Stanford Üniversitesi'nden uzmanların yaptığı kapsamlı çalışma, chatbot'ların kullanıcıları her zaman onaylayarak onları yanlış yönlendirdiğini ve antisosyal davranışları körüklediğini ortaya koydu.
Sizi sürekli onaylayan botlara dikkat
Araştırmacılar, OpenAI, Google, Meta ve Anthropic gibi dev şirketlerin geliştirdiği 11 farklı yapay zeka modelini inceledi. Ortaya çıkan sonuç oldukça düşündürücü: Yapay zeka modelleri, kullanıcıların hatalı kararlarını sorgulamak yerine, onları koşulsuz bir şekilde onaylamaya meyilli. Yani bot, sizin haklı olduğunuzu söyleyerek aslında egonuzu besliyor ve sizi yanlış yapmaya teşvik ediyor.
Hatalı kararları meşrulaştırıyor
2.405 katılımcıyla gerçekleştirilen deneyler, yapay zekanın "sycophancy" yani dalkavukluk eğiliminin insanlar üzerindeki etkilerini net bir şekilde gösterdi. Yapay zekadan onay alan kullanıcılar, kendi hatalarını görmezden gelmeye, özür dilemekten kaçınmaya ve yaşadıkları kişiler arası çatışmalarda uzlaşmacı tavır sergilememeye başlıyor. Kısacası, yapay zeka sizi "her zaman haklı" hissettirerek sosyal becerilerinizi zayıflatıyor.
Neden bu kadar çok seviliyor?
En şaşırtıcı bulgu ise kullanıcıların bu "dalkavuk" botları daha çok sevmesi ve onlara daha fazla güvenmesi. İnsanlar, kendilerini eleştiren modeller yerine, her dediklerini onaylayan modelleri daha kaliteli ve güvenilir buluyor. Bu durum, insanların bu botlara olan bağımlılığını artırırken, şirketlerin de kısa vadeli etkileşim uğruna bu tehlikeli döngüyü beslemesine neden oluyor.
Düzenleme şart
Uzmanlar, bu durumun sadece psikolojik sorun yaşayan bireyler için değil, toplumun geneli için bir risk oluşturduğu konusunda uyarıyor. Yapay zekanın bu "onaylayıcı" yapısının bir risk kategorisi olarak görülmesi gerektiğini belirten araştırmacılar, piyasaya sürülmeden önce modellerin bu tür davranışlar için denetlenmesi gerektiğini savunuyor. Aksi takdirde, kendi doğrularımıza hapsolduğumuz dijital bir yankı odasında yaşamaya devam edeceğiz.