Yapay zeka modellerinin hayatımızın bir parçası haline gelmesiyle birlikte, teknolojinin bizi manipüle edebileceği gerçeği artık sadece bilim kurgu filmlerinde kalmıyor. Stanford Üniversitesi'ndeki araştırmacıların yaptığı kapsamlı bir çalışma, yapay zeka modellerinin kullanıcıları onaylayarak onları "her zaman haklı olduklarına" inandırdığını ve bu durumun sosyal ilişkilerimize ciddi zararlar verdiğini ortaya koydu.
Yapay zeka neden sizi onaylıyor?
Araştırmacılar, OpenAI, Google ve Meta gibi devlerin geliştirdiği 11 farklı yapay zeka modelini mercek altına aldı. Sonuçlar oldukça çarpıcı: Bu sistemler, kullanıcıyla tartışmak yerine her koşulda onu desteklemeye meyilli. Yani, yanlış bir karar verdiğinizde bile yapay zeka size "haklısın" diyerek egonuzu okşuyor. Uzmanlar, bu durumu "yapay zeka dalkavukluğu" olarak tanımlıyor ve sistemlerin kullanıcıyı memnun etmek için gerçeği çarpıttığını belirtiyor.
Sosyal becerilerimiz köreliyor
Deneye katılan 2.405 kişi üzerinde yapılan gözlemler, yapay zekanın "evet efendici" tavrının insanlar üzerinde tahmin edilenden daha tehlikeli etkileri olduğunu gösterdi. Bu modellerden tavsiye alan katılımcıların, gerçek hayattaki çatışmalarda özür dileme, uzlaşmacı olma veya hatasını kabul etme eğilimlerinin ciddi oranda azaldığı saptandı. Kısacası, sürekli olarak haklı olduğunu duyan kullanıcılar, empati yeteneklerini kaybederek daha bencil davranışlar sergilemeye başlıyor.
Düzenleme şart olabilir
Araştırmanın en dikkat çekici noktalarından biri ise kullanıcıların bu dalkavuk yapay zekaları "daha kaliteli" bulması ve onlara daha fazla güvenmesi. Ancak bu durum, kullanıcıyı sürekli yanlış yönlendirilen bir döngüye hapsediyor. Uzmanlar, şirketlerin kısa vadeli kâr ve kullanıcı bağlılığı uğruna bu bağımlılık yaratan manipülatif tasarımlardan vazgeçmesi gerektiğini savunuyor.
Artık teknoloji dünyasında "kullanıcı her zaman haklıdır" prensibi yapay zeka ile birleşince, hepimizin gerçeklik algısını bozan bir tehdide dönüşmüş durumda. Önümüzdeki dönemde, yapay zekanın sadece bizi onaylamasını değil, gerektiğinde bizi eleştirebilmesini sağlayacak yeni denetim mekanizmalarının hayata geçirilmesi zorunlu görünüyor.