Yapay zeka teknolojilerindeki gelişmeler hız kesmeden devam ederken,
OpenAI'ın popüler sohbet botu
ChatGPT için planladığı "yetişkin modu" teknoloji dünyasında büyük bir tartışma başlattı. Bu yeni mod, kullanıcıların yapay zeka ile erotik içerikli sohbetler (sexting) yapmasına olanak tanıyacak. Ancak insan-yapay zeka etkileşimi uzmanları, bu durumun kullanıcı
mahremiyeti için korkunç bir kabusa dönüşebileceği konusunda ciddi uyarılarda bulunuyor.
Yapay Zeka ve Mahrem Sohbetler
İnsan-yapay zeka etkileşimi konusunda uzun yıllara dayanan deneyime sahip uzman ve "The Naked Android" kitabının yazarı
Julie Carpenter, insanların sohbet botlarını kişileştirmesini doğal karşılıyor. Carpenter'a göre,
ChatGPT gibi üretken yapay zeka araçları, kullanıcılarla son derece kişiselleştirilmiş anılar ve sosyal deneyimleri taklit eden etkileşimler yoluyla bu tür tepkileri tetiklemek üzere kasıtlı olarak tasarlanıyor. Ancak bu tek taraflı bağlantılar, yapay zeka tarafından üretilen erotik içerik bir seçenek olarak eklendiğinde daha da karmaşık ve potansiyel olarak feci hale gelebilir. Carpenter,
OpenAI'ın yetişkinlerin
ChatGPT ile sexting yapmasına izin verme planlarından endişe duyduğunu belirtiyor ve ekliyor: "İnsanların cinselliklerini keşfetmelerinden yanayım, ancak bunun hem güvenli hem de eğlenceli bir şekilde olmasını istiyorum. İnsanlar, verilerle ilgili bir gözetim yönü olduğunun çok farkında olmalı."
Hafıza Özelliğinin Karanlık Yüzü
OpenAI, model tasarımlarını anlatan resmi bir belgede, yetişkin kullanıcıların
ChatGPT'yi erotik içerik oluşturmak için kullanmasına izin verebileceğini iki yıl önce ima etmişti. Şirket bu özelliğin lansmanını planlıyor gibi görünse de zaman çizelgesi belirsizliğini koruyor.
King's College London'dan yapay zeka ve toplum profesörü
Kate Devlin, insanların makinelerle erotik sohbetler yapmasının yeni bir şey olmadığını belirtirken,
OpenAI'ın bunu ana akım bir platforma taşıma potansiyelinin fark yarattığını vurguluyor.
En büyük endişelerden biri,
ChatGPT'nin kullanıcıların cinsel tercihlerini ne kadar "hatırlayacağı". Son birkaç yılda
OpenAI, kullanıcının tercihlerini kaydeden ve kişiselleştirilmiş çıktılarla yanıt veren sohbet botunun hafıza özelliğini sürekli olarak geliştirdi. Bu özellik, vegan olup olmadığınızı hatırlayıp buna göre restoran önerileri sunmak veya nerede yaşadığınızı bilip yakınlardaki yürüyüş rotalarını önermek gibi masum kullanımlara sahipken, bu tür veri kaydı milyonlarca yetişkin kullanıcının cinsel alışkanlıklarıyla buluştuğunda durum tehlikeli bir hal alabilir.
ChatGPT, diyet tercihleriniz yerine, en mahrem fantezilerinizi hatırlayabilir ve günlük yanıtlarını bu hassas cinsel detayları akılda tutarak kişiselleştirebilir.
Geçici Sohbetler: Bir Güvenlik İllüzyonu mu?
Peki
OpenAI bu tür olgun konuşmaları nasıl ele almayı planlıyor?
ChatGPT'nin yetişkin sürümüyle etkileşim kurmayı seçen kullanıcılar, "geçici sohbetler" özelliğinde bir teselli bulabilirler. Bu sohbetler, etkinleştirildiğinde kullanıcının günlük geçmişinde görünmez veya
OpenAI'ın modellerini geliştirmek için kullanılmaz. Ancak bu sohbetler, kullanıcılar için hissettikleri kadar geçici değil.
OpenAI'ın web sitesinde yer alan bir ifadeye göre, "Güvenlik amacıyla, yine de 30 güne kadar bir kopyasını saklayabiliriz." Ayrıca sitede, "belirli hizmetler için veri saklama, son yasal gelişmelerden etkilenebilir" şeklinde bir uyarı da bulunuyor.
Gözetimin Yeni Boyutu: Dijital Mahremiyetimiz Tehlikede
Cinsel içerikli yapay zeka sohbetleri, birinin sadece pornografi izleme geçmişinin veya OnlyFans'ta kimlere abone olduğunun ötesine geçen bir tür
mahrem gözetim sağlıyor. Detaylar daha spesifik hale geliyor. Etkileşimler aylar içinde daha aşırı fantezilere dönüşebilir; başlangıçta hiç düşünmediğiniz veya insan bir partnerle asla ifade etmeyeceğiniz türden fanteziler. Bu etkileşimler özel hissettirse de, veriler büyük bir risk taşımaya devam ediyor.
Bir hesabın hacklenmesi, bir güvenlik ihlali meydana gelmesi veya bir devlet yetkilisinin sohbet kayıtlarınıza erişim talep etmesi durumunda, kullanıcının asla hayal edemeyeceği şekillerde son derece hassas ve cinsel içerikli konuşmalar ortaya çıkabilir. Daha önce de kullanıcıların
ChatGPT etkileşimleri sızdırılmış veya istemeden herkese açık hale gelmişti.
OpenAI, 2023 yılında bir hata nedeniyle bazı kullanıcıların sohbet geçmişi başlıklarını açığa vurduğunda
ChatGPT'yi kısa süreliğine kapatmıştı. Geçtiğimiz yıl ise, birden fazla
ChatGPT etkileşimi, paylaşım ayarlarının Google Arama'da sohbetleri herkesin keşfedebileceği şekilde indeksleyeceğini fark etmeyen kullanıcılar tarafından istemeden herkese açık hale getirildi.
Julie Carpenter, "En mahrem cinsel düşüncelerinizi paylaşıyorsunuz çünkü o an kaybolmuş durumdasınız. Bu şekilde savunmasızsınız çünkü harika, dönüştürücü, neredeyse birlikte yapıcı yaratıcı bir alanda olduğunuzu, cinsel fantezilerinizi pratiğe dökmek için harika bir yol olduğunu sanıyorsunuz." diyerek kullanıcıların karşı karşıya olduğu riski özetliyor.
Yapay zeka ile olan bu yeni, mahrem sınır, teknoloji ve
mahremiyet arasındaki karmaşık ilişkiyi bir kez daha gözler önüne seriyor. Kullanıcıların bu tür platformlarla etkileşim kurarken veri güvenliği ve
gözetim konularında son derece bilinçli olmaları her zamankinden daha kritik hale geliyor.
