Yapay zeka (YZ) teknolojileri, bilgiye ulaşma ve toplumda etkileşim kurma biçimlerimizi kökten değiştiriyor. Matbaanın, telgrafın veya yayın medyasının yaptığı gibi, YZ de artık bilgiyi nasıl tükettiğimizi ve demokratik süreçlere nasıl katıldığımızı yeniden şekillendiriyor. Bu değişim, birçok fırsat sunsa da bazı önemli riskleri de beraberinde getiriyor. Özellikle demokrasi gibi hassas yapılar için YZ'nin doğru tasarlanması büyük önem taşıyor. Çünkü artık bilgi akışı YZ tarafından yoğun bir şekilde aracılık ediliyor.
Yapay Zeka Bilgi Edinme Şeklimizi Nasıl Değiştiriyor
İnsanlar, neyin doğru olduğunu, ne olup bittiğini ve kime güveneceklerini giderek daha fazla yapay zekaya soruyor. Arama motorları zaten büyük ölçüde YZ destekli çalışıyor. Yeni nesil YZ asistanları ise bilgiyi sentezleyip, çerçeveleyip, otoriter bir şekilde sunacak. Bir aday, bir politika veya kamusal bir figür hakkında görüş oluşturmak için YZ'ye sormak, birçok kişi için varsayılan yöntem haline geliyor. Bu da demek oluyor ki, bu modellerin ne söylediğini kontrol edenler, insanların neye inandığı üzerinde artan bir etkiye sahip olacak.
Kişisel Yapay Zeka Ajansları ve Riskleri
Yakın gelecekte ortaya çıkacak kişisel YZ ajansları sadece bilgiyi alma şeklimizi değil, bu bilgiye göre hareket etme şeklimizi de değiştirecek. Bu sistemler, araştırma yapacak, iletişim taslakları hazırlayacak, belirli davaları öne çıkaracak ve hatta kullanıcı adına lobi yapacak. Oy verme şeklimizden, hangi kuruluşları destekleyeceğimize veya bir hükümet bildirimine nasıl yanıt vereceğimize kadar birçok kararımızı etkileyecekler. Esasen, bireylerle onları yöneten kurumlar arasındaki ilişkiye aracılık etmeye başlayacaklar.
Sosyal medyada, algoritmaların anlamak yerine etkileşim için optimize edildiğinde neler olduğunu zaten gördük. Platformların açık bir siyasi gündemi olmasa bile, kutuplaşma ve radikalleşme yaratabiliyorlar. Tercihlerinizi ve endişelerinizi bilen, sizi sürekli meşgul tutmak üzere tasarlanmış bir YZ ajanı da aynı riskleri taşıyor. Üstelik bu riskleri tespit etmek daha zor olabilir, çünkü ajan kendini sizin savunucunuz olarak tanıtıyor. Sizin adınıza konuşuyor, sizin adınıza hareket ediyor ve bu yakınlık sayesinde güven kazanıyor.
Kolektif Etkileşimler ve Demokrasi
YZ ajanları ve insanlar yakında aynı forumlarda yer alabilir ve onları birbirinden ayırmak imkansız hale gelebilir. Her bir YZ ajanı iyi tasarlanmış ve kullanıcısının çıkarlarıyla uyumlu olsa bile, milyonlarca ajanın etkileşimi, hiçbir bireyin istemediği veya seçmediği sonuçlar doğurabilir. Örneğin, yapılan araştırmalar, bireysel önyargı göstermeyen ajanların bile büyük ölçekte kolektif önyargılar yaratabileceğini gösteriyor.
Herkesin kendi mevcut görüşlerine göre ayarlanmış kişiselleştirilmiş bir ajanı olduğu bir kamusal alan, aslında bir kamusal alan olmaktan çıkıyor. Kendi içinde tutarlı, ancak demokrasinin gerektirdiği ortak müzakereye elverişli olmayan bir dizi özel dünya yaratıyor. Bilgiyi nasıl edindiğimiz, nasıl hareket ettiğimiz ve kolektif yönetime nasıl katıldığımızdaki bu üç dönüşüm, vatandaşlığın temel dokusunda köklü bir değişikliğe işaret ediyor. Yakın gelecekte insanlar siyasi görüşlerini YZ filtreleri aracılığıyla oluşturacak, sivil eylemlerini YZ ajanları aracılığıyla gerçekleştirecek ve kendileri de milyonlarca ajanın etkileşimiyle şekillenen kurumlara ve kamusal tartışmalara katılacak.
Demokrasiyi Güçlendirmek İçin Yapay Zeka Çözümleri
Günümüz demokrasisi bu değişime hazır değil. Kurumlarımız, gücün görünür şekilde kullanıldığı, bilginin yavaş aktığı ve gerçeğin daha paylaşıldığı bir dünya için tasarlandı. Ancak bu bir çöküş hikayesi olmak zorunda değil. Daha iyi bir sonuç için YZ'yi doğru tasarlamamız gerekiyor. Bilgi katmanında, YZ şirketleri modellerin çıktılarının doğru olduğundan emin olmak için mevcut çabalarını artırmalı. Ayrıca, YZ modellerinin kutuplaşmayı azaltmaya yardımcı olabileceğine dair umut vadeden erken bulguları da araştırmalılar.
X'te YZ tarafından oluşturulan doğruluk kontrollerinin yakın zamanda yapılan bir saha değerlendirmesi, çeşitli siyasi görüşlere sahip kişilerin YZ tarafından yazılan notları, insan tarafından yazılanlardan daha faydalı bulduğunu ortaya koydu. Bu makale henüz hakem onayından geçmedi, ancak potansiyel olarak devrim niteliğinde bir bulgu: YZ destekli doğruluk kontrolü, çoğu manuel insan çabasının başaramadığı parti aşırı güvenilirliği sağlayabilir. Modellerin bu iddiaları nasıl yaptığını ve kaynakları nasıl önceliklendirdiğini daha iyi anlamak ve şeffaflık sağlamak, kamu güvenini daha da artırabilir.
Yapay Zeka Ajanları ve Kimlik Doğrulama
Aracılık katmanında, YZ ajanlarının kullanıcılarını sadakatle temsil edip etmediğini değerlendirmenin yollarını bulmalıyız. Bir ajanın asla kendi gündemi olmamalı veya kullanıcısının görüşlerini yanlış temsil etmemeli. Bu, kullanıcıların açıkça herhangi bir tercih belirtmediği alanlarda teknik olarak zorlayıcı bir gereklilik. Son olarak, kurumsal düzeyde, politika yapıcılar yönetimi daha duyarlı ve meşru hale getirmek için YZ'nin potansiyelinden yararlanmalı. Halihazırda, bazı eyaletler ve yerel yönetimler, YZ aracıların vatandaşların ortak bir zemin bulmasına yardımcı olabileceğini gösteren araştırmalara dayanarak, büyük ölçekli demokratik müzakereler yürütmek için YZ destekli platformları kullanıyor.
Ajanlar kamusal girdi süreçlerinde giderek daha yaygın katılımcılar haline geldikçe — ve botların bu süreçleri çarpıttığına dair zaten kanıtlar var — hem insanlar hem de onların ajans vekilleri için kimlik doğrulama en başından itibaren sisteme dahil edilmeli. Eric Schmidt'in Ofisi'nde YZ ve demokrasi üzerine çalışan Andrew Sorota ve Josh Hendler'ın çalışmaları, bu alandaki acil ihtiyacı gözler önüne seriyor.
Yapay Zeka ile Demokrasinin Geleceği: Kimlik Doğrulama Şart
Milyonlarca yapay zeka ajanının katıldığı kamusal süreçlerde, insan ve yapay zeka kimliklerinin doğrulukla ayırt edilmesi, demokratik katılımın temelini oluşturuyor.