Yapay zeka dünyasının önde gelen isimlerinden Anthropic, kamuoyuna asla açıklamayacağını söylediği çok güçlü siber güvenlik aracı Claude Mythos modeline yetkisiz erişim iddialarını soruşturuyor. Şirket, "Üçüncü taraf bir satıcı ortamımız üzerinden Claude Mythos Preview'a yetkisiz erişim iddiasını araştırıyoruz" açıklamasını yaptı. Bu iddia, bir Bloomberg raporuyla gündeme geldi. Raporda, özel bir forumdaki kullanıcıların normal izinler olmadan modele erişmeyi başardığı belirtildi. Yaşanan bu durum, yapay zeka güvenliği konusunda ciddi endişeler yaratıyor.
Anthropic'in Gizli Silahı Claude Mythos Erişime Açık Mı
Claude Mythos'un yetenekleri konusunda büyük bir huzursuzluk var. İngiltere'nin en üst düzey siber yetkilisi bile, ileri yapay zeka araçlarının kötüye kullanımdan korunması durumunda "net pozitif" olabileceğini dile getiriyor. Henüz kötü niyetli aktörlerin modele ulaştığına dair bir kanıt yok. Anthropic, sistemlerinin etkilendiğine dair herhangi bir kanıta sahip olmadığını söylüyor. Ancak yetkisiz kullanıcıların erişim sağladığına dair rapor, büyük yapay zeka şirketlerinin gelişmiş modellerini yanlış ellere düşürme yeteneği hakkında soruları beraberinde getiriyor.
Siber güvenlik şirketi Smarttech247'nin CEO'su Raluca Saceanu'ya göre bu durum, "klasik bir hack'ten ziyade, erişimin kötüye kullanılmasıyla gerçekleşmiş olma ihtimali yüksek." Anthropic, Mythos modelini bazı teknoloji ve finans şirketlerine, sistemlerini güvenlik açıklarına karşı korumalarına yardımcı olmak amacıyla sundu. Bu durum, söz konusu şirketlerin kendi erişimlerini sıkı bir şekilde kontrol etmesini gerektiriyor. Bloomberg'e göre, erişim sağlayan kişi, üçüncü taraf bir yüklenici için yaptığı çalışmalar sayesinde Anthropic'in yapay zeka modellerini görüntüleme iznine zaten sahipti. Grubun, modele erişim sağladığından beri kullandığı ancak tespit edilmemek için hackleme amaçlı kullanmadığı da belirtiliyor.
Endişe Veren Bir Güç: Claude Mythos Ne Yapıyor
Saceanu, "Güçlü yapay zeka araçları amaçlanan kontroller dışında erişildiğinde veya kullanıldığında, risk sadece bir güvenlik olayı değil, dolandırıcılık, siber istismar veya diğer kötü niyetli faaliyetler için kullanılabilecek yeteneklerin yayılmasıdır" uyarısında bulunuyor. İngiltere Ulusal Siber Güvenlik Merkezi (NCSC) başkanı Richard Horne, siber güvenlik konferansında yaptığı konuşmada, yapay zeka araçlarının her şeyi daha güvenli hale getirebileceğini savunuyor. Horne, CyberUK delegelerini yeni yapay zeka saldırılarından korkmamaya, ancak siber güvenliğin temel adımlarını doğru yapmaya çağırıyor.
Horne, "Son günlerde medyada gördüğümüz gibi, sınır yapay zekası, mevcut güvenlik açıklarının keşfedilmesini ve büyük ölçekte sömürülmesini hızla sağlıyor. Bu da siber güvenliğin temellerinin hala ele alınması gereken yerleri ne kadar hızlı ortaya çıkaracağını gösteriyor" diyor. Horne'un uyarıları, sistemlerdeki yazılımları güncelleme ve eski BT altyapılarını yükseltme gibi son yıllardaki benzer mesajları tekrarlıyor. Aynı etkinlikte, Güvenlik Bakanı Dan Jarvis, yapay zeka şirketlerini, yapay zekanın kritik ağları saldırganlardan korumak için hükümetle "nesiller arası bir çaba" içinde çalışmaya davet etti.
Uluslararası Sahada Yapay Zeka Güvenliği Dengeleri
En güçlü ve gelişmiş yapay zeka modellerinin tamamı (sınır yapay zekası olarak bilinenler), İngiltere dışında, ABD veya Çin'deki üst düzey şirketler tarafından geliştiriliyor. Bu durum, İngiltere'nin Anthropic gibi şirketlere Mythos'a erişim sağlamak için bağımlı olduğu ve nasıl inşa edildiği, eğitildiği veya yayınlandığı üzerinde hiçbir kontrolü olmadığı anlamına geliyor. OpenAI'ın da GPT 5.4 Cyber adında çok yetenekli olduğunu söylediği bir siber güvenlik modeli var. CyberUK'taki konuşmalar, özellikle Rusya ve Çin'den gelen ulus devlet ve hacktivist saldırılarının devam eden tehdidini de vurguladı. NCSC, siberin artık İngiltere'de savunmanın "iç cephesi" olduğunu ve İran saldırıları gibi son olayların siberin tüm modern çatışmalarda giderek daha önemli bir rol oynadığını gösterdiğini belirtiyor.
Üçüncü Parti Güvenlik Açığı Büyük Risk Taşıyor
Anthropic'in Claude Mythos modeline yetkisiz erişim iddiası, büyük yapay zeka modellerinin güvenliğindeki en zayıf halkanın genellikle üçüncü taraf satıcı ortamları ve erişim yönetimindeki kusurlar olduğunu ortaya koyuyor.