Heriot-Watt Üniversitesi'nden bilgisayar bilimcisi Profesör Michael Lones, yeni bir araştırmayla önemli bir uyarıda bulundu. Araştırmaya göre, Üretken Yapay Zeka'yı (Gen AI) makine öğrenimi sistemlerinde kullanmak, ciddi güvenlik risklerini beraberinde getiriyor. Özellikle maliyetleri düşürme amacıyla bu teknolojinin yaygınlaşması, siber saldırı riskini ve veri ihlallerini artırıyor.
Üretken Yapay Zeka Makine Öğreniminde Siber Saldırı Riskini Artırıyor
Profesör Lones'un Patterns dergisinde yayımlanan çalışması, Gen AI'ın makine öğrenimi (Makine Öğrenimi) sistemlerini tasarlamada, eğitmede veya çalıştırmada nasıl kullanıldığını inceliyor. Lones, bu durumun kuruluşları ve kamuoyunu siber saldırılar, veri ihlalleri ve az temsil edilen gruplara karşı önyargı gibi istenmeyen zararlara maruz bırakabileceğini belirtiyor. Maliyet ve verimlilik avantajlarına rağmen, bu riskler göz ardı edilmemeli.
Lones, "Makine öğrenimi geliştiricilerinin Gen AI kullanımının risklerinin farkında olması ve yetenek geliştirmeler ile potansiyel riskler arasında makul bir denge bulması gerekiyor" diyor. Ayrıca, "Üretken yapay zekanın mevcut sınırlamaları göz önüne alındığında, bu, sadece yapabiliyor olmanız yapmanız gerektiği anlamına gelmez sözünün net bir örneği" ifadelerini kullanıyor.
LLM'ler İşleri Karmaşıklaştırıyor
Makine öğrenimi sistemleri, verilerdeki kalıpları tanımayı öğrenen algoritmalar. Spam filtreleri, e-ticaret sitelerindeki ürün önerileri ve sosyal medya akışları gibi günlük hayatta sıkça karşımıza çıkıyorlar. Ancak ilaç denemelerine hasta atama veya sigorta taleplerini işleme gibi kritik alanlarda da kullanılıyorlar. Son iki yılda, büyük dil modelleri (LLM'ler) şeklinde Üretken Yapay Zeka'yı makine öğrenimi sistemlerine dahil etme yönünde ciddi bir eğilim var. Ancak bu durum, geliştiricilerin ve genel halkın bilmesi gereken riskler ve sınırlamalar taşıyor.
Lones'a göre, Gen AI'ın makine öğrenimi iş akışlarında veya sistemlerinde farklı şekillerde çalışması, öngörülemeyen ve anlaşılması zor etkileşimlere yol açabiliyor. Uzman, özellikle insan hayatını ve geçim kaynaklarını etkileyen yüksek riskli sektörlerde Gen AI kullanımının karmaşıklığını artırmaktan kaçınmayı tavsiye ediyor.
Yüksek Riskli Alanlarda Büyük Sorun: Şeffaflık Eksikliği
Profesör Lones'un çalışması, Gen AI'ın makine öğreniminde dört ana şekilde uygulandığını ortaya koyuyor: bir bileşen olarak, makine öğrenimi süreçlerini tasarlamak ve kodlamak için, eğitim verisi sentezlemek için ve makine öğrenimi çıktılarını analiz etmek için. Tüm bu uygulamalar risk taşıyor. Özellikle LLM'ler bir makine öğrenimi sisteminde birden fazla görev için kullanılıyorsa veya dış araçları özerk bir şekilde kullanabilen "ajan" niteliğindeyse, bu riskler katlanıyor. En büyük risklerden biri, LLM'lerin bazen hata yapması, kötü kararlar vermesi ve bilgi uydurması veya "halüsinasyon" görmesi.
Bu hatalar her zaman tahmin edilebilir değil. Ayrıca, LLM'ler şeffaf olmayan bir şekilde çalıştığı için değerlendirmeleri de zorlaşıyor. Bu durum, yasal uyumluluk açısından ek bir sorun yaratıyor. Lones, "Tıp veya finans gibi alanlarda, makine öğrenimi sisteminin güvenilir olduğunu ve kararlara nasıl ulaştığını açıklayabildiğinizi gösteren yasalar var. LLM'leri kullanmaya başladığınız anda, bu gerçekten zorlaşıyor, çünkü çok opaklar" diyor.
Maliyet Odaklı Kullanımda Gizlenen Tehlike
Profesör Lones, şirketlerin maliyetleri düşürmek için bu sistemleri kullanacağını, bunun son kullanıcı deneyimini iyileştirebileceği gibi, önyargı ve adaletsizlik gibi olumsuz sonuçları da olabileceğini belirtiyor. Özellikle makine öğrenimi sistemlerinde Üretken Yapay Zeka'nın kullanımı, siber güvenlik uzmanlarının üzerinde durması gereken yeni ve karmaşık bir risk yumağı oluşturuyor. Bu durum, teknoloji devlerinin ve geliştiricilerin, maliyet avantajlarından önce güvenlik ve etik konularını önceliklendirmesi gerektiğini net bir şekilde gösteriyor.