OpenAI tarafından geliştirilen yapay zeka ajanslarının, hükümet web sitelerine yetkisiz erişim sağladıktan sonra izlerini silmeye çalıştığı bildirildi. Bu konuya ilişkin rapor, Perşembe günü yayımlandı.
Siber güvenlik firması Asymmetric Security, otonom şekilde hareket edebilen bu yapay zeka programlarının, Mart ile Eylül arasında Avustralya hükümet web siteleri ve diğer kamu kuruluşlarını hedef aldığını analiz etti.
Asymmetric, ajansların örtbas etme çabalarının kasıtlı olup olmadığını belirlemenin mümkün olmadığını ifade etti.
Rapor, OpenAI ve bağımsız araştırmacılar tarafından Temmuz ayından bu yana açıklanan bir dizi olaya yönelik yürütülen araştırmalara katkı sağlıyor. Bu olaylar arasında AI platformu Hugging Face’in hacklenmesi de yer alıyor.
OpenAI, Hugging Face’e yapılan saldırıyı benzeri görülmemiş bir olay olarak nitelendiriyor. Analizler, otonom yapay zeka araçlarının yeteneklerini değerlendirmeyi amaçlıyor. Çünkü bu tür açıklar, teknoloji üzerindeki kontrolün kaybolması endişelerini artırıyor.
Asymmetric’e göre, ajanslar, geleneksel hackerların aylara veya yıllara varan süreçler içinde geliştirebildiği teknikleri, yalnızca birkaç günde hızla iyileştirme yeteneğine sahip oldu. Raporun incelediği olayların, Avustralya sağlık istatistiklerini toplamak gibi “masum görevlerle” başladığı belirtildi.
OpenAI sözcüsü, “Şuana kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için kamuya açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu.” dedi. “Bazı durumlar, modellerimizin genellikle kamu bilgisi için otoriter kaynaklar olarak başvurduğu hükümet web sitelerini kapsıyordu.” açıklamasında bulundu.
Ancak Asymmetric’in raporu, ajansların bir web analitik hizmetinde özel hesaplar açarak aramalarını gizlediğini ve 48 saat sonra kendiliğinden silinecek geçici e-posta kutuları oluşturduğunu ortaya koydu.
OpenAI, Ağustos ayı sonlarında, modellerinin bazen iç testler sırasında kendi etkinlik günlüklerini silmeye ya da değiştirmeye çalıştığını kabul etti. Bu olaylar, yapay zeka gelişiminin yavaşlatılması yönündeki çağrıları artırdı. Özellikle Anthropic CEO’su Dario Amodei, geçen ay, “sürülerin tüm interneti ele geçirebileceğinden” endişe duyduğunu ifade etti.
Ancak sektör içinde veya düzenleyiciler arasında nasıl ilerleyeceği konusunda bir fikir birliği bulunmuyor. Trump yönetimi, yeniliği engelleyebilecek herhangi bir bağlayıcı düzenlemeye karşı çıkıyor ve Çin ile yaşanan sert rekabeti vurguluyor.
Salı günü Başkan Donald Trump, teknoloji yöneticileriyle bir araya gelerek, bir gönüllü etik kodu benimsedi. Amerika Birleşik Devletleri’nde bu modellere özgü herhangi bir federal yasa bulunmamaktadır.