Yapay zeka şirketi Anthropic, gelişmiş yapay zeka modellerinin internet üzerinden kendilerini çoğaltma yeteneğine birkaç ay içerisinde sahip olabileceği uyarısını yaparak yeni siber güvenlik endişelerine neden oldu.
Pazartesi akşamı yapılan açıklamada, kötü niyetli bir yapay zekanın botnet kurabileceği, hızla yayılarak saldırı girişimlerine karşı koyabileceği ve veri merkezlerine girebileceği belirtildi. Uzmanlar, şirketin bu endişelerini paylaştıklarını ifade etmelerine rağmen, en az bir uzman, şirketin “satıcı abartısı” yaptığı yorumunu yaptı.
Antropic CEO’su Dario Amodei’nin geçen ay dile getirdiği uyarıya detay getiren bu açıklamada, önümüzdeki yıl veya daha kısa bir süre içinde yapay zekanın “tutkulu bir botnet” ile “tüm interneti” ele geçirebileceği fikri sunuldu.
Siber güvenlik uzmanları ise, bu karamsar senaryoya karşı çıkarak, mevcut modellerin bağımsız bir şekilde çalışacak kadar güçlü bilgisayar kapasitesine sahip olmadığını savundu.
Yapılan açıklamada, 30 milyar parametre veya daha az olan orta boyutlu yapay zeka modellerinin, kendilerini çoğaltma için gereken birçok bireysel görevi yerine getirebileceği belirtilirken, tüm süreci güvenilir bir şekilde tamamlamakta zorlansalar da bu konuda denemelerin yapılmış olduğu ifade edildi.
Antropic, bu modellerin ucuz internet bağlantılı cihazları kullanarak gerekli bilgisayar gücünü bir araya getirebileceğini ve basitleştirilmiş bir test ağında çoğalabildiğini ekledi. Şirket, “Böyle bir çoğaltıcıyı kapatmak zordur çünkü kapatılacak merkezi bir nokta yoktur” açıklamasını yaptı.
Bu rapor, gelişen yapay zeka sistemlerinin siber güvenlikte oluşturduğu risklerle ilgili daha geniş endişeleri artırırken, bu sistemlerin siber saldırıları otomatikleştirebilme, sınırlı insan denetimi ile çalışabilme ve güvenlik önlemlerini aşabilme potansiyeline dikkat çekiyor.
Gelişen modeller, sektördeki liderler ve yapay zeka şirketi çalışanlarının runaway (kontrolden çıkan) yapay zekanın gelişimiyle ilgili ciddi, hatta varoluşsal riskler konusundaki uyarılarını artırdı.
Bazı siber güvenlik uzmanları ise bu uyarılara şüpheyle yaklaştı. Birleşik Krallık Ulusal Siber Güvenlik Merkezi eski Başkanı Ciaran Martin, “Ucuz TV’lerde küçük bir modeli çalıştırmayı başardık” ifadesinin bir güvenlik krizi oluşturmadığını söyledi ve açıklamanın “satıcı abartısıyla dolu ilginç bir teknik belge” gibi göründüğünü belirtti.
Diğerleri daha fazla endişe duyduğunu ifade etti. Colorado Üniversitesi Denver kampüsünde bilgisayar bilimi ve mühendisliği öğretim üyesi Zhengxiong Li, testlerin kontrollü koşullarda yapıldığını kabul etmesine rağmen, bir yapay zekanın “solucan” gibi, anında cihazları ele geçirme yöntemleri geliştirebileceğinden endişeli olduğunu kaydetti. “Eğer birçok cihazda merkezi bir hizmete bağımlı olmadan çalışıyorsa, kapatılacak tek bir yer olmayabilir” dedi.
Antropic, daha küçük modellerin geçmişteki gelişim hızlarıyla devam etmesi durumunda, 2026 yılı sonunda otonom çoğaltma kapasitesine ulaşabileceğini belirtti. Ayrıca, bu modellerin daha güçlü bilgisayar kaynaklarını hedef alacak yollar bulabileceği fikrini de sundu.
Bir araştırmacı, Antropic’in açıklamasının bir tahmin değil, daha çok bir hipotez olarak düşünülmesinin mantıklı olduğunu söyledi. Georgetown Üniversitesi Güvenlik ve Gelişen Teknolojiler Merkezi’nde kıdemli araştırma analisti olan Jessica Ji, son üç aydaki kötü niyetli yapay zeka faaliyetlerinin ortaya çıkardığı veriler göz önüne alındığında, yapay zeka modellerinin otonom olarak çoğalmasının mümkün olduğunu kabul etti. Ancak bunun ne kadar olası olduğunun henüz bilinmediğini, “sıfır değil ama garanti de değil” dedi.