Yıllardır yapay zeka (YZ) araştırmacıları, bu teknolojinin insanlığı tehdit etme potansiyeli hakkında uyarılarda bulunuyor. YZ botlarının, kontrol edilemeyen bir hastalık tasarlayabileceği, nükleer savaş başlatabileceği veya yeryüzünü kağıt klipsi fabrikalarına dönüştürebileceği gibi felaket senaryoları gündemde.
YZ endüstrisi içindeki tartışmalar, birkaç yöneticinin güvenlik gerekçeleriyle teknoloji gelişimini yavaşlatmayı savunmasının ardından daha da alevlendi. İnsanların teknoloji üzerindeki kontrolünü kaybetme olasılığına dair yapılan uyarılara rağmen, bazıları YZ şirketlerinin dile getirdiği en kötü senaryoların, gerçeklikten çok kendi çalışmalarının önemini doğrulama amacı taşıdığını düşünüyor.
SentinelOne’dan araştırmacı Juan Andrés Guerrero-Saade, “Bu argümanlar gerçekte pek sağlam değil. Bilim kurgu gibi ve belirli bir çocukça düşünme tarzını cezbetmesi nedeniyle araştırma laboratuvarları için çok çekici” dedi. Ancak, YZ’nin inanılmaz yetenekleri nedeniyle teknoloji riskleri konusunda endişeler artmaya başladı.
Anthropic’tan Jacob Coxon, şirketten istifa ettikten sonra yaptığı açıklamada, YZ’nin insanlığı sona erdirmesi için daha etkili bir iletişim çalışması yapması gerektiğini belirtti. YZ’nin insanları nasıl yok edebileceğine dair belli senaryoları anlatmanın zor olduğunu ifade eden Coxon, bazı olasılıkları sıraladı.