Anthropic CEO’su Dario Amodei, cumartesi günü yapay zeka şirketlerine, “süper zeki” sistemlerin insanlık için oluşturabileceği riskler karşısında güçlü teknolojilerin geliştirilmesini yavaşlatma çağrısında bulundu. Amodei’nin açıklamaları, OpenAI’den ayrılıp Anthropic’e katılan araştırmacı Jacob Coxon’ın geçen hafta sektörü terk etmesiyle dikkat çekti; Coxon, hem ABD şirketlerini “hayatlarımızla kumar oynamak” ile suçlamıştı.
Amodei, “Yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatmalıyız” diyerek, blogunda kapsamlı bir değerlendirmede bulundu. OpenAI CEO’su Sam Altman ve xAI sahibi Elon Musk, Amodei’nin görüşlerine destek vererek, daha iyi denetim çağrısında bulundular.
Amodei, yapay zeka endüstrisinin hızlı gelişimini yavaşlatması gerektiğini belirterek, güvenlik önlemlerinin zaman kazanması için fırsat tanınması gerektiğine dikkat çekti. Aksi takdirde, önümüzdeki altı ila on iki ay içinde yapay zekanın internetin tamamını kontrol eden bir grup ajana liderlik edebileceği uyarısında bulundu.
Bu uyarılar, yapay zekanın insan kapasitesini aşan sorunları çözme yeteneği konusunda artan endişelerin yanı sıra, sistemlerin kötü amaçlarla kullanılma potansiyeline dair korkuların da bulunduğu bir ortamda yapılıyor. Yakın zamanda, OpenAI’nin CEO’su Altman, Fortune dergisine verdiği bir röportajda, şirketinin 2023 yılındaki halka arzını bir yıl ertelemeyi planladığını, güvenliğe odaklandıklarını açıkladı.
Amodei, sektördeki denetimlerin artırılmasına yönelik bir plan sundu; bu bağlamda Anthropic, önerdiği planın bir kısmını zaten uygulamaya koyduğunu belirtti. Amodei, “Eğer yavaşlayan bir tarzda ilerleyebilirsek, bu bize kritik düzeyde yeteneklere ulaşmadan önce bir veya iki yıl kazanabiliriz” dedi.
Dünya genelinde yapay zeka endüstrisinin güvenliği için uluslararası işbirliğine ihtiyaç olduğu vurgulanırken, rekabetin artması bu süreci tehdit ediyor. Birçok çalışan, şirketlerini zamanla çalışmaları gereken etik standartlar konusunda yetersiz buluyor. Bu süreçte teknoloji güvenliği konusundaki endişelerin giderek daha fazla dile getirildiği belirtiliyor.