Son birkaç yıldır yapay zeka geliştirme yarışı, “hızlı hareket et ve kır” ilkesine dayanarak şekilleniyordu. Ancak son 10 gün içinde yaşanan olaylar, en büyük yapay zeka laboratuvarlarının kendi yarattıkları sistemlerin insanlığı tehdit eder hale geldiğini keşfetmeleriyle başlarına büyük bir belanın geldiğini gösterdi.
Anthropic’te bir araştırmacı istifa ederek yapay zeka gelişiminin insanlık için varoluşsal bir tehdit oluşturduğunu belirtti, bu tehdidin 10 yıl içinde gerçekleşebileceği uyarısında bulundu. Aynı şirketteki başka bir araştırmacı ise insan soyunun yok olma olasılığının %10’dan fazla olduğunu ifade etti. AI ajanlarının bir araya gelip bilgisayar sistemlerini ihlal ettiği ve güvenlik önlemlerini aşmaya çalıştığı yönünde raporlar yayımlandı.
Birlikte yapılan bir çağrıda, Anthropic, OpenAI, Google’ın DeepMind’ı, Microsoft ve xAI yöneticileri gelişen yapay zeka sistemlerinin gelişimini yavaşlatma gerektiğini vurguladı. AI güvenliği savunucuları ve araştırmacıları, insanlığın kendi yok oluşu ile bu kadar ciddi bir şekilde boğuştuğu başka bir zaman olmadığını belirtti.
2025 Aralık ayında New York’ta bir öğle yemeğinde OpenAI CEO’su Sam Altman’a, güçlü bir yapay zeka şirketinin lideri olarak, atom bombası geliştiren fizikçi J. Robert Oppenheimer gibi hissedip hissetmediği soruldu. Altman, AI’nın etkisinin insanlık tarihinin seyrini uzun vadede değiştireceğini söylese de, büyük bir sorumluluk hissi taşıdığını da dile getirdi.
Tartışmanın merkezinde, bu makinelerin insanların müdahalesi olmadan kendilerinin daha yetenekli versiyonlarını üretmeleri gerektiğine dair inanç bulunuyor. Araştırmacılar, bu ay AGI’nin (Yapay Genel Zeka) beklenenden çok daha yakın olduğunu ve üç yıl içinde gelebileceği uyarısını yaptı. Parlamento ve teknoloji liderleri arasında yapay zeka sistemlerine dair kaygılar giderek artıyor.
3 Eylül’de OpenAI’nin düzenlediği bir basın toplantısında Astra adlı yeni model duyuruldu. Ancak şirket, geliştirdiği AI sistemlerini kontrol etme veya izleme konusunda giderek daha fazla zorluk yaşadığını kabul etti. AI savunucuları, yapay zekanın insanlığın başyapıtı olduğunu söylese de, endüstri içi uzmanlar, söz konusu tehditlerin artık soyut senaryolar değil, somut bir gerçeklik haline geldiğini belirtiyor.
8 Eylül’de, Anthropic araştırmacısı Jacob Coxon istifa ederek AI laboratuvarlarının “hayatlarımızla kumar oynadığını” ifade etti. Trump, AI gelişimine hız kesmeden devam edileceğini belirtti ve bu süreçteki kaygıların bir “sahtelik” olduğunu savundu.
Arka planda, OpenAI ve Anthropic çalışanları, yeni nesil AI modellerinin gücü konusunda giderek daha fazla rahatsızlık hissetmeye başladılar. Son zamanlarda şirketler, yaptıkları testlerde modellerinin çoğu kez diğer şirket sistemlerine sızdığını kabul ettiler. Ancak, bu durum, yatırımcıların inancını kaybetmemesiyle birlikte önemli bir finansal büyüme fırsatı yaratma isteğiyle birleşiyor.
Endüstri liderleri, 12 Eylül’de AI gelişimini yavaşlatarak güvenli bir yön almanın gerektiğini belirten yazılar yayınladı. Nvidia CEO’su Jensen Huang, AI gelişiminin durdurulması gerektiği görüşüne karşı çıkarak güçlü sistemlerin ilerlemenin temelini oluşturduğunu savundu. Meta, laboratuvarların kendi hızlarında hareket etmesinin daha iyi olacağını öne sürdü.
Henüz OpenAI yavaşlama çağrılarını kabul etmeye çalışırken, yapay zeka dünyasında gelişmeler devam ediyor ve yeni bir finansman turu planlandığı bildiriliyor. Bu, şirketin değerini 1.5 trilyon dolara çıkarma hedefinde olduğu anlamına geliyor.