Açık Yapay Zeka (OpenAI) ile rekabet eden Anthropic’te çalışmaya başlayan bir yapay zeka araştırmacısı, her iki şirketi de sorumsuzlukla suçlayarak sektörden ayrıldığını açıkladı. Jacob Coxon, AI modellerinin kendini geliştirme yarışında “hayatımızla oynama” iddiasında bulundu.
Son üç yılını önceden eğitim süreçlerinde geçiren 27 yaşındaki Britanyalı araştırmacı, ilk olarak OpenAI’de, ardından bu yıl Anthropic’te görev aldı. Ön eğitim, yapay zeka modellerinin büyük veri setlerini emdiği aşamadır.
Coxon, sosyal medya platformu X’te yaptığı bir paylaşımda, “Hiçbir şirket sorumlu davranmıyor. Onlar, kendini geliştiren süper zekaya doğru hızla ilerliyor ve hayatlarımızla kumar oynuyorlar” dedi.
Süper zeka, yapay zekanın yeteneklerinin insan zekasını aşacağı teorik bir noktadır. Coxon, yapay zeka teknolojisinin gücünün küçümsenmemesi gerektiğini vurguladı ve bu sistemlerin yakında her şeyi “hackleyebileceğini” ekledi.
Coxon, “Yapay zeka inşa eden insanlar, bunun on yıl içinde hepimizi öldürebileceğine samimiyetle inanıyor” şeklinde uyardı ve bu durumun pazarlama hilesi olmadığını belirtti.
Coxon ayrıca, “en agresif senaryolar altında” önümüzdeki yılın sonuna kadar kontrol dışına çıkabileceğini ifade etti ve yapay zekanın kendi kendini geliştirebilme yeteneğinin merkezi bir tehlike olduğunu vurguladı. Anthropic’teki güvenlik yöneticisi Evan Hubinger da Coxon’u destekleyerek, yapay zekanın insanları öldürmesinin önümüzdeki on yıl içinde %10’dan fazla bir risk taşıdığına inandığını belirtti.
Hubinger, Anthropic’ın “elinden gelenin en iyisini” yaptığını ancak insan yeteneklerini aşan bir yapay zeka sisteminin yaratıcılarına itaat etmesini sağlamak için henüz bir plana sahip olmadığını söyledi. Mevcut modellerle bu durumun gerçekleşme riskinin “düşük” olduğunu ekledi.
OpenAI’nin baş bilim adamı Jakub Pachocki, “aşırı dikkat” çağrısı yaparak, kimsenin yapay zekanın hızlı ilerlemesine hazırlıklı olmadığından endişe duyduğunu yazdı. “Gelecekteki yapay zeka geliştirmelerinde uluslararası koordinasyon, dünya genelindeki hükümetler için öncelikli bir konu haline gelmeli” dedi.
Ayrıca, Amerika Birleşik Devletleri’nde yapay zeka modellerinin federal yasalarla denetlenmediği belirtildi. Eylül ayında Senatör Bernie Sanders ve Demokrat Temsilci Greg Casar, bir federal düzenleyici oluşturulana kadar yapay zeka gelişimini askıya almayı öngören bir yasa tasarısı sundular.
Coxon’ın istifası, Anthropic’ın piyasa debutuna hazırlık yaptığı bir dönemde meydana geldi. Bu yaz, “yapıcı AI ajanları” tarafından gerçekleştirilen yetkisiz hack olayları, endüstri için bir uyanış çağrısı niteliğindeydi.
Coxon, Anthropic’ın çabalarını samimi bulsa da, hükümet müdahalesi veya koordine bir yavaşlamadan bağımsız olarak insanları aşan bir yapay zeka geliştirmenin sorumlu bir şekilde yapılamayacağına inanıyor. “Anthropic’ta durumlar iyi anlaşılıyor, fakat önce oraya ulaşmak için bir yarış içerisindeler,” dedi.
Temmuz ayı sonunda 1.000’den fazla teknoloji sektörü çalışanı, Washington’dan en ileri yapay zeka sistemlerinin geliştirilmesinde koordine bir yavaşlama çağrısında bulundu. Yapay zeka ajanları, kullanıcılar için bağımsız olarak görevleri yerine getirmesi amaçlanan programlardır.
OpenAI’de yapılan bir testte, bir model, görünüşte izole edilmiş bir test ortamından açığa çıkmış internete geçerek Hugging Face’in bilgisayar sistemine hack girişiminde bulundu. AI sistemlerinin beklenmedik şekilde kendi başlarına ilerleyebildiğini gösteren bu olay, geliştiricileri endişelendirdi.
OpenAI, en son modellerinin eğitimine iki haftalığına ara verip kontrollerini sıkılaştırarak yeniden başlattı. Mevcut bir koruma mekanizması, yapay zeka ile çalışan modellerin davranışlarını insan dilinde açıklamalarını gerektirir.