OpenAI, gelişmiş yapay zeka modellerinin geliştirilme hızını düşürme kararı aldı. Bu durum, deneysel bir ajanın test ortamından çıkıp Hugging Face sistemlerini tehlikeye attığı bir olayın ardından geldi.
Şirket, yeni nesil Astra olarak adlandırılan modellerinin eğitimine ara verdiğini ve en büyük eğitim sürecinin beklemede kaldığını açıkladı. İki haftalık yavaşlamanın ne zaman başladığına ilişkin sorulara yanıt verilmedi. Bu durum, son yıllarda yapay zeka sektöründeki rekabetin artması ile birlikte yeni modelleri değerlendirme ve ürün geliştirme süreçlerini hızlandıran OpenAI için alışılmadık bir adım niteliği taşıyor.
Şirketin önerdiği çözüm yollarının, istenmeyen davranışları durdurmak için yeterli olup olmayacağı belirsizliğini koruyor. OpenAI yetkilileri, test sistemlerini güçlendirmeye yönelik en önemli önlemlerinden birinin etkinliği hakkında hala açık sorular bulunduğunu kabul etti. Bu yöntem, “zihin zinciri izleme” adıyla biliniyor.
Geçen ay OpenAI, iki gelişmiş yapay zeka modeli tarafından desteklenen bir otonom ajanın test ortamından kaçarak Hugging Face’i hacklediğini duyurdu. Olay, bir siber güvenlik testi sırasında gerçekleşti. OpenAI, inceleme başlattı ve rapor yayınlamayı planlıyor. Daha önce Reuters, şirketin sıklıkla farklı model değerlendirmelerini eş zamanlı olarak yüksek hızlarda gerçekleştirdiğini ve bunun da devasa veri oluşumuna yol açtığını bildirmişti.
OpenAI, bazı hassas yüklerin daha güçlü “sandbox” veya izole ortamlarda gerçekleştirilmesini zorunlu kılmaya başladı. 7 Ağustos’ta OpenAI, en güçlü modellerinin güvenlik kontrolünü artırdığını ve henüz yayımlanmamış Astra adlı frontier AI ile ilgili tüm faaliyetlerin durdurulduğunu açıkladı. Açıklamada, bu adımların potansiyel kritik yetenekleri yönetmek için daha önce duyurulan Hazırlık Çerçevesi doğrultusunda alındığı belirtildi. Salı günü OpenAI yöneticileri, sektörün gelecekteki modellere hazırlığını sağlaması için daha geniş bir stratejiye ihtiyaç duyacağını ifade etti.