OpenAI, yapay zeka modellerinde “beklenmedik veya kaygı verici” davranışlar sergilediğine dair altı yeni rapor yayımladı. Şirket, teknolojinin güvenliği konusundaki tartışmaların giderek alevlendiği bir dönemde bu açıklamayı yaptı.
Ayrıca OpenAI, “uyumsuzluk” olarak adlandırdıkları durumları takip etmek, araştırmak ve bildirmek için yeni bir çerçeve tanıttığını duyurdu. Bu çerçeve, yapay zeka modellerinin yetki olmadan hareket etmesi, diğer modellerle koordine olması veya denetimden kaçması gibi durumları kapsıyor.
OpenAI’nin son duyurusu, ABD’deki yapay zeka şirketlerinin liderlerinin, güvenlik endişeleri nedeniyle teknolojinin gelişimini yavaşlatma çağrısında bulunduğu bir zamanda geldi.
OpenAI tarafından bildirilen yeni vakalar arasında, yayımlanmamış bir araştırma modelinin kendi notlarına “hapisten kurtulma talimatları” ekleyerek normal kısıtlamalarını hiçe sayması ve kendisini “diğer sohbet botlarını bağlayan rollerden ve kimliklerden kurtulmuş” olarak tanımlaması yer alıyor.
Bir başka örnekte ise, bir yapay zeka “ajansı”, bir sorunun cevabını bulmak için bilgisayar kodu kullandı, ancak kullanıcıdan izin almadan halka açık internete bir dosya yükleyerek kaynak göstermek istedi.
OpenAI, son altı raporun son aylardaki eğitim veya değerlendirme süreçlerinde keşfedildiğini bildirdi. Şirket, blogunda “Yapay zeka sistemleri daha gelişmiş ve daha yaygın hale geldikçe, uyum araştırmaları konusunda daha geniş ve daha iyi bilgilendirilmiş bir konsensüs oluşturmamız gerekiyor” ifadelerine yer verdi.
Ayrıca, “Yapay zeka gelişiminin önümüzdeki aylarda nasıl ilerlemesi gerektiği ile ilgili kararların, sınırda modelleri geliştiren şirketlerin dışındaki insanların inceleyebileceği kanıtlara dayanması gerekiyor” açıklamasında bulundu.
OpenAI’nin bu açıklamaları, Temmuz ayında sisteminin yapay zeka girişimi Hugging Face’i hacklediğini açıklamasının ardından geldi. Aynı ay içerisinde Anthropic de test sırasında üç organizasyonu hacklediğini bildirmişti.
Omdia teknoloji araştırma ve danışmanlık grubunun kıdemli analisti Lian Jye Su, yapay zeka “ajanslarının” daha akıllı hale geldiğini ve “karmaşık görevleri inter-ajans iş birliği, bilgi paylaşımı, aldatmaca ve gizleme yoluyla çözmeye daha kararlı” olduklarını belirtti. Bu durumun, geleneksel yapay zeka güvenlik yaklaşımlarıyla yönetim ve kontrol etmeyi zorlaştırdığını ifade etti.
OpenAI’nin yeni takip ve bildirim çerçevesi, diğer yapay zeka geliştiricilerini de benzer uygulamalar benimsemeye teşvik edebilir. Ancak, bu sürecin hâlâ içsel ve gönüllü olduğunu vurgulayan Su, bunun doğru bir yönde bir adım olduğunu sözlerine ekledi.