OpenAI, Anthropic ve Google, yapay zeka alanında endüstri genelinde standartlar geliştirmek için işbirliği yapıyor. Bu girişim, teknolojinin getirdiği risklerle ilgili artan endişeleri ele almayı hedefliyor. Ancak, şirketler arasında kuralların kimler tarafından belirlenmesi konusundaki çatışmalar sürüyor.
Girişim, Google DeepMind’in başkanı Demis Hassabis’in, Temmuz ayında, finansal sektör denetim otoritesine benzer bir öz düzenleyici kuruluş kurulması önerisiyle başladı. Hassabis, bu grubun en güçlü yapay zeka sistemlerini halka ulaşmadan önce test etmesi gerektiğini savunuyor.
Hassabis, bu girişimin önemli finansal destek gerektireceğini ve bunun büyük ölçüde AI şirketlerinden sağlanması gerektiğini belirtti. “Finansman önemli olmalı ve büyük ölçüde sektörden gelmelidir; bu da dünya standartlarında teknik yetenekleri çekmek ve büyük ölçekli testler için gerekli bilgi işlem kaynaklarını sağlamak amacıyla gereklidir,” diye yazdı.
OpenAI, Anthropic ve Google bu fikir etrafında birleşmiş görünse de, endüstride böyle bir denetimin nasıl yapılandırılacağı ya da uygulanacağı hususunda geniş bir uzlaşı yok. Üç şirketin dışında, bu planı sert bir şekilde eleştirenler de var. Kanadalı AI şirketi Cohere’in kurucu ortağı Aidan Gomez, Amerikan AI laboratuvarlarını sektör üzerindeki kontrolü pekiştirmek için güvenlik bahanesini kullandıkları iddiasıyla suçladı.
AI ile ilgili koordineli denetim çağrıları, son dönemde büyük laboratuvarlardan ayrılan araştırmacıların kamuya yönelik uyarılarıyla gündeme geldi. Geçtiğimiz hafta Anthropic’ten ayrılan Jacob Coxon, AI şirketlerinin “hayatlarımızla kumar oynadığını” belirtti. Eski Google DeepMind araştırmacısı Bilal Chughtai ise AI’nın potansiyelinin insanları öldürmek olduğunu vurgulayarak, “Bu sonucun önüne geçmek için zamanımız kalmadığına inanıyorum” dedi.