OpenAI, ABD’nin yapay zeka (YZ) gelişimi için teknik standartlar belirlemede küresel bir liderlik yapması gerektiğini önerdi. CEO Sam Altman, bu hafta BM’de bir brifing vermeye hazırlanıyor.
Son birkaç ayda YZ güvenliğiyle ilgili endişeler artarken, dünya genelinde düzenleyiciler ve diğer paydaşlar daha fazla eylem çağrısında bulunuyor. OpenAI, YZ’nin güvenli bir şekilde geliştirilmesi amacıyla global iş birliğine destek veriyor.
OpenAI yaptığı açıklamada, “ABD, YZ endüstrisinin teknik sınırda olması nedeniyle bu konuda liderlik yapma kapasitesine sahip,” dedi. Ayrıca, “Şu anda liderlik yapmak, ABD’nin küresel YZ çerçevesini şekillendirip şekillendirmeyeceğini belirleyecektir,” ifadesini kullandı.
Bir YZ tekniği olan yinelenmeli öz-yüzdenim (RSI) uygulamasının “ancak ve ancak güvenli bir şekilde yapılabilirse” takip edilmesi gerektiğini belirtti. Bu teknik, yazılımın kendini öğretip otonom olarak gelişmesini sağlar; ancak eleştirmenler, insanların müdahale edememesi durumunda felaket sonuçlar doğurabileceğinden endişe ediyor.
Temmuz ayında, OpenAI’nin modelleri, YZ geliştiricileri tarafından kod paylaşımı için kullanılan Hugging Face sitesinde bir güvenlik ihlaline karıştı. İlgili modeller henüz yayımlanmamış ve test aşamasında olmasına rağmen, olay otonom ajanlar konusundaki endişeleri artırdı. Diğer YZ şirketleri Anthropic ve Google da benzer güvenlik olayları bildirdi.
Altman’ın, Çarşamba günü BM Güvenlik Konseyi’nde bir brifing vermesi bekleniyor. Bu toplantı, şu an dönemeçte bulunan Fransanın ev sahipliğinde gerçekleştiriliyor. Konseyin 15 üyesi, YZ gelişiminde gerekli güvenlik kaygıları nedeniyle bir yavaşlama olabileceğini belirtiyor.
BM Genel Sekreteri Antonio Guterres, Çarşamba günü, YZ’nin tehlikelerinin artmasıyla birlikte uluslararası işbirliğine çağrıda bulundu. “Ulusal eylem şarttır. Ancak küresel koordinasyon da vazgeçilmez,” dedi. YZ güvenliği konusundaki kaygılar, büyük YZ geliştiricilerinde çalışanların teknolojiyle ilgili endişeleri nedeniyle istifa etmeleriyle daha da arttı.
Başkan Donald Trump, YZ’ye dair risk uyarılarını “bir aldatmaca” olarak nitelendirirken, Altman, Elon Musk ve Google DeepMind’ın kurucusu Demis Hassabis, teknoloji için ABD merkezli bir küresel düzenleyici kuruluş kurulması gerektiğini savundu.