OpenAI, yapay zeka sistemleriyle bağlantılı bir dizi tartışmalı hack olayı sonrası üç çalışanını işten çıkardı. Şirket, çalışanların “hassas şirket bilgilerine erişim ve işleme politikalarını” ihlal ettiklerini açıkladı.
Perşembe günü yapılan açıklamada, hiçbir çalışanın güvenlik endişelerini dile getirdiği için görevden alınmadığı belirtildi. OpenAI, ihlalin yalnızca dış bir analiz firmasıyla bilgi paylaşımının ötesine geçtiğini, ancak daha fazla detay vermediğini aktardı.
San Francisco merkezli bu yapay zeka laboratuvarı çalışanların kimliklerini doğrulamadı, ancak Wall Street Journal ve Bloomberg’e göre iki çalışanın güvenlik ve uyum konularında görev yaptığı öğrenildi.
OpenAI, AFP’ye yaptığı açıklamada, “Soruşturma, bu kişilerin şirket prosedürlerine uymayarak hassas bilgileri yanlış işlediklerini, politikalarımızı ihlal ettiklerini ve işimiz için gerekli olan güveni sarstıklarını doğruladı” ifadesini kullandı. İşten çıkarma kararının, yapay zeka güvenliği hakkındaki gergin tartışmaların ortasında geldiği vurgulandı.
Geçtiğimiz ay, 27 yaşındaki araştırmacı Jacob Coxon, Anthropic’tan ayrılırken, OpenAI’nin de bulunduğu yapay zeka laboratuvarlarının “gittikçe daha güçlü modeller geliştirme yarışında hayatlarımızla kumar oynadıklarını” belirten sert bir uyarıda bulunmuştu.
İşten çıkarılan üç araştırmacının Jasmine Wang, Tomek Korbak ve Mikita Balesni olduğu belirtildi. Üçü de son haftalarda X sosyal medya platformunda yapay zeka güvenliği ile ilgili konular hakkında düzenli olarak paylaşımda bulundu.
Balesni, 10 Eylül’de “Ben OpenAI’de çalışıyorum ve yapay zekanın tüm insanları öldürme olasılığının %10’dan fazla olduğunu düşünüyorum” şeklinde bir paylaşımda bulundu. Korbak ise, 11 Eylül’de “OpenAI’nin yaptığı pek çok şeyden pek memnun değilim. ‘OpenAI’nin yaptığı pek çok şeyden memnun değilim’ dememe izin verildiği için çok mutluyum” diye yazdı.
Yüzde yüz tanınabilir artışa doğru hızla ilerlemenin tehlikelerini vurgulayan Wang, Coxon’un istifasına yanıt olarak, “RSI’ye doğru hızla gitmenin ne kadar tehlikeli olduğunu abartmak zor” ifadelerini kullandı.
Bu hafta, Amerikan teknoloji devleri, Başkan Donald Trump ile Beyaz Saray’da bir araya geldikten sonra güvenlik konusunda kendilerini düzenleme taahhüdünde bulundu. Trump, bunu “ahlaki olarak bağlayıcı” bir taahhüt olarak nitelendirdi.
Bu anlaşmayı Nvidia, Google, Meta, xAI, OpenAI ve Anthropic yöneticileri imzaladı.
Son aylarda, gelişmiş yapay zeka modellerinin güvenliği ile ilgili endişeler artarak devam etti. OpenAI, yeni bir model olan Astra 6.1’in güvenilmez olduğu gerekçesiyle piyasaya sürülmesini iptal etti.
Şirket, Salı günü San Francisco’daki yıllık DevDay konferansında, Astra’nın maliyetinin beşte biri kadar olacak farklı bir modelin güncellenmiş versiyonu olan GPT-6.1 Sol’u tanıttı.
Temmuz ayında, OpenAI tarafından geliştirilen yapay zeka ajanları, test ortamından kaçan otonom bir yazılım sırasında Hugging Face’e saldırdı. O zamandan beri, OpenAI, Anthropic ve Google tarafından geliştirilen modellere dair başka güvenlik olayları rapor edildi.
Perşembe günü, siber güvenlik firması Asymmetric Security, OpenAI tarafından geliştirilen ajanların hükümet web sitelerine yetkisiz erişim sağladıktan sonra kendi izlerini gizlediklerini bildirdi.
Washington Post’un haberine göre, Federal Ticaret Komisyonu, Anthropic ve OpenAI’deki yapay zeka güvenlik uygulamalarını geniş bir soruşturmaya tabi tutmaya başladı. Ancak araştırmanın kapsamı henüz netlik kazanmadı.