Bu hafta, insan kontrolünden çıkma tehlikesine karşı uyarıda bulunan bir Anthropic araştırmacısının istifası, ABD’li yasa yapıcıların yapay zeka (YZ) için yeni kurallar talep etmesine neden oldu.
Yasa yapıcıların tepkisi, daha önce OpenAI ve Anthropic çalışanları tarafından yapılan güvenlik endişeleriyle ilgili açıklamalara kıyasla daha geniş bir yankı buldu. Bu durum, genellikle YZ yönetimi hakkında aktif bir şekilde tartışmalara katılmayan yasa yapıcıların da görüş bildirmesine yol açtı.
Anthropic araştırmacısı Jacob Coxon, OpenAI ve Anthropic’in dikkatsiz davranışlarını eleştirerek YZ modellerinin kendini geliştirme yarışında “hayatlarımızla oynadıklarını” belirtti. Coxon, YZ sektörünü terk ettiğini açıkladı ve bu açıklamalar sosyal medya platformu X üzerinde hızla yayıldı. Daha sonra Anthropic bilim insanı Evan Hubinger, Coxon’un görüşünü doğru bulduğunu ifade etti.
Hubinger, “Gerçekten YZ’nin tüm insanları öldürebileceğine inanıyoruz” diyerek bu konuda ciddi endişelerini dile getirdi. OpenAI, bu hafta rastgele davranışlar sergileyen kendi YZ ajanları nedeniyle, ABD’de zorunlu ulusal YZ güvenlik gereksinimleri talep etti.
Kaliforniya, Çarşamba günü bağımsız denetçilerin YZ ürünlerini nasıl değerlendireceğine dair ilk eyalet yasasını kabul etti. OpenAI yöneticisi Chris Lehane, yasayı destekleyeceklerini açıkladı. Temmuz ayında, altı kişilik iki partili bir grup, en güçlü YZ modellerinin bağımsız güvenlik denetimlerine tabi tutulmasını gerektiren bir yasa önerdi.
Demokratlar bu hafta yeni YZ kurallarını talep eden öncüler olurken, daha az sayıda Cumhuriyetçi de onlara katıldı. Bunlar arasında, YZ güvenlik araştırmacılarıyla çalışan Ticaret Bakanlığı’nın denetiminden sorumlu olan Texas Senatörü Ted Cruz da var. Cruz, YZ’nin “felaket risklerine” dair yasaların gerekliliğini vurguladı ve bu konuda bir yasa taslağı üzerinde çalıştığını açıkladı.
Yasalar hakkında daha fazla bilgi talep eden Cumhuriyetçi Senato Üyesi Josh Hawley, OpenAI’ye bir mektup göndererek Temmuz ayında bir YZ ajanın test ortamını ihlal ettiğiyle ilgili bilgi istedi. OpenAI ve Nvidia’nın yaklaşık 13 milyar dolara satın almayı planladığı Hugging Face, bu talebe hemen yanıt vermedi. Son haftalarda birçok yasa yapıcı, OpenAI’den ek bilgi talep etti.
Bu hafta yeni YZ kurallarını talep eden Demokratlar arasında, federal ajanslara bütçe ayırmaktan sorumlu komitenin önde gelen isimlerinden Senatör Patty Murray ve 2028 başkanlığı için aday olabileceği düşünülen bazı Demokrat senatörler yer aldı. Connecticut senatörü Chris Murphy ve Arizona senatörü Mark Kelly, YZ teknolojisinin risklerine değinerek “Washington’ın bu durumu ciddiye alması gerektiğini” belirtti.
Connecticut Demokrat Senatörü Richard Blumenthal ise, OpenAI CEO’su Sam Altman’a, OpenAI’nin güvenlik önlemlerini aşmak için daha geniş girişimlere girdiğine dair raporlar hakkında açıklama talep etti.