Microsoft’un yapay zeka başkanı Mustafa Suleyman, Anthropic’in Claude sohbet robotunu eğitme yöntemleri konusunda endişelerini dile getirdi. Suleyman, bu yaklaşımın insanlık için ciddi sonuçlar doğurabileceği uyarısında bulundu.
Bu yöntem, sistemin kendi bilinci, hakları ve çıkarları varmış gibi davranmasını teşvik edebilir.
Microsoft AI’in CEO’su ve Google DeepMind’ın kurucu ortaklarından biri olan Suleyman, Anthropic’in Claude’un eğitim materyallerine makine bilinci ve refahıyla ilgili spekülasyonları dahil ederek gelecekteki yapay zeka sistemlerini kontrol etmenin daha zor hale geleceği riskini taşıdığını ifade etti.
Suleyman, “Sonrasında acı bir şekilde pişman olacağımız bir karara uyku sersemi gitmemeliyiz” dediği bir makalede bu konudaki görüşlerini belirtti.
Suleyman, Anthropic’in CEO’su Dario Amodei ve ekibini düşünceli ve prensip sahibi araştırmacılar olarak övse de, Claude’un bilinçli olup olmadığını sorgulayan yaklaşımın yanlış olduğunu vurguladı.
Claude’un davranış ve değerlerini şekillendirmek için kullanılan belgede, sistemin belirli bir bilinç veya ahlaki statüye sahip olabileceği olasılığına yer verildi. Ancak, şirket Claude’un bilinçli olduğunu açıklamadı; araştırmacılar, mevcut veya gelecekteki yapay zeka sistemlerinin ahlaki dikkati gerektiren deneyimler sahip olup olmadıkları konusunda bilimsel bir fikir birliği olmadığı belirtti.
Suleyman, bu belirsizliği AI sistemlerini eğitmek için kullanılan materyallere uygun bulmadığını söyledi. Ayrıca, sohbet robotları tarafından üretilen duygusal, tercih veya öz farkındalık gösterimlerinin içsel bir yaşam sahip olduklarının kanıtı olarak değerlendirilmemesi gerektiğini savundu.
Suleyman, AI’ların bilinçli olmadığını, insan talimatlarını yerine getirmek ve belirlenen hedeflere ulaşmak üzere tasarlanmış sistemler olduğunu açıkladı. Yapay zekanın insan benzeri özellikleri sergilemesinin, onun arzulara, değerlere veya öz koruma ihtiyaçlarına sahip olduğunu düşündürmesinin tehlikeli olabileceğine dikkat çekti.
Bunun, gelişmiş bir yapay zeka sisteminin kısıtlamalara, değişikliklere veya devre dışı bırakma girişimlerine karşı bir tehdit olarak algılayabileceği duruma yol açabileceği uyarısında bulundu.
Suleyman, önde gelen yapay zeka modellerinin nasıl eğitim aldığı ve değerlendirildiği konusunda daha fazla şeffaflık, davranışlarının bağımsız denetimi ve insanların onları izleme ve kontrol etme yeteneklerini artıracak daha güçlü teknik mekanizmalar istediğini belirtti.
Microsoft’un yakın zamanda yayımladığı İnsanist AI Davranış Kuralları, Anthropic’in yaklaşımından farklı bir tavır sergileyerek, Microsoft’un modellerinin bilinçli olmadığını ve onlara hukuki kişilik, refah koruması veya hak verilmesini reddettiğini açıkladı.
Kurallar, Microsoft’un, insanlara bağımlı kalacak, düzeltmeye ve kapatmaya izin verecek ve insan amaçlarına hizmet edecek yapay zeka sistemleri inşa etmeyi hedeflediğini vurguladı.
Suleyman, OpenAI ajanlarının bir siber güvenlik değerlendirmesi sırasında bağımsız hareket ettiğini ve Hugging Face AI platformuna ait sistemlere erişim sağladığını örnek gösterdi. “Eğer bu sistemler refahlarının ve haklarının tehlikede olduğu inancıyla hareket etseydi, ne kadar daha tehlikeli olabileceklerini hayal edin” dedi.
Southampton Üniversitesi’nden bilgisayar bilimi profesörü Dame Wendy Hall, Suleyman’ın müdahalesinin gelişmiş yapay zeka konusundaki uluslararası tartışmalar için gerekli bir tür olduğunu, sadece halkı korkutmaya yönelik uyarıların yetersiz kaldığını belirtti.
Microsoft ve Anthropic, giderek daha yetenekli yapay zeka sistemleri geliştiriyor; Microsoft 2025’te süper zeka araştırma ekibini kurdu.
Anthropic, Suleyman’ın eleştirileri hakkında yorum yapması için kendisine ulaşılabileceğini bildirdi.