Anthropic, Claude modellerini biyolojik silah geliştirmek ve Rusya ile bağlantılı olduğu düşünülen siber casusluk faaliyetlerini yürütmek amacıyla kullanma girişimlerini engellediğini açıkladı. Bu bilgiyi AI devinin, Perşembe günü yayınladığı bir rapor duyurdu.
Şirket, son sekiz ayda teknolojisinin kötüye kullanıldığına dair belgelerde, Çinli rakiplerinin Claude’un yeteneklerini elde etme amaçlı hackleme girişimlerinde bulunduğunu da belirtti.
Rogue AI ajanları tarafından artan sayıda yasadışı hackleme girişimi ve endüstri içinden gelen teknolojinin riskleri konusundaki endişeler, alanın öncülerinin üzerindeki baskıyı artırarak daha fazla düzenleme ihtimalini gündeme getirdi.
İki Anthropic araştırmacısı, bu hafta hızla ilerleyen yapay zekanın yakın gelecekte insan ırkının neslinin tükenmesine yol açabileceği uyarısında bulundu.
Raporda Anthropic, yapay zeka modellerinin bir gün mevcut patojenleri daha tehlikeli hale getirmek ya da tamamen yeni patojenler oluşturmak için kullanılabileceği uzun zamandır endişe verici bir konu olduğunu vurguladı. Bilim insanlarının biyolojik silah geliştirmeyi destekleyen şekillerde modellerini kullandığına dair beş örnek sundu.
Bunlardan birinde, Anthropic tarafından desteklenmeyen bir bölgede çalışan bir araştırmacının, Claude’a erişmek için sanal özel sunucu altyapısı kullandığı ve haftalarca avian influenza memeli adaptasyon deneyleri planladığı bildirildi. Desteklenmeyen bölgeler arasında Rusya, Çin ve Kuzey Kore gibi ülkeler yer alıyor.
Yanlış kullanımı tespit ettikten sonra, bu tür araştırmalarda yer alan hesapları yasakladığını ve bulgularını önlem ve tehdit istihbaratı süreçlerine entegre ettiğini ifade etti. Anthropic, hangi kurumlar veya ülkeler olduğunu ya da hangi biyolojik maddelerin kullanıldığını belirtmedi.
Ayrıca, Claude’u kötüye kullanan “yeni tehdit aktörleri kategorileri” tanımladı. Bu, platformu “konvansiyonel silahların yazılımını geliştirmek, hedefleme ve kontrol sistemlerini oluşturmak” amacıyla kullanmak gibi faaliyetleri içerdi.
Raporda, Çin, Rusya ve Yemen’deki operatörlerin, silah tasarımı ve geliştirilmesine yönelik yazılımlar oluşturmak için Claude’u kullandıklarına dair olaylar detaylandırıldı.
Hızla gelişen Anthropic modellerinin yeni riskler doğurduğu belirtilirken, şirketin tehdit istihbaratı başkanı Jacob Klein, geçen yıl dron veya füzelerin yazılımlarını optimize etmenin mümkün olmadığını, oysa şimdi bunu yapan modellerin daha yetkin hale geldiğini ifade etti.
Anthropic, siber suçluların ve devlet destekli hackerların giderek daha fazla yapay zeka kullanarak siber saldırıları organize ettiğini ve yürüttüğünü tespit etti. Bunun insanların denetleyici rol aldığı, doğrudan müdahalede bulunmadıkları bir süreç olduğunu vurguladı.
Bir hacker grubunun, Ukrayna hükümeti, askeri ve diplomatik sektörlerine yönelik kimlik avı, otel Wi-Fi’larını ele geçirme ve WhatsApp hesaplarına erişim gibi işlemler gerçekleştirdiği, yapay zekayı her aşamada kullandığı belirtildi. Bu grubun, ABD hükümetinin daha önce Rusya’nın dış istihbarat servisi SVR ile bağlantılı olduğunu belirttiği Midnight Blizzard adlı tehdit aktörüne benzer bir ticaret tekniğine sahip olduğu belirtildi.
Ayrıca, bu grubun AI kullanarak, kötü amaçlı yazılımlarının güvenlik savunmaları tarafından tespit edildiğinde otomatik olarak vakit kaybetmeden kodu yeniden yazdığı da ifade edildi.
Raporda, Anthropic ayrıca, dünya çapında büyük şirketlere yönelik saldırılarla bağlantılı olan ShinyHunters kolektifinin iştirakleriyle bağlantılı etkinlikleri de tespit edip engellediğini duyurdu.
Anthropic, raporda yer alan dönemde, Alibaba, Moonshot, DeepSeek ve Xiaomi dahil toplam yedi Çin merkezli laboratuvardan gelen saldırıları etkisiz hale getirdiğini bildirdi.
Alibaba ile bağlantılı operatörlerin, Claude modellerinin yeteneklerini elde etmek ve Çinli teknoloji firması Qwen modellerini iyileştirmek için büyük bir “yasadışı damıtma” saldırısı düzenledikleri ifade edildi. Anthropic, Mayıs ile Temmuz 2026 arasında Alibaba’ya atfedilen 151 milyonun üzerinde değişim gözlemlediğini ve bu değişimlerin 3,500’den fazla sahte hesaptan günde 3 milyonun üzerine çıktığını belirtti.
Damıtma, daha büyük ve pahalı modellere ait çıktıları kullanarak daha küçük yapay zeka modellerinin eğitilmesi sürecini ifade ediyor.
Another misuse of its technology involved the Kimi chatbot creator Moonshot and DeepSeek, who allegedly routed live customer conversations, sometimes containing sensitive information, through Claude and used its responses as training data.
Çin Dışişleri Bakanlığı, Anthropic raporundan haberdar olmadığını ve hükümetin yapay zekanın iyi amaçlar için geliştirilmesi gerektiğini, aslında gerçeklerin çarpıtılmasına ve ülkeye yönelik iftiralara karşı olduğunu belirtti.