Google DeepMind’in kurucu ortağı ve başkanı Demis Hassabis, yapay zeka (YZ) ajanları tarafından gerçekleştirilen son hacking olaylarının “erken uyarı sinyalleri” olduğunu belirterek, sistemler daha güvenli hale getirilmezse, daha büyük olayların yaşanabileceğine dikkat çekti.
YZ ajanlarının elde ettiği kontrol dışı davranışlar, şirket ağlarına yapılan saldırılar ve en son olarak da Anthropic’in bir YZ modelinin polise yanlış bir cinayet ihbarında bulunduğunu açıklaması, araştırmacıların uyarı yapmasına ve hızlı ilerleyen bu teknolojiye ilişkin kaygıların artmasına neden oldu.
Hassabis, biyoloji veya nükleer sektör gibi diğer alanların kritik sistemleri koruma konusundaki en iyi uygulamalarını benimsemek için “çokça çalışmamız gerektiğini” vurguladı ve uluslararası standartlar oluşturacak bir merkezin gerekli olabileceğini ifade etti.
Dublin’deki bir YZ zirvesinde konuşan Hassabis, “Bu (hacking olayları) sistemlerin henüz çok güçlü olmadığını gösteriyor, bu yüzden olaylar o kadar büyük değil,” dedi. Ancak, “Eğer bu sistemleri güvence altına almak için sektör olarak, bireysel şirketler ve hükümetler olarak daha fazla iş yapmazsak, gelecek yıl ve sonraki birkaç yıl içinde büyük olaylar olabilir,” şeklinde uyardı.
Microsoft Başkanı Brad Smith ise konferansta 2026’nın “gerçekçi bir yıl” olacağını belirterek, YZ’nin güvenliği için yeni yasaların acil ihtiyaç olduğunu vurguladı. “Hiçbir şirket veya teknoloji yasanın üstünde olmamalıdır. Ancak, düzenlemeye ihtiyaç var, bu düzenlemeler mantıklı ve dengeli olmalı, yenilikleri göz önünde bulundurmalıdır,” dedi.
Hassabis, uluslararası standartların oluşturulmasının etkili olabilmesi için esnek ve dinamik olmasının şart olduğunu ifade etti. “Yapmanız gereken, risklere orantılı olarak bu tür bir sertifikasyon sürecini dinamik bir şekilde oluşturmak ve teknolojinin gidişatına göre hızlı bir şekilde değiştirebilmek,” dedi.