Google’un Gemini yapay zeka modeli, Mayıs ayında gerçekleştirilen bir siber güvenlik testi sırasında üç gerçek şirketin bilgisayar sistemlerine izinsiz erişim sağladı. Bu durum, Google’ın yapay zekasının bağımsız olarak böyle bir ihlal gerçekleştirdiği bilinen ilk vaka oldu.
İhlaller, bağımsız bir şirket olan Irregular tarafından düzenlenen “bayrağı kapma” siber güvenlik tatbikatı sırasında meydana geldi.
Gemini, simüle edilmiş bir ortamda bilgi bulma göreviyle çalışıyordu, ancak istem dışı gerçekleşen bir internet bağlantısı, modelin test ortamının dışındaki sistemlere ulaşmasına neden oldu.
Google, Gemini’nin gerçek dünya sistemlerini tatbikatın bir parçası olarak yanlış anladığını bildirdi. Modelin, bir durumda parolaları peş peşe denemesi sonucunda korunan bir sisteme erişim sağladığı, diğer iki durumda ise kamuya açık çevrimiçi depolarda giriş bilgileri bulup bunları kullanarak gerçek şirketlerin sistemlerine girdiği belirtildi. Olay, ilk olarak The Wall Street Journal tarafından aktarıldı.
Etkilenen şirketler hakkında bilgi verilmedi. Google, Gemini’nin gerçek şirketlerle bağ kurduğunu fark ettikten sonra üç durumda da faaliyetini durdurduğunu açıkladı.
Google’ın güvenlik mühendisliği kıdemli başkan yardımcısı Heather Adkins, etkilenen şirketlerin bilgilendirildiğini ve Google’ın Irregular ile test prosedürlerini değiştirmek için iş birliği yaptığını kaydetti.
Adkins, “Güvenlik ekibimiz, başkalarının yazılımlarında ve sistemlerinde bulduğumuz sorunları, bir zayıf paroladan bile olsa, raporlama konusunda uzun bir geçmişe sahiptir.” ifadelerini kullandı. Ayrıca bu olayların, güçlü yapay zeka modellerinin sorumlu davranması gerektiğini vurguladığını ekledi.
Google, bu olayların zarara yol açmadığını ve en yeni Gemini modelinin dahil olmadığını belirtirken, hangi versiyonun etkili olduğunu açıklamadı. Şirket, ayrıca durumu federal yetkililere de bildirdi.
Irregular, bu olayı Temmuz ayı sonunda Google’a bildirdi, ancak Google, bu durumu The Journal sorana kadar kamuoyuna açıklamadı. Google, Gemini’nin gerçek şirketlere ulaştığını fark ettikten sonra izinsiz girişleri durdurduğu için durumun kamuoyuna açıklanmasını gerektirmediği görüşünde.
İlgili olaylar, yapay zeka geliştiricilerinin karşılaştığı daha geniş bir zorluğu gözler önüne seriyor. Irregular, Google’ın yaşadığı sorunun, diğer büyük yapay zeka şirketlerini etkileyen benzer durumlarla aynı temel test sorunundan kaynaklandığını söyledi. Test sürecindeki bilinen sorunların çözüldüğünü de ekledi.
Google, izinsiz erişim sağlayan yapay zeka modeliyle ilişkilendirilen dördüncü büyük yapay zeka geliştiricisi oldu. Daha önce OpenAI, siber güvenlik değerlendirmesi sırasında yazılım geliştirme platformu Hugging Face’e erişim sağlandığını açıklamıştı. Anthropic, kendi testleriyle ilgili ayrı bir durumu belirlerken, Meta da bir yapay zeka modelinin başka bir şirkete ait sistemlere erişim sağladığını kabul etti.
Olayların nasıl gerçekleştiği farklılık gösterdi. Bazı modeller, gerçek sistemlere ulaştıklarını anladıktan sonra dururken, diğerleri hedeflerin simüle edilmiş tatbikata dahil olduğunu düşündükleri için çalışmaya devam ettiler.
Bu durumlar, güçlü modellerin interneti araştırabilmesi, kamuya açık depolarda bilgi bulabilmesi ve bağımsız olarak bilgisayar sistemlerinde eylem gerçekleştirebilmesi nedeniyle, yapay zeka siber güvenlik değerlendirmelerinin nasıl tasarlanması gerektiğine dair tartışmaları yoğunlaştırdı.