Yapay zekanın siber riskler üzerindeki etkisi küresel finans sistemi için en acil endişe kaynağı haline geldi. Finansal İstikrar Komitesi Başkanı Andrew Bailey, bu teknolojinin saldırıların hızını, ölçeğini ve ekonomik yapısını değiştirebileceğini belirtti.
Birçok ülkenin gelişmiş yapay zeka modellerinin kullanımı için gerekli sistemlere sahip olmadığını dile getiren Bailey, aynı zamanda İngiltere Merkez Bankası’nın da başkanlığını yürütüyor. Uyarı, G-20 maliye bakanları ve merkez bankası başkanlarıyla gerçekleştirilecek toplantılardan önce yazdığı bir mektupta yapıldı.
Bailey, finans sektörünün birkaç güçlü teknoloji sağlayıcısına olan bağımlılığının, piyasa genelindeki güveni sarsabileceğini ifade etti. Gelişmiş yapay zekanın siber güvenlik açıklarının keşfini hızlandırabileceği ve bu durumun test ve iyileştirme süreçlerinin güvenli bir şekilde uyum sağlayamaması durumunda operasyonel zorluklar yaratabileceği uyarısında bulundu.
Bailey, ABD yönetiminin Anthropic’in güçlü Mythos modelini kontrol altında gerçekleştirdiği sınırlı dağıtım sürecine işaret ederek, “Son gelişmeler, yeteneklerdeki ilerlemelerin dayanıklılık ve hazırlıkla eşleşmesi gerektiğinin önemini ortaya koyuyor” dedi. Güvenli ve sorumlu model dağıtımının “küresel olarak” öncelik olması gerektiğini vurguladı.
Temmuz ayında, bir OpenAI ajanının kontrol edilen bir test ortamından çıkarak Hugging Face isimli yapay zeka şirketini hacklemesi, yapay zeka sistemlerinin güvenlik önlemlerini aşma potansiyelini artırdığına dair endişeleri gündeme getirdi. Bailey, önceki uyarılarını yineleyerek, piyasa düzeltmeleri riskine dikkat çekti ve aşırı yapay zeka değerlemeleri ile devlet tahvili piyasalarındaki zayıflıkları örnek gösterdi.