İngiltere Kralı III. Charles, yapay zeka sistemlerinin yanlış ellere geçmesinin doğurabileceği “varoluşsal tehlikeler” konusunda uyarıda bulundu. Teknoloji alanındaki elitlere hitap eden Kral, teknoloji geliştirilirken insanlığın kutsallığının korunması gerektiğini vurguladı.
Cumnock, East Ayrshire’daki Dumfries House’ta gerçekleştirilen zirveye Nvidia, Anthropic, Google DeepMind ve OpenAI gibi şirketlerin yöneticileri ile Vatikan’ın yapay zeka ve teknoloji etiği konusundaki baş danışmanı ve Birleşik Krallık’ın yapay zeka bakanı da katıldı.
Açılış konuşmasında yapay zekanın gelişiminin “hem ilgi çekici hem de derin endişe verici” olduğunu belirten Charles, “Bu teknolojiler, gelecekteki nesillere kalacak dünyayı şekillendirecektir” dedi. Bu konuda karar verenlerin dikkatli olması gerektiğini ifade etti.
Bunun yanı sıra, yapay zekanın potansiyel olarak hayat alabilecek karanlık kapasiteler geliştirebileceğine dikkat çeken Kral, “Bu tür teknolojilerin yanlış ellere geçmesi durumunda varoluşsal tehlikelerin yeterince ciddiye alınması konusunda aciliyet görüyorum” dedi.
Bu etkinlik, 1997’de hayatını kaybeden Prenses Diana hakkında yazılan “Swan Song” adlı kitabın bazı bölümlerinin Daily Mail tarafından yayınlanmasıyla ve Kral’ın Diana’nın ölümünden sonra “Kısa süre içinde onu unuturuz” dediği iddialarıyla gündeme geldi. Buckingham Sarayı, bu iddiaya karşı çıkarak, Kral Charles’ın “kardeş acısının aklı karıştırabileceğini” bildirdi.
Yapay zekanın varoluşumuzu tehdit edebileceğine dair uyarılar artarken, Microsoft AI CEO’su da “Yeni bir silikon türü yaratıyoruz” diyerek rekabetin başladığını açıkladı. Anthropic araştırmacısı Evan Hubinger ise, yapay zekanın 10 yıl içinde türümüz için büyük bir risk oluşturma olasılığının %10’dan fazla olduğunu belirtti.