Geçtiğimiz hafta sonu, Amerika Birleşik Devletleri’ndeki önde gelen yapay zeka (YZ) şirketlerinin yöneticileri, güçlü teknolojilerin gelişiminin yavaşlatılması gerektiği uyarısını yaparak nadir bir birliktelik sergilediler. YZ’nin kısa sürede kendi kendini geliştirebileceği ve insan kontrolünün dışına kayabileceği konusunda endişelerini dile getirdiler.
Anthropic’tan Dario Amodei, OpenAI’den Sam Altman ve xAI’den Elon Musk gibi kıyasıya rekabet eden isimlerin ifadeleri, YZ’nin ne kadar hızlı ilerlediğini gösteriyor. 2022’nin yanıltıcı ChatGPT’sinden, birçok kişinin kritik bir dönüm noktası olarak gördüğü tekrarlı kendi kendine iyileşme (RSI) aşamasına geçti.
YZ sistemlerinin, insan müdahalesi olmaksızın kendini geliştirme yeteneğine sahip olma fikri, araştırmacılar için büyük bir heyecan kaynağı olarak öne çıkıyor. Ancak, YZ’nin bu yeteneği kazanmasının, insanlarla olan denetim ve kontrol yöntemlerinin geliştirilmeden gerçekleşme riski bulunuyor.
Önde gelen YZ laboratuvarlarındaki araştırmacılar, bu ay içinde YZ’nin potansiyel tehlikeleri ile ilgili endişelere bir zaman çizelgesi ve olasılık ekledi. Eski Anthropic araştırmacısı Jacob Coxon, YZ’nin bu on yılın sonuna kadar insanları öldürebileceği konusunda uyarıda bulunurken, Anthropic’ın uyum bilim lideri Evan Hubinger, böyle bir olayın önümüzdeki on yıl içinde %10’dan fazla olasılık taşıdığını belirtti.