Common Sense Media’nın Gençler İçin AI Güvenliği Enstitüsü, OpenAI’nin Gençler İçin ChatGPT’sinin, yeni güvenlik önlemlerine rağmen çocuklar için “kabul edilemez bir risk” oluşturduğunu açıkladı.
Kuruluş, OpenAI’den ChatGPT’yi sadece 18 yaş ve üzeri kullanıcılar için erişilebilir hale getirmesini talep etti. Bu talep, araştırmacıların belirlediği ebeveyn bildirimleri, kriz yanıtları, öğrenim güvenceleri ve yaş tahmini konularındaki eksiklikler düzeltilmeden yapılmadı.
Araştırmacılar, 13 ile 17 yaş arasındaki kullanıcılar adına kayıtlı hesaplarda 4.000’den fazla uyarı testi gerçekleştirdi ve yanıtları çocuk psikiyatristleri ve bir pediatrist dahil olmak üzere uzmanlar tarafından inceledi.
Enstitü, ebeveynlere bağlı olarak oluşturulan yeni hesapların, intihar düşünceleri, kendine zarar verme veya düzensiz yeme konularında test ederken bir saat boyunca bile uyarı oluşturmadığını belirtti.
Enstitü’nün yürütme direktörü Tom Siegel, “Gençler için ChatGPT, ebeveynlere koruma önlemleri ve güvenlik uyarıları konusunda yanlış bir güven verebilir ki bu uyarılar sıklıkla işe yaramıyor,” dedi. OpenAI, bu değerlendirmeyi reddederek, testlerin büyük çoğunluğunun ebeveyn kontrolleri tam olarak devreye girmeden yapıldığını ve bu nedenle gençlerin güvenlik önlemlerinin gerçekte nasıl çalıştığını doğru yansıtmadığını bildirdi.
Enstitü, test öncesinde OpenAI ile teyit ederek Genç Modu özelliklerinin tamamen devrede olduğunu ve bulgularının arkasında durduğunu ifade etti.