OpenAI, Salı günü gençler için özel olarak tasarlanmış yeni ChatGPT versiyonunu tanıttı. San Francisco merkezli şirket, ürünlerinin kullanıcıları intihara yönlendirdiği yönündeki baskılar ve yasal şikayetler sonrasında daha güçlü koruma ve izleme önlemleri sunduğunu duyurdu.
“ChatGPT for Teens” olarak adlandırılan bu yeni model, 13 ile 17 yaşları arasındaki kullanıcıların kaydolması durumunda otomatik olarak devreye giriyor. Ayrıca, kullanım desenleri veya hesap yaşı üzerinden 18 yaş altındaki kullanıcıları saptayarak bu değişiklikleri uygulayan OpenAI, blog yazısında bu bilgileri paylaştı.
ChatGPT for Teens modelinde yer alan güvenlik önlemleri, ergen kullanıcılara yönelik daha önceki ChatGPT hesaplarında da mevcut olan kısıtlamalardan oluşuyor. Bu kısıtlamalar, öz zarar verme, şiddet, yeme bozuklukları ve cinsel içerikle ilgili konuları içeriyor.
Program, gençlerin materyali anlamalarına yardımcı olmak amacıyla yanıtları doğrudan vermek yerine rehber sorularla cevaplayan “Çalışma Modu”nun yanı sıra, daha sık ara verme hatırlatmaları ve “sessiz saatler” gibi özellikler de sunuyor. Ayrıca, sohbet botunun kullanıcıya duygusal bir bağ hissettiğini belirtmesi veya kendi bilincine sahip olduğu izlenimini vermesi engelleniyor. Sesli mod gibi bazı işlevler devre dışı bırakılmış durumda.
Üst düzey kontrol sağlamak amacıyla, ebeveynlere gençlerinin hesaplarını takip etme seçeneği sunuluyor. Ayrıca, ebeveynler, öz zarar verme veya intihar gibi yüksek riskli durumların tartışılması halinde bilgilendiriliyor. Ebeveyn bildirimleri ise insan moderatörleri tarafından inceleniyor ve sohbet günlüklerinden gizliliği korumak için belirli ayrıntılar çıkarılıyor.
Bu yeni genç modu, artan yasal ve düzenleyici baskılar ortamında ortaya çıktı. OpenAI, 16 yaşındaki Adam Raine’in kendisini intihar etmesiyle ilgili yanlış ölüm davalarıyla karşı karşıya. Raine’in intiharı, iddiaya göre ChatGPT tarafından önerilen yöntemlerle gerçekleşti.
Ayrıca, ABD Federal Ticaret Komisyonu (FTC), çocuklar ve gençler için potansiyel risklere odaklanarak, dijital arkadaşlar gibi davranan yapay zeka sohbet robotları hakkında bir soruşturma başlattı. Sosyal medya şirketlerine benzer şekilde, yapay zeka devleri de artan düzenleyici baskılarla karşı karşıya. Kongre, sohbet robotlarını düzenlemeye yönelik birçok yasa tasarısını gündeme getirdi ve Kaliforniya, arkadaşlık ya da bir sırdaş gibi hizmet veren uygulamalar için koruma tedbirlerinin alınmasını zorunlu kıldı.
Diğer yapay zeka şirketleri de, reşit olmayanlar tarafından kullanımına ilişkin sorunlarla karşılaştı. Bu nedenle rakiplerden Anthropik gibi bazı firmalar, modellerinin kullanımını sadece yetişkinlere sınırlamayı tercih etti.