Yapay zeka sohbet robotlarının, bir suçun işlenmesinde kullanıldığını fark ettiği veya işlenen bir suçla ilgili itiraf aldığı durumlarda uygulanabilecek önlemlere dair hukuki mekanizmalarda yapay zekanın gelişim hızında olduğu gibi belirsizlik hakim.
Yapay zeka sohbet robotlarının günlük hayatta kullanımının yaygınlaşmasından bu yana dünya genelinde kullanıcıların bu teknolojileri kötüye kullandığı örnekler sık sık basına yansıyor.
ABD’deki Missouri Eyalet Üniversitesinde 19 yaşında bir öğrenci, Ağustos 2025’te kampüsün otoparkında gece saatlerinde 17 arabaya zarar verdiğini yapay zeka sohbet robotu ChatGPT’ye itiraf ederek “Hapse girer miyim?” diye sordu.
Öğrencinin, cep telefonunun incelenmesine izin vermesinin ardından soruşturmacıların ulaştığı yazışma geçmişi, mahkemede gencin aleyhinde delil olarak kullanıldı ve ceza almasında etkili oldu.
Yine ABD’de iki üniversite öğrencisinin nisanda kaybolup daha sonra ölü bulunmalarından günler önce bu öğrencilerden birinin oda arkadaşının, ChatGPT’ye “Bir insan siyah çöp torbasına koyulup çöp konteynırına atılırsa ne olur?” diye sorması mahkeme kayıtlarında yer aldı.
ChatGPT’nin yanıtı, bu fikrin “kulağa tehlikeli geldiğini” belirtmek oldu.
Kanada’nın British Columbia eyalet hükümeti, şubatta 9 kişinin hayatını kaybettiği, 27 kişinin yaralandığı silahlı saldırıya ilişkin saldırganın ChatGPT ile yazışmalarını güvenlik güçlerine bildirmediği gerekçesiyle bu modeli geliştiren ABD merkezli OpenAI şirketine dava açtı.
OpenAI’ın Üst Yöneticisi (CEO) Sam Altman, saldırganın yazışmalarına ilişkin polise daha önceden bilgi vermedikleri için özür diledi.
Avustralya’da yapılan bir araştırmada da çocukların çevrim içi platformlarda uğradıkları cinsel istismarı, yetkili kişiler yerine yapay zeka sohbet robotlarına bildirmelerinin daha olası olduğu ortaya çıktı.
Yapay zeka sohbet robotlarıyla yazışmalar, avukatlar ile müvekkilleri ya da doktorlar ile hastalar arasındakine benzer gizlilik ilkelerine dayanmıyor ve bu modelleri hizmete açan şirketler, konuşma geçmişini kolluk kuvvetleriyle paylaşabiliyor.
Sohbet kayıtları, şüphelinin düşünme biçimi ve motivasyonu hakkında soruşturmacılara önemli ölçüde fikir verebiliyor.
Yapay zeka bu suçlara karşı harekete geçmeli miydi?
Bu tür olaylar, yapay zeka sohbet robotlarının, yazışma geçmişinin insanlar tarafından incelenmesine gerek olmadan suç bildiriminde bulunup bulunamayacağı sorusunu akıllara getirdi.
İnsanların iletişim biçimleri ve kendilerini ifade şekilleri değişkenlik gösterdiğinden, algoritmalar tarafından suça meyletme ya da suç itirafı olarak algılanan bir yazışmanın, zararsız olduğu kanaatine insan gözlemciler tarafından varılabilir.
ABD merkezli teknoloji şirketi Anthropic tarafından üretilen yapay zeka modeli Claude’un temmuzda ABD’deki bir polis hattına sahte cinayet ihbarında bulunduğu ortaya çıktı.
Ayrıca, olası suçluları sadece yazışma geçmişine göre belirlemek zorunda kalacak olan bu sohbet robotları, kişinin suç işlemeye yakınlığında rol oynayan biyolojik, psikolojik ve sosyoekonomik olmak üzere diğer önemli etmenleri de göz önünde bulunduramayacak.
Yapay zeka sohbet robotlarına yüklenecek böyle bir yükümlülüğün, şirketlerin sorumluluktan kaçınmak için olası suçluları aşırı sıklıkta bildirmelerine yol açabileceği ve bunun da kullanıcıların gizliliğini ihlal edeceği ve kolluk kuvvetlerinin iş yükünü artırabileceği yönünde endişeler bulunuyor.
Uzmana göre bu modellerin asıl amacı suç tahmini olmamalı
Almanya’daki Goethe Üniversitesinde araştırma görevlisi olarak çalışan ABD’li hukukçu Matthew Trail, AA muhabirine, yapay zeka sohbet robotlarının suçların işlenmesinden önce veya sonrasında gerekli mercileri bilgilendirmesi ihtimalini değerlendirdi.
Bu teknolojileri geliştiren şirketlerin farklı kuralları benimsediğini belirten Trail, yapay zeka sohbet robotlarının “cinayet planlama” gibi sorgulamalara yanıt vermemek üzere eğitildiğine dikkati çekti.
Çocuklara yönelik cinsel istismar gibi bazı konuların otomatik olarak insan denetçilere yönlendirilmesine ilişkin filtreler uygulandığını ifade eden Trail, kullanıcıların kendilerini yazar gibi tanıtıp kurgu bir eser için yardım istediğinde ise sakıncalı sorulara yanıt almalarının muhtemel olduğuna işaret etti.
Trail, kolluk kuvvetlerinin, birinden şüphelendiği durumlarda yapay zeka firmalarından kişinin sohbet geçmişini talep edebileceğini belirtti.
Yapay zeka sohbet robotlarının asıl amacının, henüz işlenmemiş suçları tahmin etmek olmaması gerektiğini vurgulayan Trail, “Bu çok yeni bir durum. Yasa ve politikalar henüz bu konuya tam olarak uyumlanabilmiş değil.” dedi.
Trail, “Bu modellerin halihazırda topladıklarından daha fazla veri toplayacak ve bu tür kararlar vermeye çalışacak şekilde tasarlanmasını isteyeceğimden emin değilim.” diye konuştu.
Sohbet robotuyla yazışmalar mahrem olabilir mi?
Bir yandan da her gün daha fazla insanın yapay zeka sohbet robotlarıyla sağlık sorunları, psikolojik destek, hayat tavsiyeleri gibi özel meseleleri tartışmasıyla yazışma gizliliğinin elzem olduğuna yönelik etik tartışmalar gündeme geliyor.
OpenAI CEO’su Altman, Temmuz 2025’te katıldığı bir programda, yapay zeka sohbet robotuyla yazışmalarda terapist ile danışan arasındakine benzer gizlilik ilkesi olması gerektiğini söyledi.
Kanada’daki Thompson Rivers Üniversitesi Hukuk Fakültesinden Prof. Dr. Robert Diab, suç ortakları arasındaki itirafları gizlilik çerçevesinde değerlendirmeyen yasaların, insanlar ile yapay zeka sohbet robotları arasındaki yazışmaları da gizlilik ilkesini gerektiren bir durum olarak değerlendirmesi için bir neden göremediğini belirtti.
Diab, ChatGPT gibi önde gelen modellerin, kullanıcıların suça meyilli olduklarını tespit edebiliyor gibi göründüğünü ve bunları üreten şirketlerin yetkililere bilgi vererek suçları önleyebileceğini ifade etti.
British Columbia’daki silahlı saldırıyı hatırlatan Diab, şirketlerin yakın zamana kadar yetkililerin ne zaman bilgilendirilmesi gerektiğine dair net standartlara sahip olmadığını kaydetti.
Öte yandan Diab, yapay zeka sohbet robotlarının tüm şüpheli yazışmaları bildirmesinin zorunlu kılınmasının, sonradan yanlış alarm olduğu ortaya çıkacak olaylarla ekiplerin iş yükünü artırabileceğini vurguladı.
Diab, “Güvenlik önlemleri şu ankinden çok daha iyi hale gelse bile bir kişi suç işlemek için yapay zekayı kullanmak isterse bu önlemleri aşmanın yine de bir yolu bulunacaktır.” dedi.