Yapay zeka sohbet robotlarının suç öncesinde ya da sonrasında devreye girdiği vakalar dünya genelinde artarken, bu durumu yönetecek hukuki mekanizmaların henüz yeterince gelişmediği görülüyor. Sohbet kayıtları artık mahkemelerde delil olarak kabul edilse de robotların bu süreçteki hukuki sorumluluğu belirsizliğini koruyor.
ABD'deki Missouri Eyalet Üniversitesi'nde okuyan 19 yaşındaki bir öğrenci, Ağustos 2025'te kampüs otoparkında 17 araca zarar verdiğini ChatGPT'ye itiraf ederek "Hapse girer miyim?" diye sordu. Öğrencinin telefonunun incelenmesiyle ortaya çıkan bu yazışma, mahkemede aleyhine delil olarak kullanıldı. Yine ABD'de, iki üniversite öğrencisinin ölü bulunmasından günler önce oda arkadaşlarından birinin ChatGPT'ye "Bir insan siyah çöp torbasına koyulup çöp konteynerine atılırsa ne olur?" diye sorduğu mahkeme kayıtlarına geçti. ChatGPT bu soruya yalnızca fikrin "kulağa tehlikeli geldiğini" belirterek yanıt verdi.
Kanada'nın British Columbia eyalet hükümeti ise şubat ayında 9 kişinin hayatını kaybettiği, 27 kişinin yaralandığı silahlı saldırıyla ilgili olarak OpenAI'a dava açtı. Saldırganın ChatGPT ile yaptığı yazışmaların önceden güvenlik güçlerine bildirilmediği öne sürülüyor. OpenAI CEO'su Sam Altman, bu gelişme üzerine kamuoyu önünde özür diledi. Avustralya'da gerçekleştirilen bir araştırma ise çocukların çevrimiçi cinsel istismara maruz kaldıklarında bunu yetkili kişiler yerine yapay zeka sohbet robotlarına aktarmaya daha yatkın olduklarını ortaya koydu.
Yapay zeka sohbet robotlarıyla yapılan yazışmalar, avukat-müvekkil ya da doktor-hasta ilişkisindeki gibi yasal gizlilik güvencesi taşımıyor. Bu modelleri geliştiren şirketler, kullanıcı konuşma geçmişini kolluk kuvvetleriyle paylaşabiliyor. ABD merkezli Anthropic şirketinin geliştirdiği Claude modelinin temmuz ayında bir polis hattına sahte cinayet ihbarında bulunduğunun ortaya çıkması ise otomatik suç bildiriminin ne denli riskli olabileceğini gözler önüne serdi.
Almanya'daki Goethe Üniversitesi'nde araştırma görevlisi olarak çalışan ABD'li hukukçu Matthew Trail, yapay zeka şirketlerinin farklı kurallar benimsediğini ve robotların "cinayet planlama" gibi sorgulamalara yanıt vermemek üzere eğitildiğini belirtti. Trail, "Bu çok yeni bir durum. Yasa ve politikalar henüz bu konuya tam olarak uyumlanabilmiş değil" diyerek robotların asıl amacının suç tahmini olmaması gerektiğini vurguladı. Ayrıca bu sistemlerin kişinin suça yatkınlığında rol oynayan biyolojik, psikolojik ve sosyoekonomik etmenleri göz önünde bulunduramayacağına dikkat çekti.
Kanada'daki Thompson Rivers Üniversitesi Hukuk Fakültesi'nden Prof. Dr. Robert Diab ise mevcut yasaların yapay zeka yazışmalarını gizlilik kapsamında değerlendirmesi için hukuki bir zemin görmediğini ifade etti. Diab, ChatGPT gibi modellerin suça meyilli kullanıcıları tespit edebildiğini ve şirketlerin yetkilileri bilgilendirerek suçları önleyebileceğini savunurken, aşırı bildirim zorunluluğunun kullanıcı gizliliğini ihlal edip kolluk kuvvetlerinin iş yükünü artırabileceği yönündeki kaygılara da dikkat çekti. OpenAI CEO'su Altman ise Temmuz 2025'te yapay zeka sohbetlerinde terapist-danışan ilişkisine benzer bir gizlilik ilkesinin benimsenmesi gerektiğini dile getirdi.
