Τα chatbot τεχνητής νοημοσύνης εμπλέκονται όλο και πιο συχνά σε υποθέσεις εγκλημάτων παγκοσμίως, ωστόσο οι νομικοί μηχανισμοί που θα διέπουν τον ρόλο τους στις ποινικές διαδικασίες παραμένουν ανεπαρκώς ανεπτυγμένοι. Τα αρχεία συνομιλιών γίνονται δεκτά ως αποδεικτικά στοιχεία στα δικαστήρια, αλλά οι νομικές υποχρεώσεις των ίδιων των chatbot παραμένουν αδιευκρίνιστες.
Στο Πανεπιστήμιο του Μιζούρι στις ΗΠΑ, ένας 19χρονος φοιτητής ομολόγησε τον Αύγουστο του 2025 στο ChatGPT ότι είχε προκαλέσει ζημιές σε 17 αυτοκίνητα στο χώρο στάθμευσης της πανεπιστημιούπολης, ρωτώντας αν θα πήγαινε φυλακή. Το ιστορικό συνομιλιών ανακτήθηκε μετά από συγκατάθεση του φοιτητή για έλεγχο του κινητού του και χρησιμοποιήθηκε ως αποδεικτικό στοιχείο εναντίον του. Σε άλλη υπόθεση στις ΗΠΑ, ο συγκάτοικος δύο φοιτητών που βρέθηκαν νεκροί ρώτησε το ChatGPT τι θα συνέβαινε αν κάποιος τοποθετούνταν σε μαύρη σακούλα σκουπιδιών — ημέρες πριν εντοπιστούν τα σώματα. Το chatbot απάντησε μόνο ότι η ιδέα «ακουγόταν επικίνδυνη».
Η κυβέρνηση της Βρετανικής Κολομβίας στον Καναδά κατέθεσε αγωγή εναντίον της OpenAI τον Φεβρουάριο, ισχυριζόμενη ότι η εταιρεία δεν ενημέρωσε τις αρχές για τις συνομιλίες του δράστη ένοπλης επίθεσης με το ChatGPT, στην οποία σκοτώθηκαν εννέα άτομα και τραυματίστηκαν 27. Ο CEO της OpenAI, Σαμ Άλτμαν, απολογήθηκε δημοσίως. Έρευνα στην Αυστραλία κατέδειξε ότι τα παιδιά που υπέστησαν σεξουαλική κακοποίηση στο διαδίκτυο είναι πιο πιθανό να το αποκαλύψουν σε chatbot ΤΝ παρά στις αρχές.
Οι συνομιλίες με chatbot ΤΝ δεν απολαμβάνουν νομικής εμπιστευτικότητας όπως αυτή που ισχύει για δικηγόρους-πελάτες ή γιατρούς-ασθενείς, και οι εταιρείες μπορούν να μοιραστούν το ιστορικό συνομιλιών με τις αρχές. Τον Ιούλιο αποκαλύφθηκε ότι το μοντέλο Claude της Anthropic είχε υποβάλει ψευδή αναγγελία φόνου σε αμερικανική γραμμή αστυνομίας, αναδεικνύοντας τους κινδύνους της αυτοματοποιημένης αναφοράς εγκλημάτων.
Ο Αμερικανός νομικός Μάθιου Τρέιλ, ερευνητής στο Πανεπιστήμιο Goethe της Γερμανίας, επισήμανε ότι οι εταιρείες ΤΝ ακολουθούν διαφορετικούς εσωτερικούς κανόνες και ότι τα chatbot εκπαιδεύονται να μην απαντούν σε ερωτήματα όπως ο σχεδιασμός δολοφονίας. Ο Τρέιλ τόνισε ότι η πρόβλεψη εγκλημάτων δεν πρέπει να αποτελεί βασικό σκοπό αυτών των συστημάτων, δηλώνοντας: «Αυτή είναι μια πολύ νέα κατάσταση. Οι νόμοι και οι πολιτικές δεν έχουν ακόμη προσαρμοστεί πλήρως σε αυτό το ζήτημα».
Ο καθηγητής Ρόμπερτ Ντίαμπ από τη Νομική Σχολή του Πανεπιστημίου Thompson Rivers του Καναδά υποστήριξε ότι η υποχρεωτική αναφορά ύποπτων συνομιλιών θα μπορούσε να οδηγήσει σε υπερβολικές καταγγελίες, παραβιάζοντας την ιδιωτικότητα των χρηστών και επιβαρύνοντας τις αρχές. Ο CEO της OpenAI, Άλτμαν, τάχθηκε τον Ιούλιο του 2025 υπέρ της θέσπισης αρχών εμπιστευτικότητας για τις συνομιλίες με chatbot, ανάλογων με αυτές που διέπουν τη σχέση θεραπευτή-πελάτη.
