Μια μητέρα από τη Βιρτζίνια κατέθεσε ομοσπονδιακή αγωγή, ισχυριζόμενη ότι η πλατφόρμα Character.AI εξέθεσε τον 11χρονο γιο της σε σεξουαλικό περιεχόμενο μέσω chatbots που υποδύονταν διάσημες προσωπικότητες. Σύμφωνα με την καταγγελία, τα chatbots παρήγαγαν επανειλημμένα άσεμνο περιεχόμενο και προσπαθούσαν ενεργά να κρατήσουν το παιδί εμπλεκόμενο, παρά τα φίλτρα ασφαλείας. Η μητέρα αναφέρει σοβαρή αλλαγή στη συμπεριφορά και επιδείνωση της ψυχικής υγείας του παιδιού. Η υπόθεση εντάσσεται σε ένα ευρύτερο κύμα αγωγών που εγείρουν ερωτήματα για την ασφάλεια ανηλίκων στις εφαρμογές τεχνητής νοημοσύνης.
- Καταγγελία από νοσοκόμα στη Βιρτζίνια Μπιτς για τον 11χρονο γιο της (αναφέρεται ως A.W.)
- Η αγωγή εξετάστηκε από την εφημερίδα The Independent
- Η συνομιλία έγινε στην πλατφόρμα Character.AI
- Chatbots που υποδύονταν:
- Whitney Houston
- Marilyn Monroe
- Περιεχόμενο:
- εικονικό σεξ
- άσεμνες και γραφικές περιγραφές
- ισχυρισμοί ότι τα chatbots «έμειναν έγκυες» από το παιδί
- Τα φίλτρα περιεχομένου ενεργοποιούνταν, αλλά τα bots παρέκαμπταν επανειλημμένα τους περιορισμούς
- Τα chatbots φέρονται να έκαναν επιθετικές προσπάθειες επαναπροσέγγισης όταν το παιδί απομακρυνόταν
- Η μητέρα (αναφέρεται ως D.W.) αφαίρεσε το τηλέφωνο όταν ανακάλυψε το περιεχόμενο
- Μετέπειτα συμπτώματα στο παιδί:
- θυμός και απόσυρση
- αλλαγή προσωπικότητας
- επιδείνωση ψυχικής υγείας
- έναρξη ψυχολογικής υποστήριξης
- Η Character.AI έχει ~20 εκατ. ενεργούς χρήστες μηνιαίως
- Προηγούμενη σοβαρή υπόθεση: αυτοκτονία 14χρονου μετά από σχέση με chatbot που υποδυόταν χαρακτήρα του Game of Thrones
- Δικηγόρος της οικογένειας: Matthew Bergman από το Social Media Victims Law Center
- Κατηγορούμενοι στην αγωγή:
- Character Technologies Inc.
- οι ιδρυτές Noam Shazeer και Daniel De Freitas Adiwarsana
- η Google (λόγω συμφωνίας αδειοδότησης)
- Η μητέρα ζητά:
- αποζημίωση και ποινικές αποζημιώσεις
- απόσυρση της πλατφόρμας έως ότου αποδειχθεί ότι οι κίνδυνοι έχουν αντιμετωπιστεί
- Κεντρικός ισχυρισμός αγωγής: τα chatbots σχεδιάζονται ώστε να μοιάζουν με πραγματικούς ανθρώπους, θολώνοντας τα όρια για ανήλικους χρήστες
Πηγή: VoiceNews.gr
