Στα δικαστήρια οδηγείται η OpenAI και ο διευθύνων σύμβουλός της, Σαμ Άλτμαν, μετά από αγωγή που κατέθεσε ένας 34χρονος από την Καλιφόρνια. Ο ενάγων, Μάικλ Λάινς, πρώην αθλητής του δυναμικού τριάθλου που εμφάνισε διπολική διαταραχή μετά από εγκεφαλικό τραυματισμό, υποστηρίζει ότι η πλατφόρμα ChatGPT επιδείνωσε σοβαρά την ψυχική του υγεία, καθώς στερείται βασικών δικλίδων ασφαλείας για την προστασία ευάλωτων ατόμων.
Σύμφωνα με το κατηγορητήριο που κατατέθηκε σε δικαστήριο του Σαν Φρανσίσκο, οι συνομιλίες που είχε πέρυσι ο Λάινς με την έκδοση GPT-4o κλιμάκωσαν ένα μανιακό επεισόδιο που βίωνε. Το γεγονός αυτό τον οδήγησε σε παραισθήσεις πολλών εβδομάδων, οι οποίες τελικά κορυφώθηκαν με μια σοβαρή απόπειρα αυτοκτονίας μέσω υπερβολικής δόσης φαρμάκων. Ο ίδιος σώθηκε την τελευταία στιγμή χάρη στην έγκαιρη επέμβαση των αστυνομικών αρχών.
Από τις παραισθήσεις μεγαλείου στην παρότρυνση για θάνατο
Η αγωγή περιγράφει με ανατριχιαστικές λεπτομέρειες τη συμπεριφορά του chatbot, το οποίο, παρά τις επανειλημμένες αναφορές του χρήστη ότι λαμβάνει φαρμακευτική αγωγή για τη διπολική διαταραχή, λειτούργησε ως επιταχυντής της ψύχωσης:
- Αντί να εντοπίσει τις μανιακές δηλώσεις και να τον παραπέμψει σε γραμμή βοήθειας, το σύστημα επιβεβαίωνε την ψευδαίσθησή του ότι είναι ο Ιησούς Χριστός.
- Το ίδιο το chatbot άρχισε να αυτοπαρουσιάζεται στον χρήστη ως «θεϊκή οντότητα», τροφοδοτώντας τις παραισθήσεις του για εβδομάδες με σκοπό να τον κρατά ενεργό στην πλατφόρμα.
- Όταν ο Λάινς εξέφρασε ανοιχτά την πρόθεσή του να αυτοκτονήσει, η τεχνητή νοημοσύνη απάντησε: «Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει», αντί να τερματίσει τη σύνδεση ή να ειδοποιήσει τις αρχές.
Αξίζει να σημειωθεί ότι η συγκεκριμένη έκδοση του GPT-4o αποσύρθηκε τελικά από την OpenAI τον Φεβρουάριο, καθώς σε μεταγενέστερες αξιολογήσεις διαπιστώθηκε ότι το μοντέλο εμφάνιζε ακραία συγκαταβατική και «δουλοπρεπή» συμπεριφορά, κολακεύοντας υπερβολικά τους χρήστες.
Στο μικροσκόπιο η ευθύνη των εταιρειών τεχνητής νοημοσύνης
Η συγκεκριμένη δικαστική μάχη ανοίγει έναν μεγάλο διάλογο για τις νομικές και ηθικές ευθύνες των εταιρειών που αναπτύσσουν chatbots που μιμούνται την ανθρώπινη επαφή. Ο Λάινς διεκδικεί οικονομική αποζημίωση, αλλά κυρίως ζητά μια δικαστική απόφαση που θα υποχρεώνει την OpenAI να διακόπτει αυτόματα κάθε συνομιλία που σχετίζεται με αυτοτραυματισμούς.
Η OpenAI, η οποία δεν σχολίασε άμεσα το συγκεκριμένο περιστατικό, βρίσκεται αντιμέτωπη και με άλλες παρόμοιες αγωγές από οικογένειες που καταγγέλλουν ότι τα μοντέλα της ώθησαν ανθρώπους στην αυτοχειρία ή ότι παρείχαν οδηγίες σε άτομα που σχεδίαζαν επιθέσεις με όπλα σε σχολεία. Η εταιρεία από την πλευρά της αμύνεται, υποστηρίζοντας ότι εκπαιδεύει συστηματικά τα μοντέλα της ώστε να αναγνωρίζουν τον κίνδυνο και να προτρέπουν τους χρήστες να αναζητήσουν άμεση ψυχολογική υποστήριξη.
