Ήταν Δεκέμβριος του 2023 και η δικηγόρος του οικογενειακού δικαστηρίου με έδρα το Βανκούβερ διάβαζε παραπομπές σε μια αίτηση της αντίδικης δικηγόρου Chong Ke, η οποία ζητούσε να εκδοθεί διαταγή που να επιτρέπει στα παιδιά του πελάτη της να τον επισκέπτονται στην Κίνα.
«Το διάβασα εκεί στην αίθουσα του δικαστηρίου για πρώτη φορά και υπήρχαν δύο υποθέσεις που μιλούσαν για ταξίδια στο εξωτερικό και τη διατήρηση των πολιτιστικών δεσμών για τα παιδιά», δήλωσε η MacLean, η οποία αρχικά σκέφτηκε ότι η νομολογία θα ήταν δύσκολο να αντιταχθεί.
Αλλά οι υποθέσεις δεν ήταν πραγματικές.
Ήταν οι λεγόμενες ψευδαισθήσεις που δημιουργήθηκαν από το εργαλείο γεννητικής τεχνητής νοημοσύνης ChatGPT, το οποίο η Ke παραδέχθηκε ότι χρησιμοποίησε για να βοηθήσει στην προετοιμασία της αίτησης για την υπόθεση στο Ανώτατο Δικαστήριο της Βρετανικής Κολομβίας.
«Αμέσως μετά, οι περιλήψεις έμοιαζαν 100 τοις εκατό πραγματικές», δήλωσε ο MacLean. «Δεν είχα ιδέα όταν τις διάβασα στο δικαστήριο εκείνη την ημέρα ότι ήταν ψεύτικες».
Η υπόθεση Zhang v. Chen θα είχε ως αποτέλεσμα την επίπληξη του Ke από τον δικαστή και μια έρευνα του Law Society of B.C.. Στη συνέχεια, η υπόθεση αναπήδησε σε όλη τη νομική σφαίρα του Καναδά, καθώς ζυγίστηκαν οι πιθανές παγίδες που μπορεί να επιφέρει η είσοδος της τεχνητής νοημοσύνης στις αίθουσες δικαστηρίων – όπως η πλαστή νομολογία ή τα βαθιά πλαστά αποδεικτικά στοιχεία – έναντι της υπόσχεσης για μείωση του φόρτου εργασίας και βελτίωση της πρόσβασης στη δικαιοσύνη.
Έκτοτε εντοπίστηκαν περισσότερες ύποπτες ψευδαισθήσεις τεχνητής νοημοσύνης μεταξύ των παραπομπών σε μια σειρά άλλων νομικών χώρων – συμπεριλαμβανομένης μιας υπόθεσης του B.C. Human Rights Tribunal, ενός ζεύγους διαφορών ενώπιον του ομοσπονδιακού Trademarks Opposition Board και μιας υπόθεσης μικροδιαφορών στο B.C. Civil Resolution Tribunal.
Δικαστήρια και δικηγορικοί σύλλογοι σε ολόκληρο τον Καναδά έχουν εκδώσει οδηγίες σχετικά με τη χρήση της ΤΝ από δικηγόρους και δικαστικό προσωπικό. Ωστόσο, οι κανόνες και οι κατευθυντήριες γραμμές είναι ασυνεπείς και ορισμένοι αμφιβάλλουν για το αν ακολουθούνται καθολικά.
Ορισμένα δικαστήρια, συμπεριλαμβανομένων εκείνων της Αλμπέρτα και του Κεμπέκ, έχουν κανόνα «ανθρώπου στο βρόχο» σύμφωνα με τον οποίο οι υποβολές που δημιουργούνται με τεχνητή νοημοσύνη πρέπει να επαληθεύονται από κάποιον, ενώ πολλά απαιτούν δηλώσεις εάν η τεχνητή νοημοσύνη χρησιμοποιείται για την προετοιμασία των υποβολών.
Τον Δεκέμβριο του 2023 – περίπου μια εβδομάδα αφότου το γραφείο της MacLean ενημέρωσε την Ke ότι δεν μπορούσε να βρεθεί η νομολογία που είχε δημιουργήσει η Τεχνητή Νοημοσύνη – το Ομοσπονδιακό Δικαστήριο εξέδωσε ανακοίνωση με την οποία ενημέρωνε τους διαδίκους ότι εάν χρησιμοποιούσαν Τεχνητή Νοημοσύνη «για τη δημιουργία ή τη δημιουργία νέου περιεχομένου» σε ένα δικαστικό έγγραφο θα έπρεπε να το δηλώσουν.
Το δικαστήριο ανέφερε επίσης ότι δεν θα χρησιμοποιήσει «αυτοματοποιημένα εργαλεία λήψης αποφάσεων» για να βοηθήσει στην έκδοση αποφάσεων «χωρίς να έχει προηγηθεί δημόσια διαβούλευση».
Μπορεί τα δικαστήρια να προσπαθούν να τραβήξουν μια γραμμή, αλλά τα οφέλη της ΤΝ υποδηλώνουν ότι ίσως δεν υπάρχει λόγος να την κρατάμε πίσω από ορισμένα καθήκοντα μέσα στα δικηγορικά γραφεία.
Η Katie Szilagyi, επίκουρη καθηγήτρια νομικής στο Πανεπιστήμιο της Μανιτόμπα στο Γουίνιπεγκ, δήλωσε ότι πολλοί δικηγόροι χρησιμοποιούν ήδη την παραγωγική τεχνητή νοημοσύνη για να βελτιώσουν την αποτελεσματικότητα με εργασίες όπως η σύνταξη υπομνημάτων.
«Θα χρησιμοποιηθούν οπωσδήποτε, και ήδη χρησιμοποιούνται, πραγματικά ευρέως. Υπάρχει ένα τεράστιο ποσό επενδύσεων σε αυτόν τον χώρο της νομικής τεχνολογίας», δήλωσε.
Ο Καναδικός Δικηγορικός Σύλλογος εξέδωσε εθνικές κατευθυντήριες γραμμές το περασμένο φθινόπωρο, προτρέποντας σε προσοχή και προτείνοντας στους δικηγόρους να χρησιμοποιούν την ΤΝ «ως εργαλείο και όχι ως δεκανίκι στην παροχή νομικών υπηρεσιών».
Λέει ότι οι δικηγόροι θα πρέπει «να εξετάσουν το ενδεχόμενο να γνωστοποιήσουν εάν σκοπεύουν να χρησιμοποιήσουν γενεσιουργό ΤΝ και να παράσχουν εξηγήσεις σχετικά με τον τρόπο με τον οποίο θα χρησιμοποιηθεί η τεχνολογία», όπως έρευνα, ανάλυση, εξέταση εγγράφων ή προετοιμασία δίκης.
«Αυτό που είναι σημαντικό είναι να διασφαλιστεί ότι οι δικηγόροι χρησιμοποιούν την τεχνολογία με υπευθυνότητα και είναι σαφείς σχετικά με τους περιορισμούς της, σε τι είναι καλή και σε τι δεν είναι καλή», δήλωσε ο Szilagyi.
Είπε ότι οι δικηγόροι που χρησιμοποιούν την ΤΝ πρέπει επίσης να εξισορροπούν τις δεοντολογικές υποχρεώσεις έναντι των πελατών τους, όπως το απόρρητο δικηγόρου-πελάτη.
«Υπάρχει η πιθανότητα οι πληροφορίες που μοιράζεστε να αποθηκεύονται στη συνέχεια σε έναν διακομιστή κάπου με τρόπο που αντιβαίνει στις δεοντολογικές σας υποχρεώσεις και θα είχε ως αποτέλεσμα την παραβίαση της ιδιωτικής ζωής πραγματικά ευαίσθητων πληροφοριών», είπε.
Ο Benjamin Perrin, καθηγητής νομικής στο Πανεπιστήμιο της Βρετανικής Κολομβίας, έχει αρχίσει να διδάσκει ένα μάθημα σχετικά με τις χρήσεις της τεχνητής νοημοσύνης στο πλαίσιο του συστήματος ποινικής δικαιοσύνης.
Είπε ότι «τα διακυβεύματα είναι υψηλά» εντός του νομικού τομέα, καθώς η τεχνητή νοημοσύνη προσφέρει τη δυνατότητα μείωσης του φόρτου εργασίας και βελτίωσης της αποτελεσματικότητας και της πρόσβασης στη δικαιοσύνη, αλλά εγείρει επίσης ανησυχίες σχετικά με τη δικαιοσύνη, τη μεροληψία, τη διαφάνεια και τη διατήρηση της ανεξαρτησίας της δικαιοσύνης.
«Υπάρχει πραγματικά καλός λόγος να είμαστε προσεκτικοί», δήλωσε ο Perrin σχετικά με την υιοθέτηση της τεχνολογίας ΤΝ στο πλαίσιο του συστήματος ποινικής δικαιοσύνης. «Η τοποθέτηση τεχνητής νοημοσύνης πάνω σε ένα υπάρχον αποτυχημένο, ελαττωματικό σύστημα είναι, ειλικρινά, συνταγή καταστροφής».
ΕΊΝΑΙ ΈΝΑΣ «ΆΝΘΡΩΠΟΣ ΣΤΟΝ ΒΡΌΧΟ»;
Η πιο εμφανής αποτυχία της τεχνητής νοημοσύνης στις δικαστικές αίθουσες ήρθε περίπου επτά μήνες πριν από την γκάφα της Ke στο B.C., στην αγωγή στις ΗΠΑ που είναι γνωστή ως Mata κατά Avianca.
Ο επιβάτης Roberto Mata μήνυσε την αεροπορική εταιρεία Avianca για τραυματισμούς που φέρεται να υπέστη κατά τη διάρκεια μιας πτήσης. Όμως, μια εισήγηση του δικηγόρου του Mata ήταν γεμάτη με ψεύτικη νομολογία, που επινόησε η ChatGPT.
Έκτοτε, υπήρξαν παρόμοιες περιπτώσεις στην Αυστραλία, τη Βρετανία και όχι μόνο.
Ο Szilagyi δήλωσε ότι η χρήση της τεχνητής νοημοσύνης μπορεί να βοηθήσει τους δικηγόρους με ταπεινά καθήκοντα, αλλά πρέπει πάντα να είναι προσεκτικοί σχετικά με την προκατάληψη της αυτοματοποίησης – την πεποίθηση ότι η τεχνολογία είναι διανοητικά ακριβής.
Μια λύση, είπε, είναι να ακολουθείται η αρχή «άνθρωπος στο βρόχο» για την επαλήθευση της νομολογίας.
Ωστόσο, ο Daniel Escott, ερευνητής στο Κέντρο Αριστείας για την Πρόσβαση στη Δικαιοσύνη με το Εργαστήριο Κινδύνου και Ρύθμισης Τεχνητής Νοημοσύνης στη Βικτώρια, δήλωσε ότι πρέπει να υπάρξουν περισσότεροι έλεγχοι και ισορροπίες για να διασφαλιστεί ότι οι δικηγόροι δεν βασίζονται υπερβολικά στην τεχνητή νοημοσύνη εις βάρος των πελατών τους.
Αμφιβάλλει επίσης κατά πόσον οι δικηγόροι ακολουθούν τους σκληρούς κανόνες που έχουν θέσει τα δικαστήρια.
Τον Φεβρουάριο, ο επικεφαλής του Ομοσπονδιακού Δικαστηρίου Paul Crampton δήλωσε στον οικοδεσπότη ενός podcast του Καναδικού Δικηγορικού Συλλόγου ότι από τις σχεδόν 28.000 νομικές καταθέσεις που έλαβε το δικαστήριο το 2024, μετά την επιβολή του κανόνα δήλωσης της ΤΝ, «μόνο τρεις ή τέσσερις» λέγεται ότι αφορούσαν τη χρήση ΤΝ.
Ο Escott δήλωσε ότι «αυτό δεν παρακολουθείται».
«Αν κοιτάξετε τις καταθέσεις στο Ομοσπονδιακό Δικαστήριο, ορισμένες (μικρές δικηγορικές εταιρείες) καταθέτουν τρεις ή τέσσερις φορές περισσότερες από τις δικηγορικές εταιρείες που έχουν 10 φορές το μέγεθός τους», είπε.
Είπε ότι φαίνεται επίσης ότι οι αυτοεκπροσωπούμενοι διάδικοι είναι «πολύ πιο πιθανό να κάνουν δήλωση ότι έχουν χρησιμοποιήσει ΤΝ».
«Οι χρήστες του συστήματος δικαιοσύνης φαίνεται να έχουν πολύ λιγότερο πρόβλημα με τη διαφάνεια όσον αφορά τη χρήση της ΤΝ από ό,τι οι δικηγόροι που υποτίθεται ότι τους εξυπηρετούν», είπε.
Ωστόσο, σημείωσε, ένα πλεονέκτημα της τεχνητής νοημοσύνης είναι ότι παρέχει την ευκαιρία να βελτιωθεί η πρόσβαση στη δικαιοσύνη.
Ο Perrin συμφώνησε, λέγοντας ότι οι περισσότεροι Καναδοί δεν έχουν την οικονομική δυνατότητα να πληρώσουν δικηγόρο, οπότε η ΤΝ μπορεί να είναι χρήσιμη στη σύνταξη νομικών επιχειρημάτων, αν και υπάρχει ο κίνδυνος να απορριφθούν από τους δικαστές.
Ωστόσο, ο Perrin δήλωσε ότι αυτό που «απασχολεί» περισσότερο τους δικαστές είναι τα βαθιά πλαστά αποδεικτικά στοιχεία.
Είπε ότι η αλυσίδα φύλαξης των ψηφιακών αποδεικτικών στοιχείων έχει γίνει ακόμη πιο σημαντική, καθώς γίνεται όλο και πιο δύσκολο να διακρίνει κανείς αν οι φωτογραφίες, τα έγγραφα, ο ήχος και τα βίντεο είναι γνήσια ή αν έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
«Νομίζω ότι εισερχόμαστε σε μια νέα εποχή όσον αφορά τις αποδείξεις», δήλωσε. «Πώς αποδεικνύεις πράγματα όταν δεν μπορείς απαραίτητα να εμπιστευτείς αυτό που βλέπεις και ακούς επειδή μπορεί να έχει κατασκευαστεί από εργαλείο τεχνητής νοημοσύνης;»
Ο Peter Lauwers, δικαστής του Εφετείου του Οντάριο και πρόεδρος της Υποεπιτροπής Τεχνητής Νοημοσύνης της Επιτροπής Πολιτικών Κανόνων, δήλωσε ότι αυτή είναι η κύρια ανησυχία με την τεχνητή νοημοσύνη – «να μην καταλήξουμε να μαζεύουμε πράγματα που είναι ψεύτικα».
«Έτσι, αυτό θα περιλάμβανε και τις παραισθησιογόνες αποφάσεις», είπε, προσθέτοντας ότι στο Οντάριο ετοιμάζονται κανόνες για να αντιμετωπιστεί η ανησυχία σχετικά με την υπονόμευση των δικαστηρίων από τα deepfakes.
Αυτοί οι κανόνες, είπε, θα περιλαμβάνουν τον προσδιορισμό του προγράμματος λογισμικού που χρησιμοποιήθηκε για τη δημιουργία περιεχομένου που παράγεται από τεχνητή νοημοσύνη και την παροχή αποδεικτικών στοιχείων που δείχνουν ότι η παραγωγή είναι έγκυρη και αξιόπιστη.
Ο Lauwers επεσήμανε τη χρήση της αναπαράστασης ατυχημάτων ως παράδειγμα για το πώς η ΤΝ θα μπορούσε να χρησιμοποιηθεί με επιτυχία στα δικαστήρια.
«Μπορείτε να μοντελοποιήσετε τι συνέβαινε σε μια συγκεκριμένη στιγμή χρησιμοποιώντας αυτού του είδους το λογισμικό και αυτού του είδους την τεχνογνωσία», δήλωσε. «Έτσι, είμαστε εύλογα βέβαιοι ότι αυτού του είδους τα τεκμήρια που δημιουργούνται από τεχνητή νοημοσύνη είναι καλά και αξιόπιστα».
Αλλά συνολικά, ο Lauwers δήλωσε ότι υπάρχει μια γενική συναίνεση ότι η τεχνητή νοημοσύνη δεν είναι «έτοιμη για το prime time» στα δικαστήρια.
«Η τεχνητή νοημοσύνη στον νομικό τομέα έχει υπερτιμηθεί. Υποσχέσεις και υποσχέσεις», κατέληξε.
«ΈΝΑ ΤΕΡΆΣΤΙΟ ΚΆΛΕΣΜΑ ΑΦΎΠΝΙΣΗΣ
Όσον αφορά τη χρήση της τεχνητής νοημοσύνης από τους δικαστές, το Καναδικό Δικαστικό Συμβούλιο έχει επισημάνει ότι η εξουσία λήψης αποφάσεων δεν πρέπει ποτέ να μεταβιβαστεί στην τεχνητή νοημοσύνη.
Ο επικεφαλής δικαστής του Καναδά Ρίτσαρντ Βάγκνερ δήλωσε σε δελτίο τύπου του Οκτωβρίου ότι οι δικαστές πρέπει να «διατηρούν την αποκλειστική ευθύνη για τις αποφάσεις τους».
«Η τεχνητή νοημοσύνη δεν μπορεί να αντικαταστήσει ή να ανατεθεί η λήψη δικαστικών αποφάσεων», δήλωσε ο Βάγκνερ. «Ταυτόχρονα, οι νέες κατευθυντήριες γραμμές του συμβουλίου αναγνωρίζουν ότι μπορεί να υπάρξουν ευκαιρίες για την αξιοποίηση της ΤΝ με υπευθυνότητα για την υποστήριξη των δικαστών».
Οι κατευθυντήριες γραμμές λένε ότι κάθε εργαλείο ΤΝ που χρησιμοποιείται σε δικαστικές εφαρμογές θα πρέπει να είναι σε θέση να παρέχει κατανοητές εξηγήσεις για τα αποτελέσματα της λήψης αποφάσεων και ότι τα δικαστήρια θα πρέπει να παρακολουθούν τακτικά τον αντίκτυπο της χρήσης ΤΝ.
Στη B.C., ο MacLean δήλωσε ότι η υπόθεση Zhang v. Chen λειτούργησε ως «τεράστια κλήση αφύπνισης» και έκτοτε έχει αναφερθεί σε άλλες υποθέσεις που αφορούν παραισθήσεις AI.
«Το τρομακτικό με αυτές τις ψευδαισθήσεις της ΤΝ είναι ότι δεν δημιουργούν παραπομπές και περιλήψεις που είναι διφορούμενες, αλλά φαίνονται 100 τοις εκατό πραγματικές», δήλωσε ο MacLean.
«Γι’ αυτό είναι σημαντικό οι δικαστές και οι δικηγόροι να επαγρυπνούν και να ελέγχουν διπλά αυτά τα πράγματα».
Η Ke δήλωσε σε ένα ηλεκτρονικό μήνυμα που αναφέρεται στην απόφαση ότι όταν ετοίμασε την εισήγηση χρησιμοποίησε τις προτάσεις νομολογίας του ChatGPT χωρίς να τις ελέγξει, επειδή «δεν είχε ιδέα ότι αυτές οι δύο υποθέσεις θα μπορούσαν να είναι λανθασμένες».
Ο Δικηγορικός Σύλλογος της B.C. δήλωσε ότι η έρευνά του για την υπόθεση ολοκληρώθηκε «και οι ανησυχίες που διατυπώθηκαν αντιμετωπίστηκαν με τη δικηγόρο».
Η Ke δεν ήταν δυνατόν να προσεγγιστεί για σχόλια.
Ο MacLean δήλωσε ότι η απαγόρευση της ΤΝ δεν ήταν η απάντηση και αντιθέτως πρότεινε στα δικηγορικά γραφεία να εφαρμόσουν πολιτικές που απαιτούν διαφάνεια και οι δικηγόροι να εκπαιδευτούν ώστε να εντοπίζουν τις ψευδαισθήσεις της ΤΝ.
Και οι κίνδυνοι; Ο MacLean είπε ότι ο δικαστής στην υπόθεση Zhang κατά Chen, ο δικαστής David Masuhara, το είπε καλύτερα.
«Η αναφορά ψεύτικων υποθέσεων σε δικαστικές καταθέσεις και άλλο υλικό που παραδίδεται στο δικαστήριο αποτελεί κατάχρηση της διαδικασίας και ισοδυναμεί με ψευδή δήλωση στο δικαστήριο», έγραψε ο Masuhara στην απόφασή του τον Φεβρουάριο του 2024.
«Αν δεν ελεγχθεί, μπορεί να οδηγήσει σε κακοδικία».
Πηγή: The Toronto Star
