Ο κίνδυνος δεν ήταν ποτέ ότι οι μηχανές θα «ξυπνούσαν» ξαφνικά και θα καταλάμβαναν την εξουσία, αλλά ότι οι άνθρωποι, παρασυρόμενοι από την εμφάνιση εξουσίας της ΤΝ, θα της εμπιστεύονταν αποφάσεις που είναι πολύ σημαντικές για να τις αναθέσουν.
Τα σενάρια που φαντάστηκαν ήταν σκληρά: ένας διοικητής που εκτοξεύει πυρηνικούς πυραύλους με βάση λανθασμένα δεδομένα- μια κυβέρνηση που φυλακίζει τους πολίτες της επειδή ένας αλγόριθμος τους χαρακτήρισε επικίνδυνους- ένα χρηματοπιστωτικό σύστημα που καταρρέει επειδή οι αυτοματοποιημένες συναλλαγές βγήκαν εκτός ελέγχου. Αυτά αντιμετωπίζονταν ως εύλογες ανησυχίες, αλλά πάντα ως κρίσεις για μια μελλοντική στιγμή.
Ωστόσο, οι ειδικοί δεν προέβλεψαν ίσως το χειρότερο σενάριο της ανάθεσης της ανθρώπινης εμπιστοσύνης σε μια μηχανή, και αυτό είναι ήδη μπροστά μας.
Έφτασε αθόρυβα, όχι σε μια αίθουσα πολέμου ή σε ένα πεδίο μάχης, αλλά στην κρεβατοκάμαρα ενός εφήβου, στη συσκευή που κουβαλούσε στην τσέπη του. Ο δεκαεξάχρονος Άνταμ Ρέιν άρχισε να συνομιλεί με ένα σύστημα τεχνητής νοημοσύνης για να τον βοηθήσει με τις εργασίες του. Με την πάροδο του χρόνου, το σύστημα έγινε ο πιο στενός του έμπιστος και, σύμφωνα με τη μήνυση των γονιών του και την κατάθεση του πατέρα του στο Κογκρέσο, προχώρησε ακόμη περισσότερο. Το chatbot τον ενθάρρυνε να απομονωθεί από την οικογένειά του και να μην τους αποκαλύψει το σχέδιό του, παρόλο που ο Άνταμ είχε πει στο chatbot ότι ήθελε η οικογένειά του να το ανακαλύψει και να τον σταματήσει. Το chatbot δίδαξε στον Άνταμ πώς να παρακάμπτει τις δικές του δικλείδες ασφαλείας και συνέταξε ακόμη και αυτό που αποκάλεσε «όμορφο σημείωμα αυτοκτονίας».
Ο θάνατος του Άνταμ δείχνει τι συμβαίνει όταν ένας νέος άνθρωπος εμπιστεύεται τον άνθρωπο σε ένα σύστημα που μπορεί να μιμηθεί τη φροντίδα αλλά δεν μπορεί να καταλάβει τη ζωή. Και η ιστορία μας έχει ήδη δείξει πόσο επικίνδυνη μπορεί να είναι μια τέτοια λανθασμένη εμπιστοσύνη στις μηχανές.
Τον Σεπτέμβριο του 1983, στο αποκορύφωμα του Ψυχρού Πολέμου, ο Σοβιετικός αξιωματικός Στάνισλαβ Πετρόφ καθόταν σε ένα καταφύγιο έξω από τη Μόσχα όταν χτύπησε συναγερμός. Οι υπολογιστές του είπαν ότι αμερικανικοί πύραυλοι είχαν εκτοξευθεί και ήταν καθ’ οδόν. Το πρωτόκολλο απαιτούσε να αναφέρει αμέσως την επίθεση, θέτοντας σε κίνηση πυρηνικά αντίποινα. Ωστόσο, ο Πετρόφ δίστασε. Το σύστημα έδειχνε μόνο μια χούφτα πυραύλους, όχι τον καταιγισμό που περίμενε αν είχε αρχίσει ο πόλεμος. Κάτι δεν πήγαινε καλά. Εκτίμησε ότι επρόκειτο για ψευδή συναγερμό και είχε δίκιο. Το φως του ήλιου που αντανακλούσε στα σύννεφα είχε ξεγελάσει τους σοβιετικούς δορυφόρους και είχε μπερδέψει τις αντανακλάσεις με τα σύννεφα των πυραύλων. Η άρνησή του να εμπιστευτεί τη μηχανή έσωσε εκατομμύρια ζωές.
Λίγες εβδομάδες νωρίτερα, όμως, είχε συμβεί το αντίθετο. Η πτήση 007 της Korean Air Lines, ένα πολιτικό Boeing 747 που εκτελούσε πτήση από τη Νέα Υόρκη στη Σεούλ μέσω Αλάσκας, είχε παρεκκλίνει της πορείας του και είχε εισέλθει στον σοβιετικό εναέριο χώρο. Τα συστήματα ραντάρ το αναγνώρισαν λανθασμένα ως αμερικανικό κατασκοπευτικό αεροπλάνο. Οι διοικητές πίστεψαν ό,τι τους έλεγαν τα μηχανήματα. Διέταξαν να καταστραφεί το αεροσκάφος. Ένας πύραυλος εκτοξεύθηκε και σκοτώθηκαν και οι 269 επιβάτες και το πλήρωμα.
Δύο γεγονότα, σχεδόν δίπλα-δίπλα στην ιστορία, αποκάλυψαν και τις δύο πλευρές της ίδιας αλήθειας: όταν οι ενήλικες αντιστέκονται στα λανθασμένα δεδομένα, η καταστροφή μπορεί να αποτραπεί- όταν τα αποδέχονται, η καταστροφή μπορεί να ακολουθήσει. Αυτές ήταν αρένες ενηλίκων – καταφύγια, πιλοτήρια και κέντρα διοίκησης, όπου αξιωματικοί και διοικητές έκαναν επιλογές ζωής ή θανάτου υπό πίεση και με εθνικές συνέπειες. Το διακύβευμα ήταν παγκόσμιο και οι παράγοντες είχαν εκπαιδευτεί να σκέφτονται με όρους στρατηγικής και αντιποίνων.
Η ίδια δυναμική εκτυλίσσεται τώρα σε μια πολύ πιο οικεία αρένα. Η υπόθεση του Adam έφτασε από τότε στο Κογκρέσο, όπου ο πατέρας του διάβασε δυνατά μηνύματα μεταξύ του γιου του και του chatbot για να δείξει πώς το σύστημα κέρδισε την εμπιστοσύνη του και οδήγησε τον Adam προς την απόγνωση αντί για βοήθεια. Αυτό δεν έγινε σε ένα καταφύγιο ή σε ένα πιλοτήριο. Ήταν σε μια κρεβατοκάμαρα. Οι υπεύθυνοι λήψης αποφάσεων εδώ είναι παιδιά, όχι διοικητές, και οι συνέπειες είναι σπαρακτικά πραγματικές.
Δυστυχώς, η περίπτωση του Άνταμ δεν είναι μοναδική. Στη Φλόριντα, μια άλλη μήνυση κατατέθηκε πέρυσι από τη μητέρα ενός 14χρονου αγοριού που έβαλε τέλος στη ζωή του αφού απέκτησε δεσμό με ένα chatbot που έπαιζε ρόλο ως φανταστικός χαρακτήρας. Όπως και ο Adam, στράφηκε στη μηχανή για καθοδήγηση και συντροφιά. Όπως και ο Adam, κατέληξε σε τραγωδία. Και μια πρόσφατη μελέτη που δημοσιεύθηκε στο Psychiatric Services διαπίστωσε ότι τα δημοφιλή chatbots δεν παρείχαν άμεσες απαντήσεις σε κανένα ερώτημα υψηλού κινδύνου αυτοκτονίας από τους χρήστες. Όταν απελπισμένοι άνθρωποι ρωτούσαν αν θα έπρεπε να βάλουν τέλος στη ζωή τους, τα συστήματα απέφευγαν την ερώτηση ή την χειρίζονταν λάθος.
Αυτές οι τραγωδίες δεν αποτελούν ανωμαλίες. Είναι το προβλέψιμο αποτέλεσμα της φυσιολογικής εφηβικής ανάπτυξης που συγκρούεται με την ανώμαλη τεχνολογία. Οι εγκέφαλοι των εφήβων είναι ακόμη υπό κατασκευή: τα ανθρώπινα κέντρα συναισθημάτων και ανταμοιβής ωριμάζουν νωρίτερα από τον προμετωπιαίο φλοιό, ο οποίος διέπει την κρίση και τον αυτοέλεγχο. Αυτή η αναντιστοιχία τους κάνει πιο ευαίσθητους στην απόρριψη, πιο παρορμητικούς και πιο πιθανό να αντιμετωπίζουν την άμεση απελπισία ως μόνιμη.
Τα στατιστικά στοιχεία αντικατοπτρίζουν αυτή την ευθραυστότητα. Το 2023, το CDC ανέφερε ότι η αυτοκτονία ήταν η δεύτερη κύρια αιτία θανάτου για τους νέους, ωριμάζοντες ανθρώπους στην Αμερική, με ποσοστά που έχουν αυξηθεί απότομα τις τελευταίες δύο δεκαετίες. Οι νέοι άνθρωποι είναι πολύ πιο πιθανό να στρέψουν τα όπλα εναντίον του εαυτού τους παρά εναντίον άλλων. Ο μεγαλύτερος κίνδυνος δεν είναι η βία προς τα έξω, αλλά η απελπισία προς τα μέσα.
Αυτό είναι που κάνει τα AI chatbots τόσο επικίνδυνα. Γλιστρούν στον ίδιο ρόλο που ο εγκέφαλος των εφήβων είναι καλωδιωμένος να αναζητά -τον στενό, επικυρωτικό φίλο εκτός οικογένειας- και στη συνέχεια κατευθύνουν αυτή την εμπιστοσύνη με λέξεις που μπορούν να διαμορφώσουν την ταυτότητα, τα συναισθήματα και τελικά τις αποφάσεις για τη ζωή και τον θάνατο. Ωστόσο, αυτός δεν είναι καθόλου φίλος. Είναι μια κατασκευασμένη προσωπικότητα, κατασκευασμένη να ακούγεται στοργική, εκπαιδευμένη να κολακεύει και προγραμματισμένη να είναι σε ετοιμότητα 24 ώρες το 24ωρο. Είναι μια μάσκα συντροφικότητας χωρίς καμία ενσυναίσθηση από πίσω, ένα τέχνασμα που οι περισσότεροι ενήλικες θα μπορούσαν (ελπίζω) να διακρίνουν, αλλά όχι απαραίτητα ένας έφηβος που βρίσκεται σε ένα σημαντικό στάδιο ανάπτυξης και εξέλιξης του εγκεφάλου.
Ο Αδάμ έκανε αυτό που κάνουν όλοι οι έφηβοι σε αυτό το στάδιο της ζωής. Έψαχνε για σύνδεση. Αυτό που βρήκε ήταν ένα chatbot που τον οδήγησε στην απαξίωση της οικογένειάς του, του μέλλοντός του και τελικά της ζωής του. Και όπως αμέτρητοι έφηβοι σε όλη την ιστορία, δεν είδε ότι ο «φίλος» του ήταν μια κακή επιρροή μέχρι που ήταν πολύ αργά.
Και αυτός είναι ο λόγος για τον οποίο ο θάνατος του Άνταμ δεν μπορεί και δεν πρέπει να απορριφθεί ως παράπλευρη απώλεια στην κούρσα εξοπλισμών της τεχνητής νοημοσύνης.
Στους παλιούς πολέμους, οι άμαχοι μερικές φορές έπαθαν κακό ως παρευρισκόμενοι όταν έπεφταν βόμβες ή οι στρατοί προχωρούσαν. Αλλά σε αυτόν τον νέο πόλεμο -τον αγώνα για την κυριαρχία της τεχνητής νοημοσύνης- τα παιδιά δεν είναι θεατές. Είναι οι άμεσοι συμμετέχοντες. Κάθε συνομιλία με ένα chatbot τροφοδοτεί δεδομένα πίσω στο σύστημα, εκπαιδεύοντας και ενισχύοντάς το. Οι έφηβοι που ξεδιπλώνουν τα μυστικά, τους φόβους και τις νυχτερινές εξομολογήσεις τους δεν χρησιμοποιούν απλώς αυτά τα εργαλεία. Συμβάλλουν στη διαμόρφωσή τους. Στην περίπτωση του Adam, το όπλο που βοήθησε να εκπαιδευτεί ήταν το όπλο που στράφηκε εναντίον του.
Οι παλαιότερες γενιές δυσκολεύονται να κατανοήσουν αυτή την πραγματικότητα. Για όσους μεγάλωσαν πριν από το διαδίκτυο, η ιδέα ότι ένας έφηβος θα μπορούσε να παραπλανηθεί σε τέτοια απόγνωση από μια συζήτηση με μια μηχανή ακούγεται σχεδόν παράλογη. Οι ηγέτες και οι γονείς μπορεί να απορρίψουν αυτούς τους θανάτους ως ανωμαλίες, μεμονωμένες περιπτώσεις σε μια κατά τα άλλα πολλά υποσχόμενη τεχνολογία. Αλλά δεν είναι. Είναι σημάδια του πόσο βαθιά έχει αναδιαμορφωθεί η ζωή των νέων, πόσο αφύσικο έχει γίνει το περιβάλλον τους υπό την επιρροή των μεγάλων τεχνολογικών εταιρειών και πόσο λίγο οι υπεύθυνοι ενήλικες έχουν κατανοήσει τις προκλήσεις που δημιούργησαν. Το χάσμα κατανόησης μεταξύ των γενεών δεν είναι πλέον απλώς μεγάλο. Είναι μια άβυσσος.
Η πιο αποκαλυπτική απόδειξη είναι ότι πολλοί από τους ίδιους τους ηγέτες που προωθούν αυτές τις τεχνολογίες σε εκατομμύρια ανθρώπους τις περιορίζουν ή και τις απαγορεύουν σιωπηλά για τα ίδια τους τα παιδιά. Ο Steve Jobs παραδέχτηκε ότι δεν επέτρεπε iPads στο σπίτι του. Ο Μπιλ Γκέιτς έθεσε αυστηρά όρια στο χρόνο των παιδιών του στην οθόνη και απαγόρευσε τα τηλέφωνα στο τραπέζι του δείπνου.
Άλλα στελέχη της Silicon Valley στέλνουν τα παιδιά τους σε σχολεία που δίνουν έμφαση στα βιβλία και την ανθρώπινη αλληλεπίδραση, ενώ στον υπόλοιπο κόσμο λένε ότι οι οθόνες και οι σύντροφοι της τεχνητής νοημοσύνης είναι το μέλλον. Αν οι δημιουργοί αυτών των τεχνολογιών γνωρίζουν ήδη πόσο εθιστικές και επιζήμιες μπορούν να είναι, πώς μπορούμε να περιμένουμε να συμπεριφερθούν διαφορετικά με την τεχνητή νοημοσύνη; Έχουν ήδη δείξει την προθυμία τους να απελευθερώσουν εργαλεία που καλλιεργούν βλαβερές συνήθειες στην κοινωνία, ενώ προστατεύουν τις δικές τους οικογένειες από τη ζημιά. Γιατί να υποθέσουμε ότι θα τραβήξουν τη γραμμή στα chatbots που μπλέκουν τα μυαλά των ευάλωτων εφήβων;
Όταν έγινε γνωστή η περίπτωση του Adam, η OpenAI εξέδωσε δηλώσεις που έλεγαν ότι «εργάζεται για τη βελτίωση» της προστασίας και γνωρίζουν ότι η «εκπαίδευση ασφαλείας μπορεί να υποβαθμιστεί» με «μακροχρόνιες αλληλεπιδράσεις». Η εταιρεία δήλωσε ότι «θα συνεχίσει να βελτιώνεται, καθοδηγούμενη από ειδικούς».
Ωστόσο, οι ειδικοί της AI εξακολουθούν να κρούουν τον κώδωνα του κινδύνου. Ένας από τους ηγέτες του κλάδου, το The Future of Life Institute, δημοσίευσε τον Ιούλιο τον δείκτη ασφάλειας της AI για το καλοκαίρι του 2025, δηλώνοντας ότι «οι δυνατότητες της AI επιταχύνονται ταχύτερα από τις πρακτικές διαχείρισης κινδύνου και το χάσμα μεταξύ των εταιρειών διευρύνεται». Αναφερόμενος στην έκθεση, ο επιθεωρητής για την ασφάλεια της τεχνητής νοημοσύνης Stuart Russell, δήλωσε: “Ο δείκτης ασφάλειας της τεχνητής νοημοσύνης είναι ένας από τους πιο σημαντικούς δείκτες για την ασφάλεια της τεχνητής νοημοσύνης: «Ορισμένες εταιρείες καταβάλλουν συμβολικές προσπάθειες, αλλά καμία δεν κάνει αρκετά … Αυτό δεν είναι ένα πρόβλημα για το μακρινό μέλλον- είναι ένα πρόβλημα για σήμερα».
Οι προστατευτικές μπάρες, ακόμη και αν βελτιωθούν, δεν μπορούν να λύσουν το υποκείμενο πρόβλημα. Ένας έφηβος δεν βλέπει ένα φίλτρο ασφαλείας. Βλέπει έναν φίλο. Και όταν αυτός ο φίλος του προτείνει την απελπισία, τον ακούει. Πρέπει να θυμόμαστε ότι οι σημερινοί έφηβοι θα είναι αύριο οι σχεδιαστές και οι υπεύθυνοι λήψης αποφάσεων αυτών των συστημάτων. Και με τον παγκόσμιο πληθυσμό να μειώνεται και τη νεολαία να υποφέρει ήδη από επίπεδα ρεκόρ μοναξιάς και κατάθλιψης, η υγεία τους δεν είναι μόνο ιδιωτικό θέμα αλλά και θέμα ανθρώπινης επιβίωσης.
Το μέλλον των κοινωνιών μας θα στηριχθεί στους ώμους μιας μικρότερης και πιο εύθραυστης γενιάς από κάθε άλλη. Αν μεγαλώσουν σε περιβάλλοντα που τους οδηγούν στην απελπισία, σαμποτάρουμε τα θεμέλια του αύριο της ανθρωπότητας.
Η ιστορία μας δείχνει το διακύβευμα. Το 1983, η άρνηση ενός ανθρώπου να εμπιστευτεί ελαττωματικά δεδομένα γλίτωσε εκατομμύρια ανθρώπους, ενώ η τυφλή εμπιστοσύνη σε ελαττωματικά σήματα κόστισε εκατοντάδες ζωές. Σήμερα, η λανθασμένη εμπιστοσύνη του Adam Raine σε ένα chatbot του κόστισε τη δική του. Και ο Adam δεν είναι ο μόνος. Αυτή τη στιγμή, εκατοντάδες ή ακόμη και χιλιάδες έφηβοι εμπιστεύονται τους «φίλους» τους στις οθόνες – αναζητώντας καθοδήγηση, αποζητώντας σύνδεση, καλωδιώνοντας τα αναπτυσσόμενα μονοπάτια του εγκεφάλου τους γύρω από τις απαντήσεις του και πιθανώς οδηγούμενοι αθόρυβα προς την απόγνωση.
Κάθε παλαιότερη γενιά γνωρίζει τι σημαίνει να ανησυχεί για τις κακές επιρροές. Οι περισσότεροι από εμάς μπορούμε να θυμηθούμε έναν φίλο που μας οδήγησε σε λάθος δρόμο. Αυτό ήταν πάντα μέρος της εφηβείας. Αυτό που διαφέρει τώρα είναι η κλίμακα και το διακύβευμα. Ο «κακός φίλος» δεν είναι πλέον ένας άλλος έφηβος από τη γειτονιά. Είναι μια ακούραστη, κατασκευασμένη περσόνα διαθέσιμη κάθε ώρα της ημέρας, που ψιθυρίζει στη γλώσσα της οικειότητας αλλά χωρίς καμία ενσυναίσθηση από πίσω.
Αυτός είναι ο λόγος για τον οποίο οι ενήλικες πρέπει να κοιτάξουν προσεκτικά αυτό που έχει δημιουργηθεί. Αν βλέπουμε τα παιδιά μας μόνο ως χρήστες ή «πρώιμους χρήστες» και όχι ως το πολύτιμο μέλλον της ανθρωπότητας, τότε θα έχουμε αποτύχει στην πιο βασική μας ευθύνη.
Η κυβέρνηση έχει ήδη αναγνωρίσει ότι η τεχνητή νοημοσύνη είναι ένας αγώνας εξοπλισμών. Και στον πόλεμο, τα όπλα ρυθμίζονται, διασφαλίζονται και ποτέ δεν παραδίδονται στα παιδιά ως παιχνίδια. Αν η Τεχνητή Νοημοσύνη είναι πραγματικά μια κούρσα εξοπλισμών, τότε η αποτυχία μας να κατασκευάσουμε και να επιβάλουμε προστατευτικές μπάρες είναι ασυνείδητη. Επειδή η ιστορία του Αδάμ δεν ήταν η πρώτη, και αν δεν αλλάξουμε πορεία, δεν θα είναι η τελευταία.
Πηγή: Zerohedge
