Εκατοντάδες δημόσιες προσωπικότητες – συμπεριλαμβανομένων πολλών «νονών» της Τεχνητής Νοημοσύνης και μιας εντυπωσιακά ιδιόμορφης σειράς θρησκευτικών, δημοσιογραφικών και τεχνολογικών προσωπικοτήτων – μόλις υπέγραψαν μια επιστολή με την οποία ζητούν την «απαγόρευση» της κούρσας για τη δημιουργία υπερ-νοημοσύνης Τεχνητής Νοημοσύνης.
Με τον απλό τίτλο «Δήλωση για την Υπερ-νοημοσύνη», η επιστολή, η οποία προτάθηκε από το Ινστιτούτο Μέλλον της Ζωής (FLI), είναι εξαιρετικά συνοπτική: ζητά την «απαγόρευση της ανάπτυξης της υπερ-νοημοσύνης», η οποία, όπως λέει, δεν θα πρέπει να «αρθεί πριν υπάρξει ευρεία επιστημονική συναίνεση ότι θα γίνει με ασφάλεια και έλεγχο», καθώς και με «ισχυρή συμμετοχή του κοινού».
Η επιστολή επικαλείται πρόσφατη δημοσκόπηση του FLI, το οποίο συνιδρύθηκε από τον καθηγητή του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης Max Tegmark, η οποία δείχνει ότι μόνο το 5% των Αμερικανών είναι υπέρ της ταχείας και ανεξέλεγκτης ανάπτυξης προηγμένων εργαλείων τεχνητής νοημοσύνης, ενώ πάνω από το 73% υποστηρίζει «ισχυρή» ρυθμιστική δράση για την τεχνητή νοημοσύνη. Περίπου το 64%, εν τω μεταξύ, δήλωσε ότι πιστεύει ότι μέχρι να αποδειχθεί ότι η υπερ-νοημοσύνη – ή ένα μοντέλο ΤΝ που ξεπερνά τη νοημοσύνη ανθρώπινου επιπέδου – είναι ασφαλές ή ελέγξιμο, δεν θα πρέπει να κατασκευαστεί.
Στους υπογράφοντες περιλαμβάνονται εξέχουσες προσωπικότητες της τεχνολογίας και των επιχειρήσεων, όπως ο συνιδρυτής της Apple Steve Wozniak και ο ιδρυτής της Virgin Richard Branson- σημαίνουσες δεξιές φωνές των μέσων ενημέρωσης, όπως ο οικοδεσπότης της εκπομπής «War Room» Steve Bannon και ο ραδιοφωνικός παρουσιαστής Glenn Beck, καθώς και αριστερής κατεύθυνσης διασκεδαστές, όπως ο Joseph Gordon-Levitt- ο πρίγκιπας Harry και η Meghan, δούκας και δούκισσα του Sussex- ο Mike Mullen, ο απόστρατος ναύαρχος του Πολεμικού Ναυτικού των ΗΠΑ που διετέλεσε πρόεδρος του Γενικού Επιτελείου Στρατού υπό τους πρώην προέδρους George W. Μπους και Μπαράκ Ομπάμα- ο μοναχός Πάολο Μπενάντι, ο οποίος υπηρετεί ως σύμβουλος του Πάπα για την τεχνητή νοημοσύνη- και μια μεγάλη κοινοπραξία εμπειρογνωμόνων και επιστημόνων στον τομέα της τεχνητής νοημοσύνης, μεταξύ των οποίων ο βραβευμένος με το βραβείο Τιούρινγκ Γιόσουα Μπέντζιο και ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, δύο συνεκτικοί ερευνητές της τεχνητής νοημοσύνης που κατέχουν ο καθένας τον τίτλο «νονός της τεχνητής νοημοσύνης».
«Τα συστήματα τεχνητής νοημοσύνης των συνόρων θα μπορούσαν να ξεπεράσουν τα περισσότερα άτομα στις περισσότερες γνωστικές εργασίες μέσα σε λίγα μόλις χρόνια», δήλωσε ο Bengio, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ, σε δελτίο τύπου. «Αυτές οι εξελίξεις θα μπορούσαν να ξεκλειδώσουν λύσεις σε μεγάλες παγκόσμιες προκλήσεις, αλλά ενέχουν επίσης σημαντικούς κινδύνους».
«Για να προχωρήσουμε με ασφάλεια προς την κατεύθυνση της υπερ-νοημοσύνης, πρέπει να καθορίσουμε επιστημονικά πώς να σχεδιάσουμε συστήματα τεχνητής νοημοσύνης που είναι θεμελιωδώς ανίκανα να βλάψουν τους ανθρώπους, είτε λόγω λανθασμένου προσανατολισμού είτε λόγω κακόβουλης χρήσης», πρόσθεσε. «Πρέπει επίσης να διασφαλίσουμε ότι το κοινό θα έχει πολύ ισχυρότερο λόγο στις αποφάσεις που θα διαμορφώσουν το συλλογικό μας μέλλον».
Κρίσιμο είναι το γεγονός ότι στην επιστολή διατυπώνεται η θέση ότι η υπερ-νοημοσύνη -ένα υψηλό, scifi-ιστορικό όραμα για το μέλλον της τεχνητής νοημοσύνης- είναι ένας εφικτός τεχνικός στόχος, μια θέση για την οποία ορισμένοι ειδικοί είναι επιφυλακτικοί (ή τουλάχιστον πιστεύουν ότι απέχει πολύ από το μέλλον).
Αξίζει επίσης να επισημανθεί ότι η επιστολή δεν αποσαφηνίζει την πραγματικότητα ότι η τεχνητή νοημοσύνη δεν χρειάζεται να φτάσει στην υπερ-νοημοσύνη για να προκαλέσει χάος: όπως έχει η κατάσταση, τα εργαλεία δημιουργικής ΤΝ όπως τα chatbots και τα εργαλεία δημιουργίας εικόνων και βίντεο – πρωτόγονες τεχνολογίες σε σύγκριση με τα φανταστικά μελλοντικά υπερνοητικά συστήματα ΤΝ – ανατρέπουν την εκπαίδευση, μετατρέπουν τον ιστό σε ένα όλο και πιο επιρρεπές στην παραπληροφόρηση και εξωπραγματικό περιβάλλον, επιταχύνουν τη δημιουργία και τη διάδοση μη συναινετικής και παράνομης πορνογραφίας και στέλνουν χρήστες όλων των ηλικιών σε κρίσεις ψυχικής υγείας και ρήξεις πραγματικότητας που έχουν οδηγήσει σε αποτελέσματα όπως διαζύγιο, έλλειψη στέγης, φυλακή, ακούσιες δεσμεύσεις, αυτοτραυματισμούς και θάνατο.
Είναι επίσης ενδιαφέρον ποιοι δεν υπέγραψαν την επιστολή. Στα αξιοσημείωτα ονόματα που λείπουν περιλαμβάνονται ο διευθύνων σύμβουλος της OpenAI Sam Altman, ο συνιδρυτής της DeepMind και διευθύνων σύμβουλος της Microsoft AI Mustafa Suleyman, ο διευθύνων σύμβουλος της Anthropic Dario Amodei, ο τσάρος του Λευκού Οίκου για την τεχνητή νοημοσύνη και την κρυπτογράφηση David Sacks και ο ιδρυτής της xAI Elon Musk, ο τελευταίος από τους οποίους υπέγραψε μια προηγούμενη επιστολή της FLI από το 2023 που ζητούσε παύση στην ανάπτυξη μοντέλων τεχνητής νοημοσύνης πιο προηγμένων από το GPT-4 της OpenAI. (Αυτή η επιστολή, φυσικά, δεν έκανε σχεδόν τίποτα: το GPT-5 κυκλοφόρησε το περασμένο καλοκαίρι). Ο Altman, επίσης, έχει υπογράψει παρόμοιες επιστολές που καλούν σε ευαισθητοποίηση σχετικά με τους μελλοντικούς κινδύνους της Τεχνητής Νοημοσύνης μεγάλης κλίμακας, καθιστώντας τη σιωπή σε αυτή τη συγκυρία εντυπωσιακή.
Δεδομένου ότι αυτή είναι μία από τις πολλαπλές επιστολές «παρακαλώ σταματήστε την ανάπτυξη προηγμένων AI μέχρι να ρυθμίσουμε» που εμφανίστηκαν μετά την κυκλοφορία του ChatGPT στα τέλη του 2022, το αν αυτή θα αποδειχθεί ότι έχει κάποιο αντίκρισμα είναι ένα ανοιχτό ερώτημα.
Παρόλα αυτά, η τελευταία επιστολή του FLI αναδεικνύει το εύρος των ιδεολογιών που ενώνονται στην πεποίθηση ότι η τεχνητή νοημοσύνη πρέπει να ρυθμίζεται και ότι το πώς και από ποιον θα κατασκευάσουμε την τεχνητή νοημοσύνη θα πρέπει να είναι μια δημοκρατική διαδικασία. Με άλλα λόγια, το κοινό θα πρέπει να έχει λόγο για το πώς θα είναι το τεχνολογικό μέλλον της ανθρωπότητας – και ότι η διαμόρφωση της ανάπτυξης της ΤΝ δεν θα πρέπει να γίνεται σε ένα κενό σαν την Άγρια Δύση της Silicon Valley χωρίς ρυθμιστική εποπτεία και λογοδοσία.
«Πολλοί άνθρωποι θέλουν ισχυρά εργαλεία τεχνητής νοημοσύνης για την επιστήμη, την ιατρική, την παραγωγικότητα και άλλα οφέλη», δήλωσε ο συνιδρυτής του FLI Anthony Aguirre σε δελτίο τύπου. «Όμως ο δρόμος που ακολουθούν οι εταιρείες τεχνητής νοημοσύνης, που τρέχουν προς την πιο έξυπνη από τον άνθρωπο τεχνητή νοημοσύνη, η οποία έχει σχεδιαστεί για να αντικαταστήσει τους ανθρώπους, δεν συμβαδίζει καθόλου με αυτό που θέλει το κοινό, που οι επιστήμονες θεωρούν ασφαλές ή που οι θρησκευτικοί ηγέτες θεωρούν σωστό».
«Κανείς που αναπτύσσει αυτά τα συστήματα τεχνητής νοημοσύνης δεν έχει ρωτήσει την ανθρωπότητα αν αυτό είναι εντάξει», πρόσθεσε ο Aguirre. «Εμείς το κάναμε – και αυτοί πιστεύουν ότι είναι απαράδεκτο».
Πηγή: Futurism
