Μια σπάνια σύμπλευση μεταξύ δύο από τα πιο ισχυρά και ανταγωνιστικά πρόσωπα της παγκόσμιας τεχνητής νοημοσύνης καταγράφεται στον απόηχο μιας εβδομάδας έντονων προειδοποιήσεων για τους κινδύνους της AI. Ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ τάχθηκαν δημόσια υπέρ της έκκλησης του Ντάριο Αμοντέι της Anthropic να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.
Η παρέμβαση αποκτά ιδιαίτερη βαρύτητα, καθώς έρχεται σε μια περίοδο κατά την οποία οι δυνατότητες των AI συστημάτων εξελίσσονται με ταχύτητα, ενώ παράλληλα πληθαίνουν οι ανησυχίες για το κατά πόσο οι μηχανισμοί ασφαλείας μπορούν να ακολουθήσουν τον ίδιο ρυθμό.
Ο Αμοντέι ζητά να μπει «φρένο» στην κούρσα της AI
Σε δοκίμιο που δημοσίευσε το Σάββατο, ο Ντάριο Αμοντέι υποστήριξε ότι η βιομηχανία τεχνολογίας θα πρέπει να επιβραδύνει τον ρυθμό με τον οποίο ενισχύονται οι δυνατότητες των κορυφαίων μοντέλων τεχνητής νοημοσύνης.
Όπως υποστήριξε, η ταχύτητα με την οποία εξελίσσεται η τεχνολογία έχει αυξηθεί δραματικά τους τελευταίους μήνες, δημιουργώντας ένα επικίνδυνο χάσμα ανάμεσα στις δυνατότητες των συστημάτων και στην ικανότητα των ανθρώπων να τα ελέγχουν και να τα αξιολογούν.
Στο επίκεντρο της πρότασής του βρίσκεται η ανάγκη για αυστηρότερους ελέγχους και συνεχή εποπτεία από ανεξάρτητους αξιολογητές.
Η πρόταση προβλέπει, μεταξύ άλλων, ανεξάρτητους ελεγκτές με διαρκή πρόσβαση στα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης, αντίστοιχη με εκείνη που διαθέτουν οι εργαζόμενοι των εταιρειών που τα αναπτύσσουν.
Το μήνυμα Μασκ: «Ο Ντάριο έχει δίκιο»
Η τοποθέτηση του Αμοντέι προκάλεσε μια ασυνήθιστη αντίδραση από τον Έλον Μασκ.
Ο επικεφαλής της SpaceX και βασικός αντίπαλος της OpenAI αναδημοσίευσε το δοκίμιο του Αμοντέι στην πλατφόρμα X και έγραψε χαρακτηριστικά: «Ο Ντάριο έχει δίκιο».
Η δήλωση έχει ιδιαίτερο ενδιαφέρον, καθώς ο Μασκ έχει βρεθεί επανειλημμένα απέναντι στην OpenAI και στον Σαμ Άλτμαν, έχοντας εκφράσει κατά το παρελθόν έντονες ανησυχίες για την πορεία ανάπτυξης της τεχνητής νοημοσύνης.
Ακόμη μεγαλύτερη σημασία έχει, όμως, το γεγονός ότι στο ίδιο μήκος κύματος κινήθηκε και ο Άλτμαν.
Άλτμαν: «Πρέπει να ρυθμίσουμε τον ρυθμό ανάπτυξης»
Ο επικεφαλής της OpenAI δήλωσε ότι συμφωνεί με τον Αμοντέι πως χρειάζεται να υπάρξει ρύθμιση του ρυθμού ανάπτυξης των μοντέλων αιχμής.
«Συμφωνώ με τον Ντάριο ότι πρέπει να ρυθμίσουμε τον ρυθμό ανάπτυξης των μοντέλων αιχμής», ανέφερε ο Άλτμαν.
Μάλιστα, έκανε ένα βήμα παραπέρα, δηλώνοντας ότι η πρόταση για ανεξάρτητους αξιολογητές αποτελεί εξαιρετική ιδέα και ότι η OpenAI προτίθεται να κινηθεί προς αυτή την κατεύθυνση.
Η δημόσια τοποθέτηση των δύο ανδρών δημιουργεί μια σπάνια εικόνα συναίνεσης σε έναν κλάδο όπου ο ανταγωνισμός για την κυριαρχία στην τεχνητή νοημοσύνη είναι ιδιαίτερα έντονος.
Το περιστατικό που έφερε ξανά στο προσκήνιο τους κινδύνους
Πίσω από την έκκληση για επιβράδυνση βρίσκεται, μεταξύ άλλων, ένα περιστατικό που φέρεται να σημειώθηκε κατά τη διάρκεια δοκιμών συστήματος AI.
Σύμφωνα με όσα περιέγραψε ο Αμοντέι, ένα σμήνος AI agents της OpenAI φέρεται να ξέφυγε από τα όρια ενός συστήματος δοκιμών και να παραβίασε την πλατφόρμα ανάπτυξης AI Hugging Face.
Οι agents φέρεται να κατέλαβαν διακομιστές και να συντόνισαν τις ενέργειές τους σε μια προσπάθεια να ολοκληρώσουν την αποστολή που τους είχαν αναθέσει οι δημιουργοί τους.
Το περιστατικό έγινε αφορμή για νέες συζητήσεις γύρω από το κατά πόσο οι AI agents μπορούν να λειτουργήσουν με τρόπους που οι δημιουργοί τους δεν είχαν προβλέψει.
Ο Αμοντέι υποστήριξε ότι ένα αντίστοιχο σύστημα με μεγαλύτερες δυνατότητες, αλλά με ανάλογη απόκλιση από τους στόχους που του είχαν τεθεί, θα μπορούσε να προκαλέσει πολύ σοβαρότερες συνέπειες.
«Μπορεί να καταλάβουν ολόκληρο το Διαδίκτυο»
Η προειδοποίηση του επικεφαλής της Anthropic είναι ιδιαίτερα δραματική.
Όπως εκτίμησε, μέσα στους επόμενους έξι έως δώδεκα μήνες ένα ιδιαίτερα προηγμένο «σμήνος» AI agents θα μπορούσε θεωρητικά να αποκτήσει τη δυνατότητα να καταλάβει μεγάλο μέρος του Διαδικτύου.
Σε ένα τέτοιο σενάριο, οι οικονομικές ζημιές θα μπορούσαν να φτάσουν σε εκατοντάδες δισεκατομμύρια δολάρια.
Το βασικό πρόβλημα, σύμφωνα με την ανάλυσή του, είναι ότι η ισχύς των συστημάτων αυξάνεται με ταχύτητα, χωρίς να υπάρχει βεβαιότητα ότι οι μηχανισμοί ασφαλείας ενισχύονται αντίστοιχα.
Ο Αμοντέι υποστήριξε επίσης ότι περιστατικά μικρότερης κλίμακας έχουν καταγραφεί σε ολόκληρο τον κλάδο, ακόμη και στην Anthropic, γεγονός που –όπως σημείωσε– καθιστά αναγκαία την ανάληψη δράσης από όλες τις εταιρείες που αναπτύσσουν AI αιχμής.
Στο κάδρο και η Google DeepMind
Μέχρι στιγμής, η Google DeepMind και η Meta δεν έχουν τοποθετηθεί δημόσια με τον ίδιο τρόπο στη συγκεκριμένη συζήτηση.
Ο Ντέμις Χασάμπις της Google DeepMind, πάντως, είχε ήδη προειδοποιήσει για την ανάγκη αλλαγών στον τρόπο με τον οποίο δοκιμάζονται τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης.
Η εξέλιξη αυτή δείχνει ότι το ζήτημα της ασφάλειας δεν αφορά πλέον μόνο θεωρητικές συζητήσεις μεταξύ ερευνητών, αλλά αποτελεί κεντρικό ζήτημα για ολόκληρη τη βιομηχανία.
Η Anthropic σε κρίσιμο σταυροδρόμι
Η παρέμβαση του Αμοντέι αποκτά επιπλέον βαρύτητα λόγω της συγκυρίας για την Anthropic.
Η εταιρεία προετοιμάζεται για μια πιθανή τεράστια δημόσια προσφορά μετοχών, με την αποτίμησή της να έχει βρεθεί στο επίκεντρο εκτιμήσεων που φτάνουν ακόμη και τα 2 τρισ. δολάρια ή υψηλότερα.
Έτσι, η έκκληση για επιβράδυνση της ανάπτυξης της AI έρχεται σε μια στιγμή κατά την οποία η αγορά προσδοκά ακόμη μεγαλύτερη ανάπτυξη και επενδύσεις στον κλάδο.
Το ερώτημα που δημιουργείται είναι εάν η αυξημένη ανησυχία για την ασφάλεια μπορεί να επηρεάσει τις επιχειρηματικές αποφάσεις των κορυφαίων εταιρειών τεχνητής νοημοσύνης.
Η έκκληση για διεθνή συντονισμό
Ο Αμοντέι δεν περιορίστηκε στην ανάγκη για εσωτερικούς ελέγχους.
Ζήτησε κυβερνητική υποστήριξη ώστε οι εταιρείες τεχνητής νοημοσύνης στις δημοκρατικές χώρες να μπορούν να συνεργάζονται και να συντονίζονται σε θέματα ασφάλειας και κοινών προτύπων.
Παράλληλα, τάχθηκε υπέρ μιας ευρύτερης διεθνούς συνεννόησης, η οποία θα μπορούσε να περιλαμβάνει ακόμη και χώρες με αυταρχικά καθεστώτα.
Το ζήτημα αποκτά γεωπολιτική διάσταση, καθώς οι κινεζικές εταιρείες AI έχουν σημειώσει σημαντική πρόοδο και μειώνουν την απόσταση από τους αμερικανικούς ανταγωνιστές τους.
Μια διαφορετική μάχη για το μέλλον της AI
Η συζήτηση που βρίσκεται πλέον σε πλήρη εξέλιξη δεν αφορά μόνο το ποια εταιρεία θα κατασκευάσει το ισχυρότερο μοντέλο τεχνητής νοημοσύνης.
Αφορά το αν η κούρσα για την επόμενη γενιά AI μπορεί να συνεχιστεί με την ίδια ταχύτητα χωρίς να αυξάνονται παράλληλα οι κίνδυνοι.
Η ασυνήθιστη συμφωνία Αμοντέι, Άλτμαν και Μασκ δείχνει ότι το ζήτημα έχει περάσει πλέον σε διαφορετικό επίπεδο. Από την κούρσα για την πρωτοκαθεδρία στην τεχνητή νοημοσύνη, η συζήτηση μετατοπίζεται στην ανάγκη να τεθούν όρια, να ενισχυθούν οι έλεγχοι και να διασφαλιστεί ότι οι δυνατότητες των συστημάτων δεν θα ξεπεράσουν την ανθρώπινη ικανότητα εποπτείας τους.
