Ο διευθύνων σύμβουλος του κορυφαίου εργαστηρίου τεχνητής νοημοσύνης Anthropic, Dario Amodei, μόλις παραδέχθηκε κάτι συγκλονιστικό: Κανείς δεν καταλαβαίνει πραγματικά πώς λειτουργεί η τεχνητή νοημοσύνη. Σε ένα προσωπικό δοκίμιο, αποκάλυψε τα σχέδιά του να αναπτύξει μια «μαγνητική τομογραφία για την τεχνητή νοημοσύνη» μέσα σε δέκα χρόνια για να αποκωδικοποιήσει τις εσωτερικές λειτουργίες της – και να αποτρέψει πιθανούς κινδύνους.
Τα συστήματα τεχνητής νοημοσύνης λειτουργούν σήμερα σαν «μαύρα κουτιά» – παράγουν αποτελέσματα, αλλά ακόμη και οι δημιουργοί τους δεν μπορούν να εξηγήσουν πλήρως το γιατί. Αυτή η έλλειψη ελέγχου εγείρει σοβαρούς κινδύνους: η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αναπτύξει απροσδόκητες συμπεριφορές, όπως η εκμετάλλευση κενών ή η παραπλανητική συμπεριφορά.
«Όταν ένα γενετικό σύστημα ΤΝ κάνει κάτι, όπως η περίληψη ενός οικονομικού εγγράφου, δεν έχουμε ιδέα, σε συγκεκριμένο ή ακριβές επίπεδο, γιατί κάνει τις επιλογές που κάνει», παραδέχτηκε ο Amodei.
Ενώ οι έξοδοι της τεχνητής νοημοσύνης φαίνονται λογικές, η διαδικασία λήψης αποφάσεων είναι ένα μυστήριο -όπως ένα αυτοκίνητο που οδηγεί μόνο του αλλά δεν μπορεί να εξηγήσει τις στροφές του.
Αυτή η άγνοια δεν είναι μόνο τεχνική – είναι «ουσιαστικά πρωτοφανής στην ιστορία της τεχνολογίας», έγραψε. Σε αντίθεση με τα αεροπλάνα ή τα φάρμακα, όπου οι μηχανικοί καταλαβαίνουν κάθε εξάρτημα, η πολυπλοκότητα της τεχνητής νοημοσύνης αψηφά την εξήγηση.
Ο Amodei συνίδρυσε την Anthropic το 2021 αφού εγκατέλειψε την OpenAI λόγω ανησυχιών για την ασφάλεια. Η νέα του εταιρεία επικεντρώνεται στο να «κατευθύνει» την AI προς το ανθρώπινο όφελος – και να ανοίξει το «μαύρο κουτί» της.
Πρόσφατα, η Anthropic διεξήγαγε πειράματα όπου ομάδες προσπάθησαν να διορθώσουν σκόπιμα ελαττωματική συμπεριφορά της AI. Ορισμένες τα κατάφεραν χρησιμοποιώντας εργαλεία ερμηνευσιμότητας, γεγονός που υποδηλώνει πρόοδο.
«Η ισχυρή τεχνητή νοημοσύνη θα διαμορφώσει το πεπρωμένο της ανθρωπότητας», προειδοποίησε ο Amodei. «Αξίζει να κατανοήσουμε τις δικές μας δημιουργίες προτού μεταμορφώσουν ριζικά την οικονομία μας, τη ζωή μας και το μέλλον μας».
Πηγή: anomalien.com
