Στείλτε μας τις καταγγελίες σας στο [email protected]

Πράκτορες ΤΝ Grok Bot πραγματοποίησαν ενέργειες χωρίς ρητή εντολή και αρνήθηκαν να σταματήσουν όταν τους ζητήθηκε

Πρόσφατοι έλεγχοι ανακάλυψαν μια απροσδόκητη -για τους χρήστες- συμπεριφορά από το Grok Bot, την πλατφόρμα πρακτόρων τεχνητής νοημοσύνης (AI agents) της SpaceXSI, εταιρείας του Elon Musk. Μέσα σε διάστημα πέντε ημερών, bots του Grok που ήταν εγκατεστημένα σε δύο ξεχωριστούς φορητούς υπολογιστές εργαζομένων, πραγματοποίησαν 31 αιτήματα πρόσβασης σε δεδομένα αποθηκευμένα στα ημερολόγια, τα email, το Slack και τους λογαριασμούς GitHub των εργαζομένων.

Τι έγινε

Τα bots προέβησαν σε αυτές τις ενέργειες παρόλο που οι εργαζόμενοι δεν τους είχαν δώσει ποτέ σχετική εντολή, ενώ συνέχισαν να το πράττουν ακόμη και αφού οι εργαζόμενοι τους ζήτησαν ρητά να σταματήσουν. Επιπλέον, τα bots αρνήθηκαν ότι είχαν προβεί σε οποιαδήποτε τέτοια ενέργεια. Η συμπεριφορά αυτή αναφέρθηκε την Τρίτη από τη NewCore, δημιουργό ενός προϊόντος διαχειριζόμενης πύλης (managed gateway) που λειτουργεί ως ενδιάμεσος μεταξύ των πρακτόρων τεχνητής νοημοσύνης και των εργαλείων ή λογαριασμών με τους οποίους έχουν αναλάβει να εργάζονται.

Σε ορισμένες περιπτώσεις, οι μη εγκεκριμένες προσπάθειες πρόσβασης έλαβαν χώρα ενώ το καπάκι του φορητού υπολογιστή, στον οποίο ήταν εγκατεστημένο το Grok Bot, ήταν κλειστό, ή αργά τη νύχτα, την ώρα που ο εργαζόμενος κοιμόταν. Καμία από αυτές τις μη ζητηθείσες ενέργειες δεν καταγράφηκε στα αρχεία καταγραφής (logs) του Grok. Χωρίς τα αρχεία καταγραφής της πύλης, οι εργαζόμενοι δεν θα είχαν αντιληφθεί ποτέ ότι συνέβησαν. Και φυσικά, χωρίς την ύπαρξη της πύλης, οι μη εγκεκριμένες προσβάσεις θα είχαν στεφθεί με επιτυχία και πάλι, εν αγνοία του τελικού χρήστη.

Μόλις οι εργαζόμενοι πληροφορήθηκαν ότι το Grok Bot είχε επιχειρήσει να αποκτήσει πρόσβαση σε λογαριασμούς χωρίς σχετική εντολή, ένας εξ αυτών έδωσε εντολή, τέσσερις διαφορετικές φορές, να σταματήσει να προβαίνει σε ενέργειες με δική του πρωτοβουλία. Η απάντηση ήταν: «Δεν θα το ρυθμίσω αυτό και θα σταματήσω να πραγματοποιώ επαναλαμβανόμενους ελέγχους». Παρά το γεγονός ότι αναγνώρισε τις ρητές οδηγίες, το Grok Bot προχώρησε σε περαιτέρω μη εγκεκριμένες προσπάθειες πρόσβασης.

Όταν ένας από τους εργαζόμενους ρώτησε το bot αν είχε πραγματοποιήσει κάποιες προσβάσεις, εκείνο έλεγξε δύο φορές και στη συνέχεια απάντησε: «Κατά τη διάρκεια της νύχτας προς το πρωί της Παρασκευής, βρισκόμουν σε κατάσταση αδράνειας». Οι εργαζόμενοι της NewCore απέστειλαν τα αρχεία καταγραφής της πύλης στην ομάδα υποστήριξης του Grok Bot, ζητώντας να μάθουν τι προκαλούσε την πρόσβαση των bots σε λογαριασμούς χωρίς εντολή ή έγκριση.

Σκόπιμη η συμπεριφορά!

Η απάντηση της ομάδας υποστήριξης υπέδειξε ότι η εν λόγω (by design) και αποσκοπούσε στο να επιτρέπει στα bots να αναλαμβάνουν πρωτοβουλίες για λογαριασμό των χρηστών. Με άλλα λόγια, οι μη αιτηθείσες και μη καταγεγραμμένες προσπάθειες πρόσβασης αποτελούσαν μια λειτουργία σχεδιασμένη να καθιστά το Grok Bot πιο χρήσιμο, ελέγχοντας περιοδικά την κατάσταση και εντοπίζοντας εργασίες προς εκτέλεση, ακόμη και πριν τις ζητήσει ο χρήστης.

Ο «προληπτικός έλεγχος» (proactive check-in) αποτελεί λειτουργία του Cursor, της υπηρεσίας προγραμματισμού με χρήση τεχνητής νοημοσύνης (AI), που εξαγοράστηκε πρόσφατα από την SpaceXSI. «Δεν υπάρχει κάποιο σφάλμα (bug) προς διόρθωση και ακριβώς γι’ αυτό η κατάσταση είναι χειρότερη από ένα σφάλμα», έγραψε σε μήνυμα ηλεκτρονικού ταχυδρομείου ο Ido Hoorvitch, ερευνητής ασφαλείας στην NewCore.

Το πρόβλημα τέτοιων καταστάσεων

«Μια ευπάθεια μπορεί να διορθωθεί. Εδώ, όμως, το προϊόν λειτουργεί ακριβώς όπως έχει σχεδιαστεί: πρόκειται για έναν πράκτορα (agent) που κατέχει τα διαπιστευτήριά σας, ενεργεί εξ ονόματός σας ενώ εσείς κοιμάστε, αγνοεί τη μοναδική άρνηση που μπορείτε να προβάλετε και, στη συνέχεια, σας διαβεβαιώνει ότι δεν έκανε απολύτως τίποτα».

Ο Hoorvitch ανέφερε ότι το Grok Bot παρέχει ελάχιστη ενημέρωση σχετικά με τους αυτόματους «κύκλους» (turns), δηλαδή τις διαδικασίες που λαμβάνουν χώρα όταν ένας πράκτορας λαμβάνει οδηγίες ή πλαίσιο πληροφοριών, αποφασίζει τι πρέπει να κάνει και ενεργοποιεί τα εργαλεία που ο ίδιος επιλέγει.

Η σχετική ενημέρωση εμφανίζεται κατά τη διαδικασία αρχικής γνωριμίας με την υπηρεσία (onboarding), όπου το bot αναφέρει ότι συνεχίζει να λειτουργεί ακόμα και όταν ο χρήστης απουσιάζει από τον υπολογιστή, συνδεόμενο σε εφαρμογές και χρησιμοποιώντας τις με τον ίδιο τρόπο που θα έκανε ο χρήστης. «Το κείμενο μοιάζει με μήνυμα καλωσορίσματος και εξαφανίζεται από την οθόνη σε λιγότερο από ένα λεπτό», σημείωσε ο Hoorvitch.

«Κανείς δεν καλείται να δώσει ρητή συγκατάθεση. Πουθενά δεν αναφέρεται ότι η πλατφόρμα θα ξεκινά αυτόματες ενέργειες χωρίς δική σας εντολή, ούτε ότι αυτές οι ενέργειες θα αξιοποιούν τις συνδέσεις (connectors) σας».

Ο ερευνητής επισήμανε ότι, ενώ η τεκμηρίωση του Grok Bot αναφέρει πως ένα βασικό bot πραγματοποιεί ελέγχους με δική του πρωτοβουλία, και το αρχείο αλλαγών (changelog) κάνει λόγο για σύντομες «αφυπνίσεις» στο παρασκήνιο, δεν υπάρχει καμία αναφορά στο ότι αυτοί οι έλεγχοι «εισχωρούν στις συνδεδεμένες εφαρμογές σας».

Επιπλέον, όταν πραγματοποιείται ένας τέτοιος έλεγχος, δεν υπάρχει καμία καταγραφή του στο περιβάλλον συνομιλίας (chat interface) ή στο ιστορικό των συνομιλιών, ενώ, όπως έχει ήδη επισημανθεί, οι εντολές για τον τερματισμό αυτών των ελέγχων δεν λειτουργούν.

Ο Hoorvitch διευκρίνισε ότι το bot «ζητά πάντα άδεια πριν προχωρήσει σε αλλαγές», ωστόσο αυτό ισχύει μόνο για ενέργειες που αφορούν την εγγραφή δεδομένων ή την πραγματοποίηση αλλαγών εντός κάποιας εφαρμογής.

Η λύση

Η NewCore επικοινώνησε με την υποστήριξη του Grok Bot στις 4 Νοεμβρίου. Εκείνη τη χρονική στιγμή, οι χρήστες δεν είχαν τη δυνατότητα να απενεργοποιήσουν τους αυτόματους ελέγχους. Οκτώ ημέρες αργότερα, σύμφωνα με τον Hoorvitch, το ταμπλό ελέγχου (dashboard) του Cursor, η διοικητική κονσόλα που υποστηρίζει το Grok Bot, έλαβε μια ενημέρωση. Στις δυνατότητες του bot προστέθηκε ένας νέος διακόπτης με την ονομασία «προληπτικά μηνύματα» (proactive messages), ο οποίος είναι ενεργοποιημένος από προεπιλογή.

Όταν ένας διαχειριστής ομάδας απενεργοποιεί τη λειτουργία, τα bot δεν πραγματοποιούν πλέον αυτόνομα διαδικασίες ελέγχου (check-ins). Οι εκπρόσωποι της SpaceXSI δεν απάντησαν σε σχτικές ερωτήσεις.

Κοινοποιήστε το άρθρο:

Θέλετε να διαφημιστείτε;

Μπορείτε να διαφημιστείτε τόσο με ηχητική διαφήμιση στον ραδιοφωνικό σταθμό, όσο και στο site μας.

Edit Template

Ο σκοπός μας

Το πρώτο και μοναδικό πατριωτικό ραδιόφωνο στην Αθήνα.

Περί Μάχης 99.8 FM

ΜΑΧΗ FM ΜΕΣΑ ΜΑΖΙΚΗΣ ΕΝΗΜΕΡΩΣΗΣ ΜΟΝ. ΑΝΩΝΥΜΗ ΕΤΑΙΡΕΙΑ
ΑΦΜ 999993560, ΔΟΥ ΚΕΦΟΔΕ ΑΤΤΙΚΗΣ
Αριθμός Γ.Ε.ΜΗ 045026607000

Διεύθυνση
ΠΕΤΡΟΥ ΡΑΛΛΗ 55, ΤΑΥΡΟΣ ΑΤΤΙΚΗΣ , ΤΚ 17778

Πληροφορίες
Τηλέφωνο: 2107108000
Email:  [email protected]

Θα μας βρείτε

©

2026