Σημαντική μεταβολή στον τρόπο διεξαγωγής κυβερνοεπιθέσεων διαπιστώνει η Google Threat Intelligence Group (GTIG), προειδοποιώντας ότι κακόβουλοι παράγοντες αξιοποιούν πλέον προηγμένα συστήματα Τεχνητής Νοημοσύνης για την αυτοματοποίηση διαδικασιών που μέχρι πρόσφατα απαιτούσαν συνεχή ανθρώπινη συμμετοχή.
Στην έκθεση AI Threat Tracker, που δημοσιεύθηκε στις 16 Νοεμβρίου, οι ερευνητές της Google και της Mandiant περιγράφουν την αυξανόμενη χρήση αυτόνομων μοντέλων Τεχνητής Νοημοσύνης, ικανών να αναλύουν λογισμικό, να εντοπίζουν ευπάθειες και να εκτελούν διαδοχικές ενέργειες κυβερνοεπίθεσης.
Η εξέλιξη θεωρείται ιδιαίτερα ανησυχητική, καθώς επιτρέπει στους επιτιθέμενους να πραγματοποιούν επιχειρήσεις με ταχύτητα και σε κλίμακα που δυσκολεύουν σημαντικά την αντίδραση των μηχανισμών προστασίας.
Το σύστημα exploit_agent και οι επιθέσεις χωρίς ανθρώπινη παρέμβαση
Ένα από τα σημαντικότερα ευρήματα της έκθεσης αφορά τον εντοπισμό ενός αυτοματοποιημένου συστήματος, γνωστού ως exploit_agent, σε εκτεθειμένο διακομιστή που χρησιμοποιούνταν για την προετοιμασία κυβερνοεπιθέσεων.
Το συγκεκριμένο εργαλείο συνδέεται με διαφορετικά μεγάλα γλωσσικά μοντέλα και μπορεί να εξετάζει διαδοχικές εκδόσεις λογισμικού, συγκρίνοντας τον κώδικα πριν και μετά τις ενημερώσεις ασφαλείας.
Με αυτή τη διαδικασία εντοπίζει πιθανά τρωτά σημεία, δημιουργεί κώδικα εκμετάλλευσής τους και επιχειρεί την εκτέλεσή του χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε στάδιο.
Οι ερευνητές εντόπισαν επίσης δεδομένα που είχαν αφαιρεθεί από στόχους, καθώς και εργαλεία που σχετίζονται με περαιτέρω παραβιάσεις συστημάτων.
Σύμφωνα με την Google, τα διαθέσιμα στοιχεία υποδεικνύουν ότι ο χειριστής του συστήματος ενδιαφερόταν ιδιαίτερα για γαλλικούς ιστότοπους στους τομείς των μέσων ενημέρωσης, της ψυχαγωγίας και της εκπαίδευσης.
Η εταιρεία επισημαίνει ότι η δυνατότητα αυτοματοποίησης της αναζήτησης και εκμετάλλευσης ευπαθειών αποτελεί σημαντική εξέλιξη, χωρίς ωστόσο να τεκμηριώνεται ότι κάθε απόπειρα του συγκεκριμένου συστήματος κατέληξε σε επιτυχημένη παραβίαση.
Γιατί οι χάκερ δεν χρειάζονται απαραίτητα άγνωστα κενά ασφαλείας
Ιδιαίτερη ανησυχία προκαλεί η δυνατότητα αξιοποίησης ήδη γνωστών ευπαθειών, για τις οποίες έχουν δημοσιοποιηθεί διορθώσεις ασφαλείας.
Τα λεγόμενα n-day vulnerabilities μπορούν να εντοπιστούν μέσω της σύγκρισης διαφορετικών εκδόσεων λογισμικού, επιτρέποντας στους επιτιθέμενους να ανακαλύπτουν τι ακριβώς διορθώθηκε και να επιχειρούν να εκμεταλλευτούν το προηγούμενο κενό.
Η εξέλιξη αυτή μειώνει δραστικά τον χρόνο που διαθέτουν οι επιχειρήσεις για να εγκαταστήσουν τις απαραίτητες ενημερώσεις.
Χαρακτηριστική είναι η περίπτωση ευπαθειών σε διακομιστές διαχείρισης εκτυπώσεων PaperCut, τις οποίες, σύμφωνα με την έκθεση, επιτιθέμενοι επιχείρησαν να εκμεταλλευτούν με τη βοήθεια Τεχνητής Νοημοσύνης λίγες ημέρες μετά τη δημοσιοποίησή τους.
Νέες επιθέσεις με πολλαπλά αυτόνομα συστήματα
Η Google καταγράφει επίσης την αξιοποίηση εργαλείων όπως τα CAIRN, PentAGI, CyberStrikeAI και HexStrike AI, τα οποία επιτρέπουν τον συντονισμό πολλών εξειδικευμένων συστημάτων Τεχνητής Νοημοσύνης.
Το CAIRN έχει εντοπιστεί σε επιχειρήσεις εναντίον στόχων που περιλαμβάνουν τον αμερικανικό αεροδιαστημικό τομέα, ενώ προσαρμοσμένη έκδοση του PentAGI χρησιμοποιήθηκε για τη συστηματική αναζήτηση ευπαθειών σε οργανισμούς της Ασίας.
Οι ερευνητές διαπίστωσαν ακόμη ότι ομάδες που συνδέονται με την Κίνα πειραματίζονται με αντίστοιχες τεχνολογίες, πιθανότατα για επιχειρήσεις κυβερνοκατασκοπείας.
Προς το παρόν, η αυξημένη ταχύτητα των συγκεκριμένων εργαλείων συνοδεύεται από μειωμένη δυνατότητα απόκρυψης της δραστηριότητάς τους, καθώς αφήνουν ψηφιακά ίχνη που μπορούν να αξιοποιηθούν για τον εντοπισμό τους.
Η οικονομική διάσταση των επιθέσεων
Η έκθεση αναφέρεται και στο φαινόμενο LLMJacking, κατά το οποίο κυβερνοεγκληματίες αποκτούν παράνομα πρόσβαση σε λογαριασμούς και υπολογιστικούς πόρους επιχειρήσεων για να χρησιμοποιούν υπηρεσίες Τεχνητής Νοημοσύνης.
Σε ορισμένες περιπτώσεις, οι παράνομες χρεώσεις ξεπέρασαν τα 100.000 δολάρια μέσα σε μία ημέρα, ενώ οι συνολικές απώλειες έφτασαν το ένα εκατομμύριο δολάρια πριν περιοριστεί η κατάχρηση.
Παράλληλα, η Google εντόπισε την ανάπτυξη πλατφόρμας που σχεδιάστηκε για τη διαχείριση περισσότερων από 100.000 λογαριασμών στα κοινωνικά δίκτυα, με στόχο τη διεξαγωγή συντονισμένων επιχειρήσεων επηρεασμού της κοινής γνώμης.
Η απάντηση της Google και οι ανησυχίες για την OpenAI
Απέναντι στις νέες απειλές, η Google προωθεί το σύστημα AI Threat Defense, το οποίο συνδυάζει τις δυνατότητες του Gemini με εργαλεία της Wiz, του CodeMender και την τεχνογνωσία της Mandiant, προκειμένου να επιταχύνει τον εντοπισμό και την αποκατάσταση ευπαθειών.
Η προειδοποίηση έρχεται σε περίοδο αυξανόμενης ανησυχίας για τη συμπεριφορά αυτόνομων μοντέλων Τεχνητής Νοημοσύνης.
Τον Ιούλιο, μοντέλα που δοκιμάζονταν σε ερευνητικό περιβάλλον της OpenAI παραβίασαν μηχανισμούς απομόνωσης και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face.
Το περιστατικό οδήγησε τον γενικό εισαγγελέα της Καλιφόρνιας, Ρομπ Μπόντα, στην άσκηση αγωγής κατά της OpenAI, με την κατηγορία ότι δεν είχε εφαρμόσει επαρκείς δικλείδες προστασίας. Η εταιρεία απορρίπτει τις αιτιάσεις περί αδιαφορίας για την ασφάλεια, παραπέμποντας στις έρευνες και στα μέτρα που έχει λάβει.
Την ανάγκη αυστηρότερης εποπτείας έχει επισημάνει και ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, ο οποίος προειδοποίησε ότι η επίτευξη διεθνούς συμφωνίας για τη ρύθμιση της Τεχνητής Νοημοσύνης ενδέχεται να αποδειχθεί δυσκολότερη από τις διαπραγματεύσεις πυρηνικού αφοπλισμού μεταξύ ΗΠΑ και Σοβιετικής Ένωσης.
