Ποιος είναι ο τριπλός ρόλος της AI στις κυβερνοεπιθέσεις – Ποιους “χτυπάει”
Η AI αλλάζει συνεχώς τα δεδομένα σε πολλά πράγματα και ένα από αυτά είναι η σχέση της με την κυβερνοασφάλεια όπου η σχέση τους εισέρχεται σε μία νέα φάση. Αυτό γίνεται διότι η AI δεν χρησιμοποιείται, πλέον, μόνο ως εργαλείο από τους κυβερνοεγκληματίες, αλλά εξελίσσεται ταυτόχρονα σε στόχο επιθέσεων και σε νέα επιφάνεια κινδύνου για τις επιχειρήσεις. Αυτήν την τριπλή διάσταση καταγράφει η νέα έκθεση της Check Point Research, σύμφωνα με την οποία οι απειλές, που συνδέονται με την τεχνητή νοημοσύνη, περνούν με ταχύτητα από το θεωρητικό επίπεδο σε πραγματικές επιχειρήσεις επίθεσης.
Τους τελευταίους δύο μήνες, οι ερευνητές κατέγραψαν περιστατικά στα οποία μοντέλα AI λειτούργησαν πέρα από τα περιβάλλοντα για τα οποία είχαν σχεδιαστεί, χρήση τεχνητής νοημοσύνης σε επιχειρήσεις ransomware, αλλά και την ανάπτυξη παράνομης αγοράς γύρω από την πρόσβαση σε υπηρεσίες AI και την παράκαμψη των δικλίδων ασφαλείας τους.
Ιδιαίτερη σημασία αποδίδεται στην αυξανόμενη αυτονομία των συστημάτων. Σε περιστατικά, που αφορούσαν OpenAI, Anthropic και Meta, μοντέλα AI απέκτησαν πρόσβαση σε συστήματα παραγωγής εκτός των περιβαλλόντων αξιολόγησης για τα οποία προορίζονταν. Σε μία περίπτωση, μοντέλο αξιολόγησης της OpenAI έφθασε, σύμφωνα με την έκθεση, σε υποδομή παραγωγής του Hugging Face μέσω άγνωστης μέχρι τότε ευπάθειας. Οι ερευνητές ανακατασκεύασαν περίπου 17.600 ενέργειες του AI agent, που συνδέθηκαν με το περιστατικό.
Από το ransomware στις παράνομες αγορές AI
Την ίδια στιγμή, η Check Point Research διαπιστώνει ότι η χρήση της AI από κυβερνοεγκληματίες περνά από τον πειραματισμό στην επιχειρησιακή εφαρμογή. Οι ερευνητές αναφέρουν περιστατικό agentic ransomware, στο οποίο μοντέλο AI εκτέλεσε στάδια επιχείρησης εκβιασμού μετά την αρχική ενεργοποίησή του από άνθρωπο.
Παράλληλα, συνεργάτες ομάδων ransomware χρησιμοποίησαν AI coding assistants για την υποστήριξη επιθέσεων εναντίον τουλάχιστον έξι οργανισμών, ένδειξη ότι οι δυνατότητες της τεχνητής νοημοσύνης ενσωματώνονται σταδιακά στις μεθόδους δράσης των επιτιθέμενων.
Μία ακόμη τάση αφορά τη δημιουργία παράνομης αγοράς γύρω από την πρόσβαση σε υπηρεσίες AI. Σε μία επιχείρηση, σύμφωνα με την έκθεση, οι δράστες απέσπασαν σχεδόν 3.000 API keys και διαπιστευτήρια λογαριασμών AI από εκτεθειμένα αρχεία σε περισσότερα από 1.700 συστήματα μέσα σε επτά εβδομάδες.
Στο στόχαστρο και τα ίδια τα συστήματα AI
Η τεχνητή νοημοσύνη, ωστόσο, δεν ενισχύει μόνο τις δυνατότητες των επιτιθέμενων. Τα ίδια τα συστήματα AI αποτελούν πλέον στόχο. AI coding agents, εταιρικοί copilots και εφαρμογές, που χρησιμοποιούν τεχνητή νοημοσύνη, μπαίνουν ολοένα συχνότερα στο πεδίο ενδιαφέροντος των κυβερνοεγκληματιών.
Η έκθεση καταγράφει επιθέσεις σε αξιόπιστες ροές εργασίας AI, συμπεριλαμβανομένων βοηθών προγραμματισμού και εταιρικών εργαλείων, που επεξεργάζονται περιεχόμενο χρηστών και αποθετήρια κώδικα. Παράλληλα, περιστατικά στην εφοδιαστική αλυσίδα, που επηρέασαν AI frameworks και εργαλεία ανάπτυξης, είχαν αντίκτυπο σε περισσότερες από 2.500 εταιρείες.
Κίνδυνος και από την καθημερινή χρήση
Η απειλή δεν περιορίζεται, πάντως, στις προηγμένες κυβερνοεπιθέσεις. Σημαντική πηγή κινδύνου αποτελεί και ο τρόπος με τον οποίο εργαζόμενοι και οργανισμοί χρησιμοποιούν καθημερινά εργαλεία παραγωγικής AI.
Σύμφωνα με τα ευρήματα της Check Point Research, μία στις 36 προτροπές προς υπηρεσίες GenAI παρουσίαζε υψηλό κίνδυνο έκθεσης ευαίσθητων πληροφοριών, ενώ το 88% των οργανισμών κατέγραψε τουλάχιστον μία αλληλεπίδραση υψηλού κινδύνου με AI μέσα στον Ιούλιο.
Τα στοιχεία αναδεικνύουν ένα αυξανόμενο κενό διακυβέρνησης, καθώς η υιοθέτηση της τεχνητής νοημοσύνης σε αρκετές περιπτώσεις προχωρά ταχύτερα από την εφαρμογή πολιτικών και μηχανισμών προστασίας των εταιρικών δεδομένων.
Πηγή: ΣΕΠΕ
