Η εξέλιξη της AI δημιουργεί προβλήματα ασφαλείας για επιχειρήσεις και χρήστες
Η Τεχνητή Νοημοσύνη εξελίσσεται όλο και περισσότερο με αποτέλεσμα να χρησιμοποιείται ως εργαλείο αρκετά από επιχειρήσεις και υπαλλήλους για την διευκόλυνση της δουλειάς τους. Όμως η AI έχει καταφέρει να δημιουργήσει μία νέα “επιφάνεια επίθεσης” για αυτούς.
Η ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης στην καθημερινή και επαγγελματική δραστηριότητα δημιουργεί ένα νέο και σημαντικά πιο σύνθετο πεδίο για την κυβερνοασφάλεια. Καθώς τα εργαλεία AI παύουν να λειτουργούν αποκλειστικά ως συστήματα παραγωγής περιεχομένου και αποκτούν πρόσβαση σε αρχεία, εφαρμογές και εταιρικά συστήματα, η προστασία τους εξελίσσεται σε κρίσιμο ζήτημα για επιχειρήσεις και χρήστες.
Η έκταση της υιοθέτησης είναι ήδη μεγάλη. Στην Ευρωπαϊκή Ένωση, ένας στους τρεις συμμετέχοντες σε σχετική έρευνα είχε χρησιμοποιήσει εργαλεία παραγωγικής AI μέσα στο 2025, με το ποσοστό να φθάνει το 64% στις ηλικίες 16-24 ετών και το 50% στις ηλικίες 25-34 ετών. Η χρήση αφορά κατά 78% προσωπικούς σκοπούς, κατά 47% επαγγελματικούς και κατά 29% την εκπαίδευση.
Η εξάπλωση αυτή δημιουργεί, σύμφωνα με την ESET, ένα νέο οικοσύστημα λογισμικού και, μαζί του, μια νέα «επιφάνεια επίθεσης». Όπως συνέβη στο παρελθόν με το ηλεκτρονικό ταχυδρομείο, το οποίο εξελίχθηκε από μια απλή υπηρεσία ανταλλαγής μηνυμάτων σε οικοσύστημα συνδέσμων, συνημμένων, εφαρμογών και αυτοματοποιημένων ροών εργασίας, αντίστοιχη πορεία ακολουθεί πλέον και η AI.
Από τα κακόβουλα πρόσθετα στο prompt injection
Μία από τις νέες πηγές κινδύνου είναι τα πρόσθετα και οι λεγόμενες «δεξιότητες» των εφαρμογών AI. Η δυνατότητα επέκτασης της λειτουργικότητας ενός ψηφιακού βοηθού μπορεί να συνοδεύεται από πρόσθετα δικαιώματα πρόσβασης σε δεδομένα και συστήματα. Ένα κακόβουλο πρόσθετο μπορεί, για παράδειγμα, να επιχειρήσει υποκλοπή πληροφοριών ή κατάχρηση των δικαιωμάτων που του έχουν παραχωρηθεί.
Νέα διάσταση αποκτά και ο κίνδυνος από τους AI agents. Καθώς τα συστήματα αυτά αποκτούν μεγαλύτερη αυτονομία, μπορούν να αναζητούν βιβλιοθήκες λογισμικού, να κατεβάζουν αρχεία, να χρησιμοποιούν κώδικα από εξωτερικές πηγές ή ακόμη και να αλληλεπιδρούν με τοπικά αρχεία και εταιρικά συστήματα. Αυτό διευρύνει σημαντικά το πεδίο που καλούνται να προστατεύσουν οι μηχανισμοί κυβερνοασφάλειας.
Ιδιαίτερη πρόκληση αποτελεί το prompt injection. Ένας AI agent μπορεί να επεξεργαστεί μια ιστοσελίδα, ένα email, ένα PDF ή ένα αποθετήριο κώδικα στο οποίο έχουν ενσωματωθεί κακόβουλες οδηγίες και, υπό προϋποθέσεις, να τις εκλάβει ως εντολές προς εκτέλεση. Έτσι, το ίδιο το περιεχόμενο που επεξεργάζεται ένα σύστημα AI μπορεί να μετατραπεί σε φορέα επίθεσης.
Η προστασία των εταιρικών δεδομένων
Για τις επιχειρήσεις, ένας από τους αμεσότερους κινδύνους αφορά τη διαρροή δεδομένων. Η εισαγωγή μιας σύμβασης, οικονομικών στοιχείων, κώδικα ή άλλων εμπιστευτικών πληροφοριών σε ένα δημόσιο chatbot σημαίνει ότι τα δεδομένα εγκαταλείπουν το ελεγχόμενο εταιρικό περιβάλλον. Ανάλογα με την υπηρεσία και τους όρους χρήσης της, ενδέχεται να αποθηκευθούν ή να υποστούν περαιτέρω επεξεργασία.
Το ζήτημα γίνεται ακόμη πιο κρίσιμο όσο η AI μετακινείται από την παραγωγή απαντήσεων στην εκτέλεση ενεργειών. Η ασφάλεια πρέπει πλέον να καλύπτει όχι μόνο το τι παράγει ένα μοντέλο, αλλά και ποια αρχεία ανοίγει ένας agent, ποιες εφαρμογές χρησιμοποιεί, σε ποια δεδομένα έχει πρόσβαση και ποιες ενέργειες εκτελεί.
Σε αυτό το περιβάλλον, η παραδοσιακή προστασία από κακόβουλο λογισμικό δεν επαρκεί από μόνη της. Η ESET επισημαίνει την ανάγκη πολυεπίπεδης προσέγγισης, η οποία θα περιλαμβάνει έλεγχο συνδέσμων και αρχείων, αξιολόγηση των πρόσθετων AI, περιορισμό των δικαιωμάτων πρόσβασης, ασφαλή παραμετροποίηση και συνεχή παρακολούθηση της συμπεριφοράς των AI agents.
Για τις επιχειρήσεις, αυτό μεταφράζεται και σε ζήτημα διακυβέρνησης της AI. Απαιτούνται σαφείς πολιτικές για το ποια εργαλεία μπορούν να χρησιμοποιούν οι εργαζόμενοι, με ποια εταιρικά συστήματα μπορούν να συνδέονται και σε ποιες κατηγορίες δεδομένων επιτρέπεται να έχουν πρόσβαση.
Πηγή: ΣΕΠΕ
