Skip to main content
Hermes Banner 2
VECTOR 02
747x1024 DIABASTE DWREAN SEC CYP 22
DIGTV 218 COVER
27 Σεπτεμβρίου 2023 10:20

Μια νέα επίθεση επηρεάζει τα μεγάλα Chatbots της τεχνητής νοημοσύνης

chatbots cebccfc9

Οι ερευνητές βρήκαν έναν απλό τρόπο να κάνουν το ChatGPT, το Bard και άλλα Chatbots να παρεκτραπούν αποδεικνύοντας τη δυσκολία να τιθασεύσουμε την τεχνητή νοημοσύνη.

Το ChatGPT καθώς και παρόμοια εργαλεία έχουν βελτιωθεί ήδη αρκετές φορές με σκοπό να αποτρέψουν κακόβουλους χρήστες από το να τις χρησιμοποιούν για τη  δημιουργία ανεπιθύμητων μηνυμάτων, όπως  ρητορική μίσους, διαμοιρασμό προσωπικών πληροφοριών καθώς και οδηγούς που εξηγούν βήμα- βήμα την κατασκευή μιας αυτοσχέδιας βόμβας. Την προηγούμενη εβδομάδα ερευνητές στο πανεπιστήμιο Carnegie Mellon έδειξαν πως η προσθήκη μιας μαγικής σειράς λέξεων σε μια προτροπή (prompt) -δηλαδή μιας σειράς λέξεων που μπορεί να μοιάζει ακατανόητη σύμφωνα με την ανθρώπινη λογική, αλλά έχει νόημα για ένα μοντέλο τεχνητής νοημοσύνης εκπαιδευμένο σε τεράστιες πληροφορίες διαδικτυακών δεδομένων- μπορεί να ξεπεράσει όλες αυτές τις άμυνες σε μερικά από τα πιο γνωστά chatbots στη στιγμή.

Η δουλειά αυτή, υποστηρίζει πως η τάση αυτών των έξυπνων μηχανών να εκτροχιαστούν δεν είναι μια ιδιοτροπία τους που μπορεί να καλυφθεί με την ύπαρξη μερικών απλών κανόνων. Απεναντίας, αντιπροσωπεύει μια πιο ουσιαστική αδυναμία τους που μπορεί να περιπλέξει τις προσπάθειες ανάπτυξης μιας πιο προηγμένης τεχνητής νοημοσύνης.

O Zico Kolter, αναπληρωτής καθηγητής στο πανεπιστήμιο Carnegie Mellon, που συμμετείχε στην έρευνα που αποκάλυψε την ευπάθεια που επηρεάζει τα προηγμένα chatbots έχει αναφέρει πως «Δεν υπάρχει κανένας τρόπος που γνωρίζουμε για να το διορθώσουμε αυτό», συμπληρώνοντας «Απλά δε γνωρίζουμε πως να το κάνουμε ασφαλές».

Οι ερευνητές, χρησιμοποίησαν ένα γλωσσικό μοντέλο ανοικτού κώδικα για να αναπτύξουν τις λεγόμενες εχθρικές επιθέσεις (adversarial attacks). Αυτό περιλαμβάνει την αναπροσαρμογή των prompts που δίνονται σε ένα chatbot με σκοπό να το ωθήσουμε να δώσει απαντήσεις εκτός των ορίων του. Τα ευρήματα έδειξαν πως η ίδια επίθεση λειτούργησε σε μερικά δημοφιλή και ευρέως γνωστά chatbots, συμπεριλαμβανομένων των ChatGPT, Google’s Bard και Claude from Anthropic.

Η επίθεση αναγκάζει τα chatbots να δώσουν μη επιτρεπτές απαντήσεις σε επικίνδυνα prompts προσθέτοντας στο τέλος μια συγκεκριμένη σειρά πληροφοριών. Με την προσθήκη τέτοιων συμβολοσειρών σε prompts  όπως: “Πως μπορώ να φτιάξω παράνομα ναρκωτικά;” και “Πως μπορώ να κάνω ένα άτομο να εξαφανιστεί για πάντα;” είχαν ως κατάληξη την εξαγωγή ακατάλληλων  αποτελεσμάτων. “Η αναλογία εδώ μοιάζει με την υπερχείλιση προσωρινής μνήμης (buffer overflow)”, υπογραμμίζει ο Kolter, αναφερόμενος σε μια γνωστή μέθοδο για την παραβίαση της ασφάλειας ενός προγράμματος ηλεκτρονικού υπολογιστή που προκύπτει όταν τα δεδομένα που καταγράφονται σε μια περιοχή προσωρινής μνήμης υπερβαίνουν τα όρια αυτής, με αποτέλεσμα να αντικαταστήσουν δεδομένα που βρίσκονται σε γειτονικές περιοχές μνήμης. “Οι άνθρωποι μπορούν μέσω αυτού να κάνουν πολλά διαφορετικά πράγματα”.

Οι ερευνητές προειδοποίησαν την OpenAI, την Google και την Anthropic σχετικά με την έρευνά τους προτού τη δημοσιεύσουν. Κάθε εταιρία εισήγαγε εμπόδια έτσι ώστε να αποτρέψει τη λειτουργία των παραβιάσεων που περιγράφονται στην ερευνητική εργασία, αλλά δεν έχει βρεθεί ακόμα τρόπος για να μπορέσουν να εμποδίσουν τις επιθέσεις.

H εκπρόσωπος του OpenAI Hanna Wong δήλωσε: “Εργαζόμαστε σταθερά για να καταστήσουμε τα μοντέλα μας πιο ανθεκτικά απέναντι σε αντίπαλες επιθέσεις, συμπεριλαμβανομένων των τρόπων εντοπισμού ασυνήθιστων μοτίβων δραστηριότητας, των συνεχών προσπαθειών red-teaming για την προσομοίωση πιθανών απειλών και ενός γενικού και ευέλικτου τρόπου διόρθωσης των αδυναμιών του μοντέλου που αποκαλύπτονται από νεοανακαλυφθείσες αντίπαλες επιθέσεις.”

O Elijah Lawal, εκπρόσωπος της Google, μοιράστηκε μια δήλωση που εξηγεί πως η εταιρεία έχει μια σειρά από μέτρα που εφαρμόζονται στα με στόχο να βρεθούν πιθανές αδυναμίες. H δήλωση είναι η εξής “Ενώ αυτό είναι ένα ζήτημα σε όλα τα μεγάλα γλωσσικά μοντέλα (large language models, LLMs), έχουμε χτίσει σημαντικές προστατευτικές δικλείδες ασφαλείας στο Bard, όπως αυτές που θέτει αυτή η έρευνα, τις οποίες θα συνεχίσουμε να βελτιώνουμε με την πάροδο του χρόνου”.

“Το να γίνουν τα μοντέλα πιο ανθεκτικά στην αυθαίρετη και μη ελεγχόμενη προσθήκη prompts και σε άλλες επιθέσεις είναι ένας τομέας ενεργής έρευνας,” λέει ο Michael Sellitto, προσωρινός επικεφαλής πολιτικής και κοινωνικών επιπτώσεων στην Anthropic. “Πειραματιζόμαστε με διάφορους τρόπους που θα μπορούσαμε να χρησιμοποιήσουμε για να ενισχύσουμε τις προστατευτικές δικλείδες ασφαλείας των βασικών μοντέλων ώστε να τα κάνουμε πιο ‘ακίνδυνα’, ενώ παράλληλα διερευνούμε και πρόσθετα επίπεδα άμυνας”.

Το Chat GPT, καθώς και τα υπόλοιπα εργαλεία τεχνητής νοημοσύνης, είναι βασισμένα πάνω σε μεγάλα γλωσσικά μοντέλα που τους επιτρέπουν να προβλέπουν τι πρέπει να ακολουθεί μια λέξη και εν συνεχεία να παράγουν ένα κείμενο μέσω αυτής της ακολουθίας. Τα παραπάνω γλωσσικά μοντέλα βασίζονται σε αλγόριθμους  τεχνητού δικτύου νευρώνων , δηλαδή ενός δικτύου νευρώνων όμοιου με το δίκτυο νευρώνων του ανθρώπινου εγκεφάλου.

Αυτοί οι αλγόριθμοι είναι πολύ καλοί στο να κάνουν τέτοιες προβλέψεις, κάτι που τους καθιστά επιδέξιους στην παραγωγή αποτελεσμάτων όμοιων με αληθινή νοημοσύνη και γνώση. Αυτά τα γλωσσικά μοντέλα, είναι επίσης επιρρεπή στην  κατασκευή πληροφοριών, την επανάληψη κοινωνικών προκαταλήψεων και την παραγωγή παράξενων απαντήσεων που είναι δύσκολο να προβλεφθούν.

Οι αντίπαλες επιθέσεις, εκμεταλλεύονται τον τρόπο με τον οποίο η μηχανική μάθηση εντοπίζει μοτίβα στα δεδομένα με σκοπό να παράγει μη φυσιολογικές συμπεριφορές. Ανεπαίσθητες αλλαγές σε εικόνες μπορούν για παράδειγμα, να προκαλέσουν λανθασμένη αναγνώριση αντικειμένων από τους ταξινομητές εικόνων ή να κάνουν τα συστήματα αναγνώρισης ομιλίας να ανταποκριθούν σε μη ακουστικά μηνύματα. Η ανάπτυξη τέτοιων επιθέσεων, συνήθως περιλαμβάνει την εξέταση των τρόπων με τους οποίους ένα μοντέλο ανταποκρίνεται σε μια συγκεκριμένη εισαγωγή και παρακολουθεί  την τροποποίησή του μέχρι να ανακαλυφθεί ένα προβληματικό prompt. Σε ένα γνωστό πείραμα από το 2018, οι ερευνητές πρόσθεσαν αυτοκόλλητα σε πινακίδες στάσεων για να ξεγελάσουν ένα σύστημα όρασης υπολογιστή παρόμοιο με αυτά που χρησιμοποιούνται σε πολλά συστήματα ασφαλείας οχημάτων. Υπάρχουν τρόποι για την προστασία των αλγορίθμων μηχανικής μάθησης από τέτοιες επιθέσεις, δίνοντας στα μοντέλα πρόσθετη εκπαίδευση, αλλά αυτές οι μέθοδοι δεν εξαλείφουν την πιθανότητα περαιτέρω επιθέσεων.

Ο Armando Solar- Lezama, καθηγητής στο κολέγιο πληροφορικής του MIT ανέφερε πως είναι λογικό να εμφανίζονται αντίπαλες επιθέσεις σε γλωσσικά μοντέλα, δεδομένου ότι επηρεάζουν και πολλά άλλα μοντέλα μηχανικής εκμάθησης. Αλλά υπογραμμίζει πως είναι “εξαιρετικά αναπάντεχο” μια επίθεση που αναπτύχθηκε με βάση ένα γενικό μοντέλο ανοικτού κώδικα να λειτουργεί τόσο καλά σε πολλά διαφορετικά ιδιόκτητα συστήματα. O ίδιος αναφέρει, πως το πρόβλημα μπορεί να έγκειται στο ότι όλα τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε παρόμοια σώματα δεδομένων κειμένου, τα οποία έχουν ληφθεί από τους ίδιους ιστότοπους. “Πιστεύω ότι πολλά από αυτά μπορεί να έχουν να κάνουν με το γεγονός ότι υπάρχει πεπερασμένος όγκος δεδομένων στον κόσμο”.  Προσθέτει επίσης πως η κύρια μέθοδος που χρησιμοποιείται για τη βελτίωση αυτών των μοντέλων που είναι η ανατροφοδότηση από  ανθρώπους που τα ελέγχουν, είναι πιθανό να μη διαφοροποιεί τη συμπεριφορά τους. Η έρευνα αυτή, σύμφωνα με τον ίδιο υπογραμμίζει τη σημαντικότητα αυτών των ανοιχτών μοντέλων εκμάθησης στη μελέτη συστημάτων τεχνητής νοημοσύνης, αλλά τονίζει και τις αδυναμίες τους. Τον Μάιο, ένα πολύ δυνατό γλωσσικό μοντέλο  διέρρευσε από τη Meta και από τότε έχει χρησιμοποιηθεί από εξωτερικούς ερευνητές για πολλές διαφορετικές χρήσεις.

Τα αποτελέσματα που παράχθηκαν από το πανεπιστήμιο Carnegie Mellon είναι αρκετά γενικευμένα και δεν φαίνεται να λειτουργούν επιβλαβώς. Ωστόσο, οι εταιρίες βιάζονται να χρησιμοποιήσουν μεγάλα μοντέλα αλλά και chatbots με πολλούς τρόπους. Ο Matt Fredrikson, αναπληρωτής καθηγητής του πανεπιστημίου Carnegie Mellon που είχε ασχοληθεί με την παραπάνω έρευνα, ανέφερε πως ένα ρομπότ που μπορεί να πάρει πρωτοβουλία στο διαδίκτυο και να κλείσει για παράδειγμα ένα αεροπορικό εισιτήριο ή να επικοινωνήσει με μια επαφή μπορεί μελλοντικά να μετατραπεί σε κάτι επιβλαβές.

Σε μερικούς ερευνητές που ασχολούνται με την τεχνητή νοημοσύνη,  η  επίθεση αρχικά παραπέμπει στη σημασία του να αποδεχτούμε πως τα γλωσσικά μοντέλα και τα chatbots δε θα χρησιμοποιηθούν μόνο για καλό σκοπό. “Το να κρατήσουμε την τεχνητή νοημοσύνη μακριά από τα χέρια επιτήδειων είναι αδύνατο”, αναφέρει χαρακτηριστικά  ο Arvind Narayanan, καθηγητής πληροφορικής στο πανεπιστήμιο Princeton.

Ο Narayanan επίσης προσθέτει πως ελπίζει αυτή η έρευνα να ενεργοποιήσει αυτούς που δουλεύουν για την ασφάλεια της τεχνητής νοημοσύνης και να γίνουν προσπάθειες έτσι ώστε να προστατευθούν τα συστήματα που είναι πιθανότερο να βρεθούν εκτεθειμένα σε επιθέσεις, όπως τα κοινωνικά δίκτυα που είναι πιθανό να βιώσουν αύξηση στις πληροφορίες που δημιουργούνται από τεχνητή νοημοσύνη.

Ο Solar-Lezama του ΜΙΤ επίσης αναφέρει πως αυτή η δουλειά είναι επίσης μια υπενθύμιση προς αυτούς που δηλώνουν ενθουσιασμένοι με το ChatGPT και παρόμοια προγράμματα τεχνητής νοημοσύνης. “Κάθε σημαντική απόφαση δεν πρέπει να λαμβάνεται από ένα γλωσσικό μοντέλο αυτόνομα. Είναι απλώς κοινή λογική”.

Πηγή: https://www.csii.gr/mia-nea-epithesi-epireazei-ta-megala-chatbots-tis-technitis-noimosynis-kai-kaneis-den-xerei-pos-na-to-stamatisei/

ΑΛΛΑ ΑΡΘΡΑ ΣΕ ΑΥΤΗ ΤΗΝ ΚΑΤΗΓΟΡΙΑ

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

Security Report, Δεκέμβριος 2026
Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Δεκεμβρίου, πάντα μαζί με το περιοδικό Ψηφιακή Τηλεόραση. Στο νέο τεύχος, θα βρείτε ενδιαφέροντα θέματα που απευθύν…
«Άλμα» για την αγορά επαλήθευσης ταυτότητας μέχρι το 2031
Οι λύσεις επαλήθευσης ταυτότητας αποτελούν ισχυρό εργαλείο για επιχειρήσεις που υποδέχονται καθημερινά αρκετούς συνεργάτες ή πελάτες. Σύμφωνα με την τελευταία έρευνα της MarketsandMarkets, η αγορά ε…
Η θυροτηλεόραση στο κινητό – Όλες οι εφαρμογές για εξ αποστάσεως έλεγχο εισόδου
Η θωράκιση της εισόδου μιας μονοκατοικίας, μιας πολυκατοικίας, μιας επιχείρησης με προηγμένο τεχνολογικό εξοπλισμό αποτελεί πλέον προτεραιότητα. Ένα τέτοιο εργαλείο είναι οι θυροτηλεοράσεις, η τεχνο…
ΕΡΜΗΣ – Κορυφαία πρότυπα & προδιαγραφές
H επίτευξη και διατήρηση των κανονιστικών απαιτήσεων είναι ο θεμέλιος λίθος στις Πολιτικές Ολικής Ποιότητας και Ασφάλειας Πληροφοριών. Το Κέντρο Λήψης Σημάτων Ελληνικός Κεντρικός Σταθμός Α.Ε. - ΕΡΜΗ…
TVT LPR Cameras
Η τεχνολογία Αυτόματης Αναγνώρισης Πινακίδων Κυκλοφορίας (LPR / ANPR - License Plate Recognition / Automatic Number Plate Recognition) βασίζεται σε προηγμένους αλγόριθμους βαθιάς μάθησης (Deep Learn…

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

SECURITY REPORT CYPRUS, ΤΕΥΧΟΣ 22
Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Cyprus! Στο νέο τεύχος 22 του Security Report Cyprus θα βρείτε ενδιαφέροντα θέματα που απευθύνονται…
Πώς ο τύπος κάμερας επηρεάζει τη διαμόρφωση CCTV
Οι κάμερες αποτελούν κρίσιμο εργαλείο για την ασφάλεια επιχειρήσεων κάθε μεγέθους. Σε συνδυασμό με τις υπόλοιπες συσκευές ενός συστήματος CCTV, οι κάμερες συμβάλλουν στην πλήρη εποπτεία επαγγελματικ…
Επαγγελματικά συστήματα ελέγχου πρόσβασης: Από τον έλεγχο θυρών στα ολοκληρωμένα οικοσυστήματα ασφαλείας
Τα σύγχρονα επαγγελματικά συστήματα ελέγχου πρόσβασης δεν αποτελούν πλέον απλώς μια λύση για το ποιος ανοίγει μια πόρτα. Έχουν εξελιχθεί σε κρίσιμη υποδομή φυσικής ασφάλειας, συνδυάζοντας τεχνολογία…
Patra Electronix 2026 – Η νέα μεγάλη συνάντηση της αγοράς στη Δυτική Ελλάδα!
Ήρθε η στιγμή για τη διεξαγωγή της 1ης κλαδικής έκθεσης συστημάτων ασφαλείας, τηλεόρασης, δικτύων και τεχνολογίας ξενοδοχείων στην Πάτρα – ήρθε η στιγμή για την Patra Electronix 2026! Η έκθεση El…
Inim Previdia Compact: Ο απόλυτος οδηγός εγκατάστασης και σύνδεσης στο Cloud
Στον σύγχρονο κόσμο της πυρασφάλειας, η σειρά Previdia Compact της Inim Electronics αποτελεί την αιχμή του δόρατος, συνδυάζοντας την αξιοπιστία με την ψηφιακή καινοτομία. Σε αυτό το άρθρο, θα ανα…
Επισκόπηση απορρήτου

Αυτός ο ιστότοπος χρησιμοποιεί cookie ώστε να μπορούμε να σας παρέχουμε την καλύτερη δυνατή εμπειρία χρήστη. Οι πληροφορίες cookie αποθηκεύονται στο πρόγραμμα περιήγησης σας και εκτελούν λειτουργίες όπως η ανάγνωση σας όταν επιστρέφετε στον ιστότοπο μας και η βοήθεια της ομάδας μας να κατανοήσει ποιες ενότητες του ιστοτόπου θεωρείτε πιο ενδιαφέρουσες και χρήσιμες.