anga2023
DIABASTE DWREAN SEC CYP 06
DIGITAL TV 175
16 Μαρτίου 2023 11:16

Μήπως το ChatGPT αρχίσει να γράφει επικίνδυνο κακόβουλο λογισμικό;

admin ajax.php?action=kernel&p=image&src=file%3Dwp content%252Fuploads%252F2023%252F03%252Fchatg

Το ChatGPT δεν έγραψε αυτό το άρθρο – το έγραψα εγώ, λέει ο Cameron Camp από την ομάδα της εταιρείας κυβερνοασφάλειας ESET. «Ούτε του ζήτησα να απαντήσει στην ερώτηση του τίτλου – θα το κάνω εγώ. Αλλά υποθέτω ότι αυτό ακριβώς θα μπορούσε να γράψει και το ChatGPT. Ευτυχώς, έχω αφήσει εσκεμένα κάποια γραμματικά λάθη για να αποδείξω ότι δεν είμαι ρομπότ. Αλλά αυτό ακριβώς θα μπορούσε να κάνει και το ChatGPT προκειμένου να δείξει ότι το άρθρο το έγραψε άνθρωπος».

Αυτή η σύγχρονη τεχνολογία ρομπότ, το ChatGPT, είναι μια εντυπωσιακή εφαρμογή τεχνητής νοημοσύνης που επιτρέπει το διάλογο με το χρήστη καθώς μπορεί να δώσει αυτόματα απαντήσεις για νομικά θέματα, ερευνητικά έγγραφα, ιατρικά θέματα, και πλήθος άλλων θεμάτων. Όμως, πέρα από αυτά, μήπως τελικά θα βοηθήσει και προς την κατεύθυνση των εκατοντάδων χιλιάδων δειγμάτων κακόβουλου λογισμικού που βλέπουμε και επεξεργαζόμαστε καθημερινά; ή θα είναι απλώς μια απομίμηση «ανθρώπινου λόγου» που θα μπορεί κανείς εύκολα να την εντοπίσει ως fake;

Σε μια μονομαχία μηχανής εναντίον μηχανής, το ChatGPT φαίνεται υπερβολικά «καλό» για να μη θεωρηθεί σοβαρός υποψήφιος που θα μπορεί να μπλοκάρει τα αντίπαλα μηχανήματα. Καθώς τόσο οι κακόβουλοι δράστες όσο και εκείνοι που τους πολεμούν χρησιμοποιούν τα πιο σύγχρονα μοντέλα μηχανικής μάθησης (ML), ήταν ζήτημα χρόνου ότι κάτι τέτοιο θα συνέβαινε.

Όμως, για να φτιάξεις έναν καλό μηχανισμό άμυνας κατά του κακόβουλου λογισμικού, δεν αρκεί μόνο η χρήση κάποιου ρομπότ. Πάντα χρειάζεται η ανθρώπινη παρέμβαση: το διαπιστώσαμε αυτό πριν από πολλά χρόνια, προς απογοήτευση των προμηθευτών λύσεων που χρησιμοποιούν μόνο μηχανική μάθηση (ML-only) – και επιμένουν να θολώνουν τα νερά αναφέροντας τα προϊόντα τους ως προϊόντα που κάνουν χρήση τεχνητής νοημοσύνης (artificial intelligence – AI).

Και ενώ τα μοντέλα ML χρησιμοποιούνται τόσο για μια πρόχειρη ταξινόμηση όσο και για μια πιο σύνθετη ανάλυση, απέχουν πολύ από το να χαρακτηριστούν ως «το μαγικό κουμπί που θα εξοντώνει κακόβουλα λογισμικά». Το κακόβουλο λογισμικό δεν είναι και τόσο απλό.

«Παρόλα αυτά, για να είμαι σίγουρος, απευθύνθηκα σε μερικούς από τους ειδικούς μηχανικής μάθησης της ESET και τους έθεσα κάποια βασικά ερωτήματα» λέει ο Cameron Camp.

Ας δούμε τι τους ρώτησε αλλά και τι απάντησαν.

Ε. Πόσο καλό είναι αυτή τη στιγμή το ChatGTP;

A. Το ChatGPT είναι πολύ εντυπωσιακό, αν αναλογιστεί κανείς ότι πρόκειται για ένα Μεγάλο Γλωσσικό Μοντέλο και οι δυνατότητές του εκπλήσσουν ακόμη και τους δημιουργούς τέτοιων μοντέλων. Ωστόσο, επί του παρόντος είναι πολύ ρηχό, κάνει λάθη, δημιουργεί απαντήσεις που πλησιάζουν περισσότερο τις παραισθήσεις (δηλαδή κατασκευασμένες απαντήσεις) και δεν είναι πραγματικά αξιόπιστο για οτιδήποτε σοβαρό. Φαίνεται όμως να κερδίζει γρήγορα έδαφος, αν κρίνουμε από το πλήθος των ειδικών της τεχνολογίας που αρχίζουν να ασχολούνται διστακτικά.

Ε. Πόσο καλό θα είναι το κακόβουλο λογισμικό που θα δημιουργηθεί από το ChatGPT, εάν βέβαια είναι κάτι τέτοιο δυνατό;

A. Στην πραγματικότητα απέχουμε πολύ από το στάδιο που θα υπάρξει «κακόβουλο λογισμικό που παράγεται πλήρως από τεχνητή νοημοσύνη», αν και το ChatGPT είναι αρκετά καλό στην υπόδειξη κώδικα, στη δημιουργία παραδειγμάτων και αποσπασμάτων κώδικα, στην αποσφαλμάτωση και βελτιστοποίηση κώδικα, ακόμη και στην αυτοματοποίηση της τεκμηρίωσης.

Ε. Τι γίνεται με τις πιο προηγμένες λειτουργίες;

A. Δεν ξέρουμε πόσο καλό είναι στις τεχνικές που εμποδίζουν ανιχνεύσεις (obfuscation). Ορισμένα από τα παραδείγματα αφορούν γλώσσες προγραμματισμού scripting όπως η Python. Αλλά είδαμε το ChatGPT να “αντιστρέφει” το νόημα του αποσυναρμολογημένου κώδικα που συνδέεται με το IDA Pro – και αυτό έχει πολύενδιαφέρον. Συνολικά, είναι ένα εύχρηστο εργαλείο που μπορεί να βοηθήσει έναν προγραμματιστή και ίσως αυτό να είναι ένα πρώτο βήμα προς τη δημιουργία πιο ολοκληρωμένου κακόβουλου λογισμικού, αλλά απέχουμε ακόμα από αυτό.

Ε. Τι μπορεί να κάνει αυτή τη στιγμή;

A. Προς το παρόν, βλέπουμε τρεις πιθανούς τομείς υιοθέτησης και χρήσης κακόβουλων προγραμμάτων:

  1. Οι απάτες phishing θα γίνουν ακόμα πιο πειστικές. Δεν θα είστε σε θέση να εντοπίσετε την απάτη γρήγορα λόγω γλωσσικών λαθών καθώς η χρήση της γλώσσας θα είναι καλύτερη. Δεδομένου ότι ένα μεγάλο μέρος των επιθέσεων ξεκινά με το να κάνει κάποιος κλικ σε έναν σύνδεσμο, περιμένουμε ότι οι σχετικές επιπτώσεις θα αυξηθούν. Από τη διερεύνηση περισσότερων πηγών δεδομένων και την άψογη συνένωσή τους μέχρι τη δημιουργία ειδικά διαμορφωμένων μηνυμάτων ηλεκτρονικού ταχυδρομείου που θα είναι πολύ δύσκολο να εντοπιστούν με βάση το περιεχόμενό τους – τα ποσοστά επιτυχίας φαίνεται ότι θα είναι καλύτερα.
  2. Οι διαπραγματεύσεις για λύτρα θα αυτοματοποιηθούν. Οι χειριστές ransomware δεν είναι και πολύ γλυκομίλητοι, αλλά η «ζεστασιά» στην επικοινωνία που μπορεί να προσθέσει το ChatGPT θα μπορούσε να μειώσει το… φόρτο εργασίας των δραστών κατά τη διάρκεια των διαπραγματεύσεων. Αυτό θα σημαίνει επίσης λιγότερα λάθη που θα μπορούσαν να επιτρέψουν στους δράστες να εντοπίσουν τις πραγματικές ταυτότητες και τις τοποθεσίες των χειριστών.
  3. Οι τηλεφωνικές απάτες θα γίνουν ακόμα πιο πειστικές. Με τη βοήθεια του ChatGPT οι κακόβουλοι απατεώνες θα ακούγονται σαν ντόπιοι και θα είναι πιο πειστικοί στο ότι νοιάζονται για τα συμφέροντά σας. Αυτό είναι ένα από τα πρώτα βήματα για να πέσετε θύματα σε μια απάτη εμπιστοσύνης: να ακούγονται πιο σίγουροι σαν να είναι ένας από τους δικούς σας ανθρώπους.

Μολονότι όλα αυτά ακούγονται σαν να ανήκουν στο μακρινό μέλλον, μη στοιχηματίζετε σε αυτό. Δεν θα συμβούν ταυτόχρονα, ούτε από τη μια μέρα στην άλλη, αλλά οι εγκληματίες θα γίνουν πολύ καλύτεροι. Μένει να δούμε το κατά πόσο οι αμυντικοί μηχανισμοί θα σταθούν στο ύψος των περιστάσεων.

ΑΛΛΑ ΑΡΘΡΑ ΣΕ ΑΥΤΗ ΤΗΝ ΚΑΤΗΓΟΡΙΑ

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

  • Security Report, 137

    Security Report, 137

    Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Μαρτίου, πάντα μαζί με το περιοδικό Ψηφιακή Τηλεόραση. Στο νέο τεύχοςθα βρείτε ενδιαφέροντα θέματα και δοκιμές πο...
  • Δυναμικότατη η επιστροφή της Salonica Electronix

    Δυναμικότατη η επιστροφή της Salonica Electronix

    Εντυπωσιακά επανήλθε στο προσκήνιο η Salonica Electronix, μετά την απουσία της κατά τα δύσκολα χρόνια της πανδημίας. Η έκθεση διεξήχθη στην ευρύχωρη αίθουσα Grand Pietra του ξενοδοχείου Porto Pala...
  • Ανάλυση ροής κυκλοφορίας στα εμπορικά καταστήματα

    Ανάλυση ροής κυκλοφορίας στα εμπορικά καταστήματα

    Σήμερα η επιτυχία και η κερδοφορία μίας επιχείρησης, ανεξάρτητα από τα προϊόντα που πουλάει και τις υπηρεσίες που προσφέρει, εξαρτάται σε μεγάλο βαθμό από τα έσοδά των πωλήσεων και από την ικανοπο...
  • Ο ρόλος των συστημάτων φωνητικής αναγγελίας κινδύνου PA/VA και η Απαιτητική σχεδίασή τους

    Ο ρόλος των συστημάτων φωνητικής αναγγελίας κινδύνου PA/VA και η Απαιτητική σχεδίασή τους

    Η εκκένωση ή η μαζική ενημέρωση των ανθρώπων που βρίσκονται σε  ένα κτίριο ή ένα εμπορικό κέντρο, σε διάφορους χώρους εκδηλώσεων όπως θέατρα και συναυλιακούς χώρους, σε σταθμούς μέσων μαζικής...
  • HIKVΙSION eDVRs

    HIKVΙSION eDVRs

    Η HΙKVISION παρουσίασε πρόσφατα το πρώτο καταγραφικό eDVR με ενσωματωμένο δίσκο eSSD σε μορφή chip (μνήμη flash). Στο άμεσο μέλλον αναμένεται οι δίσκοι SSD να αντικαταστήσουν τους κανονικούς σκληρ...

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

  • Κυκλοφορεί το νέο τεύχος του περιοδικού «Security Report Cyprus»

    Κυκλοφορεί το νέο τεύχος του περιοδικού «Security Report Cyprus»

    Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Cyprus! Στο νέο τεύχος θα βρείτε ενδιαφέροντα θέματα και δοκιμές που απευθύνονται σε κάθε τεχνικό, ηλεκτρονικό ή ...
  • <strong>Επιλέγοντας φακούς σε ένα Κλειστό κύκλωμα Τηλεόρασης</strong>

    Επιλέγοντας φακούς σε ένα Κλειστό κύκλωμα Τηλεόρασης

    Στα μάτια των περισσοτέρων όλοι οι φακοί κάμερας είναι ίδιοι και κάθε φακός κρίνεται ικανοποιητικός αρκεί να παρέχει εικόνες υψηλής ευκρίνειας. Στον κόσμο των ειδικών όμως, τα πράγματα είναι αρκετ...
  • <strong>Καλώδια Ethernet σε συστήματα βιντεοεπιτήρησης</strong>

    Καλώδια Ethernet σε συστήματα βιντεοεπιτήρησης

    Ένα καλώδιο Ethernet είναι ένας κοινός τύπος καλωδίου δικτύου που χρησιμοποιείται ευρέως σήμερα για την ενσύρματη σύνδεση πολλών συσκευών, όπως οι υπολογιστές, τα switches, οι κάμερες ασφαλείας, τ...
  • <strong>Internet of Things</strong>

    Internet of Things

    Το Διαδίκτυο των πραγμάτων (IoT) αποτελείται από έξυπνες συσκευές που επικοινωνούν μεταξύ τους. Δίνει τη δυνατότητα σε αυτές τις συσκευές να συλλέγουν και να ανταλλάσσουν δεδομένα. Εκτός αυτού, το...
  • Κάμερες εξωτερικού χώρου

    Κάμερες εξωτερικού χώρου

    Η επιλογή της κατάλληλης κάμερας για τον κατάλληλο χώρο είναι μια δύσκολη απόφαση που αντιμετωπίζουν τόσο οι εγκαταστάτες, όσο και οι τελικοί πελάτες, μιας και η αγορά σήμερα διαθέτει αμέτρητες συ...
  • Ajax Special Event

    Ajax Special Event

    Το 4ο κατά σειρά εικονικό event της Ajax Systems πραγματοποιήθηκε με επιτυχία στις 11 Οκτωβρίου του 2022 και η εταιρία παρουσίασε στο κοινό των integrators νέα προϊόντα, λογισμικά και πολλές ακόμα...
  • Συναγερμοί οικίας vs επιχείρησης

    Συναγερμοί οικίας vs επιχείρησης

    Οι τεχνικές παραβίασης των δραστών διαρκώς εξελίσσονται. Για αυτό άλλωστε η ζήτηση για συστήματα ασφαλείας τόσο σε οικίες όσο και σε επαγγελματικούς χώρους  αυξάνεται ή (τουλάχιστον) σταθεροπ...
  • Συνέντευξη με τον Αλέξανδρο Φείδα

    Συνέντευξη με τον Αλέξανδρο Φείδα

    Η φετινή χρονιά, είναι χρονιά γιορτής για την Sigma Security, καθώς συμπληρώνει 45 χρόνια επιτυχούς δραστηριότητας στο κλάδο της ηλεκτρονικής ασφάλειας! Η Sigma Security δημιουργήθηκε το 1977 και ...
  • VMS: αυτά είναι μερικά από τα βασικότερα κριτήρια αγοράς του

    VMS: αυτά είναι μερικά από τα βασικότερα κριτήρια αγοράς του

    Επιχειρηματική ευφυΐα, βελτιωμένη διαχείριση συμβάντων, πλούσια αναλυτικά στοιχεία και υψηλή ασφάλεια, αυτές είναι μόνο μερικές από τις σύγχρονες δυνατότητες των νέων συστημάτων διαχείρισης βίντεο...
ΤΟ ΑΠΟΛΥΤΟ
ΠΕΡΙΟΔΙΚΟ
ΓΙΑ ΤΑ
ΣΥΣΤΗΜΑΤΑ
ΑΣΦΑΛΕΙΑΣ

ΕΠΙΚΟΙΝΩΝΙΑ
LIBRA PRESS
Καυκάσου 145, Αθήνα, 11364



ΕΝΗΜΕΡΩΤΙΚΑ ΔΕΛΤΙΑ


Securityreport.gr - Το απόλυτο περιοδικό για τα συστήματα ασφαλείας
Libra Press © Copyright 2022 | All Rights Reserved
Dual Design