Skip to main content
Hermes Banner 1
DIABASTE DWREAN SEC CYP 10
DIGITAL TV 187
19 Μαρτίου 2024 11:52

AI Act: Εγκρίθηκε ο Κανονισμός για την Τεχνητή νοημοσύνη – Τι προβλέπει

ai 0befbabb

Την Τετάρτη το Κοινοβούλιο ενέκρινε τον κανονισμό περί τεχνητής νοημοσύνης που κατοχυρώνει την ασφάλεια των χρηστών και την τήρηση των θεμελιωδών δικαιωμάτων, ενώ ενισχύει την καινοτομία.

Οι ευρωβουλευτές ενέκριναν το κείμενο στο οποίο είχαν συμφωνήσει με τα κράτη μέλη τον Δεκέμβριο του 2023 με 523 ψήφους υπέρ, 46 ψήφους κατά και 49 αποχές.

Στόχος της νέας νομοθεσίας είναι να προστατέψει τα θεμελιώδη δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική βιωσιμότητα από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, αλλά και να ενισχύσει παράλληλα την καινοτομία και να αναδείξει την Ευρώπη ως πρωτοπόρο δύναμη στον τομέα αυτό.

Γι’ αυτόν τον σκοπό, ο κανονισμός ορίζει διαφορετικές υποχρεώσεις για τα συστήματα τεχνητής νοημοσύνης, ανάλογα με τους πιθανούς κινδύνους και τις επιπτώσεις που ενέχει η χρήση τους.

Καθολική απαγόρευση ορισμένων πρακτικών

Οι νέοι κανόνες απαγορεύουν τις εφαρμογές της τεχνητής νοημοσύνης που απειλούν τα δικαιώματα των πολιτών, όπως είναι τα συστήματα βιομετρικής κατηγοριοποίησης που βασίζονται σε ευαίσθητα χαρακτηριστικά και η μη στοχοθετημένη συλλογή εικόνων προσώπων από το διαδίκτυο ή από κάμερες κλειστού κυκλώματος παρακολούθησης, με στόχο τη δημιουργία βάσεων δεδομένων για την αναγνώριση προσώπων.

Θα απαγορεύονται επίσης η αναγνώριση συναισθημάτων στον χώρο εργασίας και το σχολείο, η κοινωνική βαθμολόγηση, η προληπτική αστυνόμευση (όταν βασίζεται αποκλειστικά στην κατάρτιση προφίλ ενός ατόμου ή στην αξιολόγηση των χαρακτηριστικών του) και η τεχνητή νοημοσύνη που χειραγωγεί την ανθρώπινη συμπεριφορά ή εκμεταλλεύεται τα τρωτά σημεία των ανθρώπων.

Εξαιρέσεις για τις αρχές επιβολής του νόμου

Η χρήση συστημάτων βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου απαγορεύεται κατά κανόνα, με εξαίρεση τις συγκεκριμένες περιπτώσεις που παραθέτει και ορίζει λεπτομερώς ο νέος κανονισμός.

Η χρήση συστημάτων βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» επιτρέπεται μόνο υπό αυστηρέ προϋποθέσεις: αν, για παράδειγμα, η βιομετρική ταυτοποίηση θα χρησιμοποιηθεί μόνο για περιορισμένο χρόνο και σε περιορισμένη γεωγραφική έκταση, με προηγούμενη ειδική άδεια από τις δικαστικές ή τις διοικητικές αρχές.

Τέτοιες περιπτώσεις μπορεί να είναι η στοχευμένη αναζήτηση αγνοουμένου προσώπου ή η πρόληψη μιας τρομοκρατικής επίθεσης. Η χρήση συστημάτων βιομετρικής ταυτοποίησης «σε ύστερο χρόνο» θεωρείται υψηλού κινδύνου και απαιτεί δικαστική έγκριση που θα συνδέεται με κάποιο ποινικό αδίκημα.

Υποχρεώσεις για τα συστήματα υψηλού κινδύνου

Ο νέος κανονισμός θέτει σαφείς υποχρεώσεις και για τα υπόλοιπα συστήματα τεχνητής νοημοσύνης που θεωρούνται υψηλού κινδύνου, λόγω των σημαντικών επιβλαβών επιπτώσεων που ενδέχεται να έχουν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου. Το κείμενο απαριθμεί τους τομείς στους οποίους χρησιμοποιούνται ή ενδέχεται να χρησιμοποιηθούν τέτοια συστήματα και οι οποίοι είναι: οι κρίσιμες υποδομές, η εκπαίδευση και η επαγγελματική κατάρτιση, η απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), η επιβολή του νόμου, η διαχείριση της μετανάστευσης και των συνόρων, καθώς και οι δικαστικές και δημοκρατικές διαδικασίες (π.χ. για τον επηρεασμό εκλογικών διαδικασιών).

Τα συστήματα αυτά πρέπει να αξιολογούν και να ελαχιστοποιούν τους κινδύνους, να τηρούν αρχεία καταγραφής της χρήσης τους, να είναι διαφανή και ακριβή και να εποπτεύονται από ανθρώπους. Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες για τα συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις για τυχόν αποφάσεις που βασίστηκαν σε συστήματα υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.

Απαιτήσεις για διαφάνεια

Τα συστήματα τεχνητής νοημοσύνης «γενικής χρήσης» και τα μοντέλα στα οποία βασίζονται πρέπει να πληρούν ορισμένες απαιτήσεις διαφάνειας, συμπεριλαμβανομένης της συμμόρφωσής τους με τη νομοθεσία της ΕΕ για τα δικαιώματα πνευματικής ιδιοκτησίας και της δημοσιοποίησης λεπτομερών περιλήψεων του περιεχομένου που χρησιμοποιούν για την εκπαίδευση των μοντέλων τους.

Για τα ισχυρότερα μοντέλα που μπορούν να δημιουργήσουν συστημικούς κινδύνους θα ισχύουν επιπλέον απαιτήσεις, όπως η αξιολόγησή τους, η εκτίμηση και ο περιορισμός των συστημικών κινδύνων και η υποβολή εκθέσεων σχετικά με περιστατικά και δυσλειτουργίες.Επιπλέον, αν οποιοδήποτε οπτικοακουστικό υλικό είναι τεχνητό ή παραποιημένο (τα λεγόμενα «προϊόντα βαθυπαραποίησης» ή «deepfakes») θα πρέπει να επισημαίνεται σαφώς.

Μέτρα για στήριξη της καινοτομίας και των μικρών και μεσαίων επιχειρήσεων

Οι εθνικές αρχές κάθε χώρας θα πρέπει να δημιουργήσουν «ρυθμιστικά δοκιμαστήρια» για να δοκιμάζονται σε πραγματικές συνθήκες τα συστήματα τεχνητής νοημοσύνης. Οι δομές αυτές θα πρέπει να είναι προσβάσιμες στις μικρές και μεσαίες επιχειρήσεις, καθώς και στις νεοφυείς επιχειρήσεις, για να μπορούν να αναπτύσσουν και να εκπαιδεύουν καινοτόμα μοντέλα τεχνητής νοημοσύνης πριν από τη διάθεσή τους στην αγορά.

Δηλώσεις

Κατά τη συζήτηση στην ολομέλεια την Τρίτη, ο συνεισηγητής της Επιτροπής Εσωτερικής Αγοράς Brando Benifei (Σοσιαλιστές, Ιταλία) δήλωσε: «Έχουμε επιτέλους την πρώτη νομοθεσία στον κόσμο για την τεχνητή νοημοσύνη, για τη μείωση των κινδύνων, τη δημιουργία ευκαιριών, την καταπολέμηση των διακρίσεων και την επίτευξη διαφάνειας.

Χάρη στο Κοινοβούλιο, η Ευρώπη απαγορεύει απαράδεκτες χρήσεις της τεχνητής νοημοσύνης και προστατεύει τα δικαιώματα εργαζομένων και πολιτών. Η νέα Υπηρεσία Τεχνητής Νοημοσύνης που θα συσταθεί θα υποστηρίξει τις εταιρείες προκειμένου να αρχίσουν να συμμορφώνονται με τους κανόνες πριν από την έναρξη ισχύος τους.

Διασφαλίσαμε ότι οι άνθρωποι και οι ευρωπαϊκές αξίες βρίσκονται στο επίκεντρο της ανάπτυξης της τεχνητής νοημοσύνης».Ο συνεισηγητής της Επιτροπής Πολιτικών Ελευθεριών Dragos Tudorache (Renew, Ρουμανία) δήλωσε: «Η ΕΕ πέτυχε. Έχουμε συνδέσει την έννοια της τεχνητής νοημοσύνης με τις δημοκρατικές αξίες που αποτελούν το θεμέλιο των κοινωνιών μας. Ωστόσο, υπάρχει πολλή δουλειά πέρα από την νομοθεσία αυτή για την τεχνητή νοημοσύνη.

Η τεχνολογία θα μας ωθήσει να επανεξετάσουμε το κοινωνικό συμβόλαιο που βρίσκεται στην καρδιά των δημοκρατιών μας, τα εκπαιδευτικά μας μοντέλα, τις αγορές εργασίας και τον τρόπο με τον οποίο διεξάγουμε πόλεμο. Η νομοθεσία για την τεχνητή νοημοσύνη αποτελεί σημείο εκκίνησης για ένα νέο μοντέλο διακυβέρνησης που βασίζεται στην τεχνολογία. Πρέπει τώρα να επικεντρωθούμε στην εφαρμογή αυτού των κανόνων στην πράξη».

Επόμενα βήματα

Ο κανονισμός θα υποβληθεί πλέον σε τελικό έλεγχο από γλωσσομαθείς νομικούς της ΕΕ και αναμένεται να εγκριθεί οριστικά πριν από το τέλος της κοινοβουλευτικής περιόδου (η λεγόμενη διαδικασία διορθωτικού κειμένου). Ο κανονισμός θα πρέπει επίσης να εγκριθεί επίσημα και από το Συμβούλιο.Θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης και θα αρχίσει να εφαρμόζεται πλήρως 24 μήνες μετά την έναρξη της ισχύος του.

Εξαίρεση θα αποτελέσουν οι εξής διατάξεις του: η καθολική απαγόρευση ορισμένων πρακτικών που θα αρχίσει να εφαρμόζεται έξι μήνες μετά την έναρξη ισχύος του κανονισμού, οι κώδικες δεοντολογίας (εννέα μήνες μετά την έναρξη ισχύος), οι κανόνες για την τεχνητή νοημοσύνη γενικής χρήσης, συμπεριλαμβανομένων των κανόνων για τη διακυβέρνηση (12 μήνες μετά την έναρξη ισχύος), και οι υποχρεώσεις για συστήματα υψηλού κινδύνου (36 μήνες).

Σχετικές πληροφορίες

Η νομοθετική πράξη για την τεχνητή νοημοσύνη ανταποκρίνεται άμεσα στις προσδοκίες των πολιτών, όπως εκφράστηκαν στις προτάσεις της Διάσκεψης για το Μέλλον της Ευρώπης. Συγκεκριμένα, οι ευρωβουλευτές έλαβαν υπόψη τις προτάσεις 12.10 (σχετικά με την ενίσχυση της ανταγωνιστικότητας της ΕΕ σε στρατηγικούς τομείς), 33.5 (για μια ασφαλή και αξιόπιστη κοινωνία, συμπεριλαμβανομένης της καταπολέμησης της παραπληροφόρησης και της διασφάλισης της τελικής ελέγχου των ανθρώπων), 35.3 (για την προώθηση της ψηφιακής καινοτομίας με διασφάλιση της ανθρώπινης εποπτείας), 35.8 (για την αξιόπιστη και υπεύθυνη χρήση της ΤΝ και τον καθορισμό δικλείδων ασφαλείας και τη διασφάλιση της διαφάνειας), και 37.3 (σχετικά με τη χρήση της ΤΝ και των ψηφιακών εργαλείων για τη βελτίωση της πρόσβασης των πολιτών στις πληροφορίες, συμπεριλαμβανομένων των ατόμων με αναπηρία).

ΑΛΛΑ ΑΡΘΡΑ ΣΕ ΑΥΤΗ ΤΗΝ ΚΑΤΗΓΟΡΙΑ

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

  • Κυκλοφορεί το Security Report Απριλίου

    Κυκλοφορεί το Security Report Απριλίου

    Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Απριλίου, πάντα μαζί με το περιοδικό Ψηφιακή Τηλεόραση. Στο νέο τεύχοςθα βρείτε ενδιαφέροντα θέματα και δοκιμές π...
  • Athens Electronix 2024

    Athens Electronix 2024

    Με τεράστια επιτυχία ολοκληρώθηκε η Athens Electronix 2024, η μεγαλύτερη έκθεση της χρονιάς στην πρωτεύουσα, η οποία διοργανώθηκε από την Libra Press στον Πολυχώρο Εκδηλώσεων Δαΐς, στις 2 και 3 Μα...
  • Διευθυνσιοδοτούμενα συστήματα πυρανίχνευσης της Satel

    Διευθυνσιοδοτούμενα συστήματα πυρανίχνευσης της Satel

    Με μεγάλη επιτυχία ολοκληρώθηκε ένα ακόμα σεμινάριο που διοργάνωσε η ARK Academy στις εγκαταστάσεις της στον Ταύρο, την Πέμπτη, 29 Φεβρουαρίου, με θέμα τα συστήματα διευθυνσιοδοτούμενης πυρανίχνευ...
  • Πώς επηρεάζεται ο κατασκευαστικός τομέας από το AI;

    Πώς επηρεάζεται ο κατασκευαστικός τομέας από το AI;

    Ο κατασκευαστικός κλάδος, ακρογωνιαίος λίθος της αστικής ανάπτυξης και γενικότερα της οικονομίας, υφίσταται σημαντικές αλλαγές τα τελευταία χρόνια. Στο επίκεντρο αυτών των αλλαγών, βρίσκεται για μ...
  • Lenkeng AV transmitters

    Lenkeng AV transmitters

    H Lenkeng ιδρύθηκε το 2004 στην Κίνα και είναι ένας από τους κορυφαίους παγκόσμιους κατασκευαστές συστημάτων video transmission, παράγοντας ποιοτικά και καινοτόμα προϊόντα, που ακολουθούν τα τελευ...

ΣΕ ΑΥΤΟ ΤΟ ΤΕΥΧΟΣ

  • Security Cyprus, τεύχος 11

    Security Cyprus, τεύχος 11

    Κυκλοφορεί σε όλα τα εξειδικευμένα σημεία διανομής το περιοδικό Security Report Cyprus! Στο νέο τεύχος θα βρείτε ενδιαφέροντα θέματα και δοκιμές που απευθύνονται σε κάθε τεχνικό, ηλεκτρονικό ή ...
  • Dahua Insider

    Dahua Insider

    Βελτιωμένη γενιά Access Controller με νέες δυνατότητες και λειτουργίες Ο νέος Insider Access Controller της Dahua, ASC3202B, έρχεται να γίνει η «καρδιά» της εγκατάστασήςμας. Ενσωματώνει Web Int...
  • Security TOP 50

    Security TOP 50

    Η κατάταξη των εταιρειών Security, που δημοσιεύει κάθε χρόνο στην επίσημη ιστοσελίδα του το περιοδικό asmag.com, είναι πλέον διαθέσιμη! Το asmag.com, που σε συνεργασία με κορυφαία στελέχη του κλάδ...
  • PIAM 2.0

    PIAM 2.0

    Το PIAM (Physical Identity and Access Management), που αναφέρεται στον έλεγχο πρόσβασης και σημαίνει διαχείριση της φυσικής ταυτότητας και της πρόσβασης, είναι στην πραγματικότητα ένα σύστημα που ...
  • Body worn κάμερες: Ξεκινά η πιλοτική εφαρμογή τους το 2024 στη χώρα μας

    Body worn κάμερες: Ξεκινά η πιλοτική εφαρμογή τους το 2024 στη χώρα μας

    Οι body worn κάμερες, που κατά βάση χρησιμοποιούνται από τις αρχές επιβολής του νόμου, μπορούν μεταξύ άλλων να τοποθετηθούν στις στολές των αστυνομικών και έχουν αποδειχθεί ιδιαίτερα χρήσιμες,...
  • Πώς επηρεάζονται οι αγοραστικές συνήθειες του καταναλωτικού κοινού από τα δεδομένα

    Πώς επηρεάζονται οι αγοραστικές συνήθειες του καταναλωτικού κοινού από τα δεδομένα

    Η ικανότητα συλλογής, ανάλυσης και εξαγωγής πληροφοριών / δεδομένων από πολλαπλές πηγές μπορεί να έχει άμεσο θετικό αντίκτυπο για μία επιχείρηση, κάτι που γίνεται καλύτερα αντιληπτό όταν εξετάζουμ...
  • Πρωτόκολλο DALI

    Πρωτόκολλο DALI

    Το πρωτόκολλο επικοινωνίας φωτιστικών ασφαλείας DALI (Digital Addressable Lighting Interface) αναδεικνύει μια νέα εποχή στον χώρο της τεχνολογίας φωτισμού, προσφέροντας εξελιγμένες δυνατότητες ελέ...
  • Ajax Special Event: Νέα προϊόντα και λύσεις στην 5η κατά σειρά virtual παρουσίαση!

    Ajax Special Event: Νέα προϊόντα και λύσεις στην 5η κατά σειρά virtual παρουσίαση!

    Το 5ο κατά σειρά εικονικό event της Ajax Systems ολοκληρώθηκε με τεράστια επιτυχία στις 20 Οκτωβρίου του 2023! Για μία ακόμα χρονιά, η εταιρεία άνοιξε τα χαρτιά της ανακοινώνοντας νέες αλλαγές στο...
  • Ο ρόλος των καμερών ασφαλείας στο industry 4.0

    Ο ρόλος των καμερών ασφαλείας στο industry 4.0

    Πριν από το 2014, ο όρος αναζήτησης «industry 4.0» στο Google ήταν πρακτικά ανύπαρκτος. Αυτό έπαψε να ισχύει από το 2019, όπου το 68% των ερωτηθέντων μιας παγκόσμιας έρευνας που πραγματοποίησε η M...