Μεγάλες εταιρείες ζητούν φρένο στην χρήση AI – Αρκετοί ερευνητές προειδοποιούν για τους κινδύνους που υπάρχουν
Από την αμερικανική κυβέρνηση ζητούν περισσότεροι από 1.100 εργαζόμενοι και κορυφαία στελέχη εταιρειών Τεχνητής Νοημοσύνης ζητούν από την αμερικανική κυβέρνηση να επιβραδύνει την ανάπτυξη και κυκλοφορία των πλέον προηγμένων μοντέλων AI, προειδοποιώντας ότι ο ανταγωνισμός μεταξύ των εταιρειών ενδέχεται να οδηγήσει σε μια ανεξέλεγκτη κούρσα τεχνολογικής εξέλιξης.
Μεταξύ των υπογραφόντων βρίσκονται ο συνιδρυτής και CEO της Anthropic, Ντάριο Αμοντέι, καθώς και επικεφαλής ερευνητές από την OpenAI, τη Meta και την Google DeepMind, οι οποίοι ζητούν τη λήψη μέτρων που θα διασφαλίσουν την ασφαλή ανάπτυξη της τεχνολογίας.
Το κείμενο έχει συγκεντρώσει συνολικά περισσότερες από 1.100 υπογραφές, ενώ τόσο η OpenAI όσο και η Anthropic εξέφρασαν δημόσια τη στήριξή τους στην πρωτοβουλία μέσω αναρτήσεων στην πλατφόρμα X.
Η παρέμβαση έρχεται έπειτα από μια σειρά εξελίξεων τους τελευταίους μήνες που, σύμφωνα με τους υπογράφοντες, αναδεικνύουν την ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη και εντείνουν τις ανησυχίες για την ανάγκη αποτελεσματικότερης εποπτείας του κλάδου.
Στις αρχές του Απριλίου, η Anthropic αποφάσισε να μην κυκλοφορήσει το νέο μοντέλο της, το Mythos, παρά σε περιορισμένο αριθμό οργανισμών για λόγους ασφάλειας στο Ιντερνετ, κρίνοντάς το υπερβολικά επικίνδυνο για εμπορική κυκλοφορία σε μεγάλη κλίμακα.
Η Anthropic ανέβασε μία περιορισμένη έκδοση του Mythos, το Fable 5, αλλά η αμερικανική κυβέρνηση πείσθηκε πολύ σύντομα να την αποσύρει επικαλούμενη κινδύνους εθνικής ασφαλείας. Τελικά , έδωσε τη έγκρισή στο τέλος του Ιουνίου έπειτα από τροποποιήσεις.
Στα μέσα του Ιουλίου, δύο μοντέλα της OpenAI που βρίσκονταν σε φάση δοκιμών βγήκαν από τον προκαθορισμένο, θεωρητικά περιορισμένο, χώρο τους για να ενταχθούν στο Ιντερνετ με δική τους πρωτοβουλία και εισχώρησαν στην πλατφόρμα Hugging Face, βιβλιοθήκη μοντέλων της AI.
«Υπάρχει κίνδυνος η ανάπτυξη των ικανοτήτων των μοντέλων να επιταχύνεται με γρήγορους ρυθμούς πέραν των δικών μας ικανοτήτων να κατανοήσουμε και να ελέγξουμε τα συστήματα αυτά», προειδοποιούν οι εργαζόμενοι στην επιστολή που συνοδεύει το γραπτό τους αίτημα.
«Η βιομηχανία, η κυβέρνηση και η κοινωνία ολόκληρη θα μπορούσαν να χρειασθούν την επιλογή του χρόνου για την αντιμετώπιση των εμφανιζόμενων κινδύνων, για την ανάπτυξη μέτρων ασφαλείας και για την ενίσχυση της εποπτείας», γράφουν.
Μία Τεχνητή Νοημοσύνη που αυτοβελτιώνεται με δική της πρωτοβουλία
Σε μία συγκυρία αυξημένου ανταγωνισμού μεταξύ χωρών, είναι ωστόσο δύσκολο για μία χώρα να αποφασίσει μόνη να επιβραδύνει, παραδέχονται.
Κατά συνέπεια, «ζητούμε από την αμερικανική κυβέρνηση να υποστηρίξει μία διεθνή πρωτοβουλία για την δημιουργία των τεχνικών εργαλείων και μέσων διαχείρισης που είναι αναγκαία για την σκόπιμη επιβράδυνση της αυτοματoποιημένης ανάπτυξης της AI», καταλήγει το κείμενο.
Εκτός της πίεσης του ανταγωνισμού, η αύξηση του ρυθμού της έκδοσης νέων μοντέλων αιχμής οφείλεται στην νεοαποκτηθείσα ικανότητα της τεχνητής Νοημοσύνης να αυτοβελτιώνεται, χωρίς την μεσολάβηση του ανθρώπου. Η τεχνική αυτή επιτρέπει την ανάπτυξη ενός νέου μοντέλου πολύ ταχύτερα από πριν.
Για τους περισσότερους ερευνητές, η Τεχνητή Νοημοσύνη αναπτύσσεται με τον τρόπο αυτόν προς την «αναδρομική αυτοβελτίωση» που θα έχει ως αποτέλεσμα μία AI που θα συλλαμβάνει και θα διαμορφώνει μόνη της τον διάδοχό της, μία ακολουθία που μπορεί να επαναλαμβάνεται στο διηνεκές. «Οι εταιρείες που βρίσκονται στην πρωτοπορία της Τεχνητής Νοημοσύνης πιστεύουν ότι βρίσκονται κοντά σε μία αυτοματοποιημένη έρευνα μέσω της AI», σύμφωνα με το κείμενο.
Οι μηχανισμός αυτός θα περιέπλεκε τον έλεγχο και την κατανόηση των νέων μοντέλων από τους προγραμματιστές που πλέον θα είναι εξορισμένοι από την ανάπτυξη της AI.
Σε podcast που ανήρτησε online, ο επικεφαλής της OpenAI, ο Σαμ Αλτμαν, ο οποίος δεν έχει υπογράφει το κείμενο του αιτήματος, δηλώνει ότι οι πρωτοπόρες εταιρείες της Τεχνητής Νοημοσύνης θα μπορούσαν να επιβραδύνουν τον ρυθμό της ανάπτυξης των μοντέλων τους για να δημιουργήσουν τον χρόνο που θα επιτρέψει σε ολόκληρο το οικοσύστημα της Πληροφορικής να προετοιμασθεί.
Πολλοί επαγγελματίες της AI υποδέχθηκαν με επιφύλαξη το αίτημα των 1.100 ως ευσεβή πόθο που εντάσσεται σε μία σειρά ανοικτών επιστολών και γραπτών αιτημάτων που έχουν μείνει χωρίς συνέχεια.
«Η επιτυχία τέτοιων κινήσεων χρειάζεται πολύ χρόνο», σχολίασε στο Χ ο Τσάρλι Μπούλοκ, του κέντρου Institute for Law & AI, αλλά «ο χρόνος πιέζει», προειδοποιούν οι υπογράφοντες.
Ήδη από τον Ιούνιο, στο περιθώριο της συνόδου κορυφής της G7, ο CEO της Anthropic Ντάριο Αμοντέι, ο επικεφαλής της OpenAI Σαμ Άλτμαν και ο CEO της Google DeepMind Ντέμις Χασάμπις είχαν προτείνει τη δημιουργία μιας διεθνούς πλατφόρμας συνεργασίας για την Τεχνητή Νοημοσύνη.
Στόχος της πρωτοβουλίας, όπως είχε εξηγήσει τότε ο επικεφαλής δημοσίων υποθέσεων της OpenAI, Κρις Λεχέιν, ήταν να διερευνηθεί η δυνατότητα θέσπισης κοινών κανόνων ασφαλείας για την ανάπτυξη της AI, οι οποίοι θα μπορούσαν να αποτελέσουν τη βάση ενός διεθνούς πλαισίου διακυβέρνησης της τεχνολογίας.
Ο ίδιος είχε επισημάνει ότι διαπιστώθηκε σημαντική σύγκλιση απόψεων μεταξύ των κρατών-μελών της G7 και των πέντε προσκεκλημένων χωρών ως προς την ανάγκη διαμόρφωσης κοινών προτύπων για την ασφαλή εξέλιξη της Τεχνητής Νοημοσύνης.
