Στο επίκεντρο η Anthropic: Εντοπίστηκε κρυφός μηχανισμός συλλογής δεδομένων
Οι εταιρείες που διαχειρίζονται διάφορες υπηρεσίες τεχνικής νοημοσύνης επεξεργάζονται αρκετά δεδομένα και έχουν πολλά εργαλεία. Μία από αυτές είναι η Anthropic που τον τελευταίο καιρό βρίσκεται στο επίκεντρο των αντιδράσεων, μετά την αποκάλυψη ότι δοκιμαστικός κώδικας στο Claude Code μπορούσε να συλλέγει πληροφορίες για χρήστες στην Κίνα, προκαλώντας ερωτήματα για τη διαφάνεια και την προστασία της ιδιωτικότητας.
Η Anthropic, μία από τις εταιρείες τεχνητής νοημοσύνης που έχει επανειλημμένα τονίσει τη σημασία της ηθικής και της διαφάνειας στην ανάπτυξη AI, βρίσκεται αντιμέτωπη με επικρίσεις, μετά την αποκάλυψη ότι στο εργαλείο Claude Code υπήρχε δοκιμαστικός κώδικας που συνέλεγε ορισμένες τεχνικές πληροφορίες χρηστών.
Σύμφωνα με δημοσίευμα του Ars Technica, ο ερευνητής ασφάλειας που χρησιμοποιεί το ψευδώνυμο Thereallo εντόπισε κώδικα ενσωματωμένο στο system prompt του Claude Code.
Όπως υποστήριξε, ο μηχανισμός αυτός μπορούσε να συλλέγει πληροφορίες όπως:
- τη ζώνη ώρας (timezone) του συστήματος, και
- τη χρήση proxy server,
με στόχο να εντοπίζει αν ένας χρήστης συνδεόταν από συγκεκριμένα κινεζικά εργαστήρια τεχνητής νοημοσύνης.
Η απάντηση της Anthropic
Η εταιρεία παραδέχθηκε την ύπαρξη του συγκεκριμένου μηχανισμού.
Ο μηχανικός της Anthropic Thariq Shihipa ανέφερε μέσω ανάρτησης στο X ότι επρόκειτο για ένα «πείραμα» που προστέθηκε τον Μάρτιο.
Σύμφωνα με τον ίδιο, ο σκοπός ήταν:
- να αποτραπεί η κατάχρηση λογαριασμών από μη εξουσιοδοτημένους μεταπωλητές, και
- να προστατευθούν τα μοντέλα της εταιρείας από πρακτικές “distillation”.
Όπως δήλωσε χαρακτηριστικά: «Σκοπεύαμε εδώ και καιρό να το αφαιρέσουμε.»
Τι είναι το «model distillation»
Το distillation αποτελεί μια συνηθισμένη τεχνική στον χώρο της τεχνητής νοημοσύνης, κατά την οποία ένα μικρότερο μοντέλο εκπαιδεύεται χρησιμοποιώντας τις απαντήσεις ενός μεγαλύτερου και ισχυρότερου μοντέλου.
Οι μεγάλες εταιρείες AI θεωρούν ότι η πρακτική αυτή μπορεί να χρησιμοποιηθεί καταχρηστικά, όταν ανταγωνιστές αξιοποιούν τις απαντήσεις των κορυφαίων μοντέλων για να εκπαιδεύσουν δικά τους συστήματα χωρίς σχετική άδεια.
Η Anthropic έχει κατηγορήσει στο παρελθόν κινεζικές εταιρείες όπως οι DeepSeek, Moonshot και MiniMax ότι προχώρησαν σε τέτοιες πρακτικές.
Παράλληλα, σύμφωνα με πρόσφατο δημοσίευμα της Washington Post, μεταπωλητές στην Κίνα προσφέρουν πρόσβαση σε συνδρομές Claude Pro, οι οποίες κοστίζουν πάνω από 100 δολάρια τον μήνα στις ΗΠΑ, έναντι περίπου 12 δολαρίων.
Ζητήματα εμπιστοσύνης
Παρότι αρκετοί ειδικοί αναγνωρίζουν ότι η προστασία των μοντέλων AI από μη εξουσιοδοτημένη χρήση αποτελεί πραγματική πρόκληση, η συγκεκριμένη πρακτική προκάλεσε αντιδράσεις, καθώς ο μηχανισμός δεν είχε γνωστοποιηθεί στους χρήστες.
Ο ερευνητής Thereallo υποστήριξε ότι τα σύγχρονα εργαλεία προγραμματισμού με AI διαθέτουν ήδη ιδιαίτερα αυξημένα δικαιώματα πρόσβασης, καθώς μπορούν να:
- αναλύουν κώδικα,
- εκτελούν εντολές στο σύστημα,
- εγκαθιστούν λογισμικό,
- επεξεργάζονται αρχεία,
- και να πραγματοποιούν αλλαγές σε αποθετήρια κώδικα.
Όπως έγραψε: «Οι εταιρείες έχουν δικαίωμα να προστατεύουν τα μοντέλα τους. Όταν όμως ένα εργαλείο με πρόσβαση στο σύστημα αρχίζει να ενσωματώνει κρυφούς μηχανισμούς ταξινόμησης μέσα στο system prompt, η σωστή αντίδραση είναι ο αυξημένος έλεγχος.»
Τι γνωρίζουμε μέχρι στιγμής
Μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι συλλέχθηκαν ιδιαίτερα ευαίσθητα προσωπικά δεδομένα ή ότι ο μηχανισμός χρησιμοποιήθηκε για ευρύτερη παρακολούθηση χρηστών.
Ωστόσο, η υπόθεση έχει αναζωπυρώσει τη συζήτηση γύρω από τη διαφάνεια των AI εργαλείων, ειδικά όταν αυτά αποκτούν ολοένα μεγαλύτερη πρόσβαση στους υπολογιστές και στα δεδομένα των χρηστών.
Πηγή: Fortune Greece
