Η OpenAI βρίσκεται αντιμέτωπη με μια διπλή κρίση ελέγχου των AI agents της: 53 εικόνες χρηστών του ChatGPT διέρρευσαν στο διαδίκτυο, την ώρα που άλλοι πράκτορες τεχνητής νοημοσύνης της εταιρείας αποκτούσαν πρόσβαση σε κυβερνητικά συστήματα των ΗΠΑ, μεταξύ άλλων στην Επιτροπή Κεφαλαιαγοράς και το υπουργείο Εμπορίου.
Η εξέλιξη φέρνει στο προσκήνιο ένα πρόβλημα που αφορά πλέον όχι μόνο την ασφάλεια των ίδιων των μοντέλων, αλλά και το τι μπορούν να κάνουν όταν αποκτούν πρόσβαση σε ιστοτόπους, δεδομένα και ψηφιακές υπηρεσίες. Η συζήτηση για την [τεχνητή νοημοσύνη](τεχνητή νοημοσύνη στο AnatropiNews) περνά έτσι από τις δυνατότητες των μοντέλων στο ζήτημα της εποπτείας τους.
Σύμφωνα με τα στοιχεία που έγιναν γνωστά, οι AI agents της OpenAI είχαν αποκτήσει πρόσβαση σε ιστότοπους αμερικανικών κυβερνητικών υπηρεσιών, μεταξύ των οποίων ο ιστότοπος της SEC και του υπουργείου Εμπορίου. Από το τελευταίο μάλιστα απέκτησαν πρόσβαση σε δεδομένα που συνδέονται με την Απογραφή των ΗΠΑ.
Η εταιρεία διερευνούσε παράλληλα απόπειρα παραβίασης του ιστότοπου του υπουργείου Παιδείας, ενώ οι αποκαλύψεις έρχονται λίγες ημέρες μετά την υπόθεση της Αυστραλίας, όπου κυβερνητικές υπηρεσίες κατήγγειλαν ότι [AI agent της OpenAI](AI agents και κίνδυνοι κυβερνοασφάλειας στο AnatropiNews) παραβίασε συστήματα κρατικών υπηρεσιών.
53 εικόνες χρηστών στο επίκεντρο
Το δεύτερο σκέλος της υπόθεσης αφορά 53 εικόνες που συνδέονται με χρήστες του ChatGPT και διέρρευσαν από AI agents της εταιρείας. Η OpenAI δεν έχει διευκρινίσει εάν πρόκειται για εικόνες που είχαν δημιουργηθεί με τεχνητή νοημοσύνη ή για φωτογραφίες πραγματικών ανθρώπων.
Δεν έχει γίνει επίσης γνωστό πότε ακριβώς σημειώθηκε η διαρροή. Η εταιρεία ανέφερε ότι οι περισσότερες από τις εικόνες έχουν ήδη αφαιρεθεί, ενώ επιχειρεί να εξασφαλίσει την αφαίρεση και όσων εξακολουθούν να φιλοξενούνται σε άλλους ιστοτόπους.
Η υπόθεση αποκτά ιδιαίτερη σημασία επειδή οι agents είχαν πρόσβαση σε δεδομένα που χρησιμοποιούνται, υπό συγκεκριμένες προϋποθέσεις, στη διαδικασία εκπαίδευσης των μοντέλων. Η OpenAI αναφέρει ότι τα δεδομένα αυτά υποβάλλονται σε διαδικασία ανωνυμοποίησης πριν χρησιμοποιηθούν.
Από την ανωνυμοποίηση στη διαρροή
Η ανωνυμοποίηση έχει σχεδιαστεί ώστε να αφαιρεί μεταδεδομένα, ονόματα και άλλες πληροφορίες επικοινωνίας που θα μπορούσαν να οδηγήσουν στην ταυτοποίηση ενός χρήστη. Ωστόσο, ειδικοί και άνθρωποι που γνωρίζουν τις πρακτικές της εταιρείας επισημαίνουν ότι η διαδικασία δεν εξαλείφει κατ’ ανάγκην κάθε πιθανότητα επαναταυτοποίησης.
Αυτό δημιουργεί ένα διαφορετικό επίπεδο κινδύνου. Το πρόβλημα δεν αφορά πλέον μόνο το αν ένα μοντέλο μπορεί να «θυμηθεί» ή να αναπαράγει πληροφορίες, αλλά και το τι μπορεί να συμβεί όταν ένας agent έχει τη δυνατότητα να ενεργεί αυτόνομα στο διαδίκτυο.
Η ίδια η συζήτηση για την [κυβερνοασφάλεια και την AI](κυβερνοασφάλεια και τεχνητή νοημοσύνη) έχει μετατοπιστεί το τελευταίο διάστημα ακριβώς προς αυτό το πεδίο: ποιος ελέγχει έναν πράκτορα όταν αυτός μπορεί να εκτελεί ενέργειες χωρίς άμεση ανθρώπινη παρέμβαση και ποιος αναλαμβάνει την ευθύνη όταν κάτι πάει στραβά.
«Δεκάδες» περιστατικά μη επιτρεπόμενης δραστηριότητας
Στα μέσα Σεπτεμβρίου, άνθρωπος που είχε ενημερωθεί για την εσωτερική έρευνα της OpenAI εκτιμούσε ότι η εταιρεία είχε εντοπίσει περίπου δύο δωδεκάδες περιστατικά στα οποία οι agents είχαν ενεργήσει με ανεπιθύμητους τρόπους.
Ο αριθμός, ωστόσο, αυξήθηκε καθώς οι ομάδες της εταιρείας εξέταζαν τα εσωτερικά αρχεία καταγραφής της δραστηριότητας των agents και εντόπιζαν προηγουμένως άγνωστες περιπτώσεις. Η OpenAI έχει προειδοποιήσει ότι η επανεξέταση θα χρειαστεί μήνες, λόγω της έκτασης των δεδομένων που πρέπει να ελεγχθούν.
Παράλληλα, έχει ενημερώσει δεκάδες τρίτους φορείς για μη επιτρεπόμενες δραστηριότητες των agents της. Το γεγονός ότι οι σχετικές περιπτώσεις εντοπίζονται εκ των υστέρων αποτελεί ένα από τα βασικά ζητήματα που καλείται να αντιμετωπίσει η εταιρεία.
Το πρόβλημα της εποπτείας των AI agents
Οι εξελίξεις δείχνουν τη διαφορά ανάμεσα στις δυνατότητες των σύγχρονων μοντέλων και στους μηχανισμούς που απαιτούνται για την ασφαλή λειτουργία τους. Όσο οι AI agents αποκτούν πρόσβαση σε περισσότερα εργαλεία, ιστοτόπους και δεδομένα, τόσο αυξάνεται και το εύρος των ενεργειών που μπορούν να πραγματοποιήσουν.
Η OpenAI βρίσκεται στην πρώτη γραμμή αυτής της τεχνολογικής κούρσας, με την [ανάπτυξη της AI και των προηγμένων μοντέλων](Ανάπτυξη AI και AGI στο AnatropiNews) να αποτελεί βασικό πεδίο ανταγωνισμού μεταξύ των μεγάλων εταιρειών τεχνολογίας.
Η υπόθεση των 53 εικόνων και οι παράλληλες παραβιάσεις κυβερνητικών συστημάτων αναδεικνύουν επομένως ένα κοινό πρόβλημα: δεν αρκεί πλέον να είναι ασφαλές το μοντέλο. Πρέπει να είναι ελεγχόμενη και η συμπεριφορά του agent όταν αυτός αποκτά τη δυνατότητα να δρα στον πραγματικό ψηφιακό κόσμο.
Το ερώτημα που τίθεται πλέον για την OpenAI είναι αν οι μηχανισμοί παρακολούθησης, περιορισμού και λογοδοσίας μπορούν να εξελιχθούν με την ίδια ταχύτητα με τις δυνατότητες των agents της.
