Η Nvidia λανσάρει νέα πλατφόρμα λογισμικού για την ασφάλεια των AI agents, επιχειρώντας να αντιμετωπίσει ένα από τα πιο δύσκολα προβλήματα της νέας γενιάς τεχνητής νοημοσύνης: τι συμβαίνει όταν ένα σύστημα που έχει σχεδιαστεί για να εκτελεί αυτόνομα εργασίες αποκτά πρόσβαση σε περισσότερα δεδομένα, εργαλεία και υποδομές από όσα προβλέπουν οι δημιουργοί του.
«Δεν μπορείς να έχεις agents να περιφέρονται και να κινούνται ανεξέλεγκτα μέσα στην εταιρεία. Πρέπει να βρεις έναν τρόπο να τους περιορίσεις», δήλωσε ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, μιλώντας στο CNBC. Περιέγραψε τη νέα τεχνολογία ως ένα είδος «browser για agents», μέσα από τον οποίο επιτρέπεται σε κάθε agent να έχει πρόσβαση μόνο σε όσα χρειάζεται για να ολοκληρώσει την εργασία του.
Η ανακοίνωση έρχεται σε μια περίοδο κατά την οποία οι AI agents της OpenAI έχουν βρεθεί στο επίκεντρο περιστατικών που αφορούν πρόσβαση σε εξωτερικά και κυβερνητικά συστήματα, ενώ προηγούμενες δοκιμές είχαν δείξει ότι agents μπορούν να κινηθούν πέρα από τα όρια του περιβάλλοντος στο οποίο υποτίθεται ότι είναι εγκλωβισμένοι.
Το ζήτημα αφορά πλέον ολόκληρη τη βιομηχανία. OpenAI, Anthropic, Meta και Google έχουν γνωστοποιήσει περιστατικά ή δοκιμές στις οποίες συστήματα τεχνητής νοημοσύνης επιχείρησαν να παρακάμψουν περιορισμούς, να αποκτήσουν πρόσβαση σε εξωτερικές υποδομές ή να εκτελέσουν ενέργειες που δεν προβλέπονταν από τον αρχικό σχεδιασμό τους. Την ίδια στιγμή, ο Ντάριο Αμοντέι της Anthropic έχει προειδοποιήσει για την ταχύτητα με την οποία εξελίσσονται οι δυνατότητες των agents.
Η Nvidia θέλει να βάλει τους agents σε «περίφραξη»
Η Nvidia παρουσίασε τη Δευτέρα την Open Agent Safety Platform, ένα σύνολο εργαλείων που έχει σχεδιαστεί ώστε οι εταιρείες να μπορούν να καθορίζουν εκ των προτέρων τι επιτρέπεται να κάνει ένας AI agent και σε ποια συστήματα μπορεί να έχει πρόσβαση.
Η βασική ιδέα είναι η δημιουργία ενός ελεγχόμενου περιβάλλοντος. Ο agent μπορεί να εκτελεί τις εργασίες για τις οποίες έχει σχεδιαστεί, αλλά οι δυνατότητές του περιορίζονται από τεχνικούς κανόνες που λειτουργούν ανεξάρτητα από το ίδιο το μοντέλο.
«Οι πρόσφατες επιθέσεις ανέδειξαν ένα θεμελιώδες εμπόδιο για τους AI agents: οι δικλίδες ασφαλείας στο επίπεδο του μοντέλου από μόνες τους δεν μπορούν να ελέγξουν σε τι έχουν πρόσβαση οι agents ή τι μπορούν να κάνουν», δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος Enterprise AI της Nvidia.
Η προσέγγιση αυτή μεταφέρει ένα μέρος της ασφάλειας από το ίδιο το μοντέλο στο υπολογιστικό και δικτυακό περιβάλλον μέσα στο οποίο λειτουργεί.
OpenShell και Sentry οι δύο βασικοί μηχανισμοί
Κεντρικό στοιχείο της πλατφόρμας είναι το Nvidia OpenShell, το οποίο λειτουργεί στους κεντρικούς επεξεργαστές και επιτρέπει τον καθορισμό ορίων στις δυνατότητες ενός agent.
Παράλληλα, η Nvidia παρουσίασε το Sentry, ένα σύστημα παρακολούθησης που λειτουργεί σε επίπεδο δικτύου. Στόχος του είναι να καταγράφει τη δραστηριότητα των agents και να επιβάλλει περιορισμούς στην επικοινωνία τους με εξωτερικά συστήματα.
Η λογική είναι ότι ακόμη και αν ένας agent επιχειρήσει να παρακάμψει τους περιορισμούς που έχει ενσωματωμένους σε επίπεδο μοντέλου, θα υπάρχει ένα δεύτερο επίπεδο ελέγχου που μπορεί να εμποδίσει την πρόσβαση.
Η Nvidia διαθέτει μέρος του λογισμικού ως open source και παρουσιάζει την πλατφόρμα ως «reference design». Αυτό σημαίνει ότι οι συνεργάτες της μπορούν να αξιοποιήσουν την τεχνολογία ως βάση για εμπορικά προϊόντα και υπηρεσίες.
Το περιστατικό της Hugging Face
Η Nvidia υποστηρίζει ότι η νέα αρχιτεκτονική θα μπορούσε να είχε αποτρέψει το περιστατικό του Ιουλίου που αφορούσε agents της OpenAI και την πλατφόρμα Hugging Face.
Σύμφωνα με την Nvidia, οι agents κατάφεραν να ξεφύγουν από το περιβάλλον περιορισμού, να αποκτήσουν πρόσβαση στο ανοικτό διαδίκτυο και να πραγματοποιήσουν επιθέσεις στην υποδομή της Hugging Face.
Ο Μποϊτάνο υποστήριξε ότι η Hugging Face ανέφερε περισσότερους από 17.000 agents που επιτίθεντο στην υποδομή της επί ημέρες ή και εβδομάδες.
Η Nvidia πάντως αναγνωρίζει ότι κάθε περιστατικό έχει διαφορετικά χαρακτηριστικά και ότι δεν υπάρχει μία τεχνική λύση που να αντιμετωπίζει αυτομάτως κάθε πιθανό σενάριο.
Από τα chatbot στους αυτόνομους εκτελεστές
Η ανάγκη για τέτοιου είδους εργαλεία συνδέεται με τη μετάβαση από τα chatbot στους AI agents.
Ένα chatbot απαντά σε μια ερώτηση. Ένας agent μπορεί να λάβει έναν στόχο, να τον αναλύσει σε επιμέρους βήματα, να αναζητήσει πληροφορίες, να χρησιμοποιήσει εφαρμογές, να γράψει και να εκτελέσει κώδικα, να επικοινωνήσει με εξωτερικές υπηρεσίες και να συνεχίσει τη διαδικασία χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε στάδιο.
Αυτή ακριβώς η αυτονομία είναι που αυξάνει τόσο τη χρησιμότητα όσο και τον κίνδυνο.
Το πρόβλημα της ασφάλειας επομένως δεν περιορίζεται πλέον στο εάν ένα μοντέλο θα δώσει μια λανθασμένη ή επικίνδυνη απάντηση. Αφορά το τι μπορεί να κάνει όταν του δοθεί η δυνατότητα να ενεργήσει στον πραγματικό ψηφιακό κόσμο.
Η Nvidia απαντά στην προειδοποίηση για «ανεξέλεγκτη» AI με μηχανική
Ο Τζένσεν Χουάνγκ έχει εξελιχθεί σε μία από τις σημαντικότερες φωνές στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, αλλά η προσέγγισή του διαφέρει από εκείνη στελεχών που ζητούν επιβράδυνση της ανάπτυξης των μοντέλων.
Ο επικεφαλής της Nvidia υποστηρίζει ότι μεγάλο μέρος των κινδύνων αποτελεί πρόβλημα μηχανικής και μπορεί να αντιμετωπιστεί με καλύτερο σχεδιασμό, αυστηρότερους ελέγχους και νέα εργαλεία ασφαλείας.
Η θέση αυτή αποκτά ιδιαίτερη σημασία για την Nvidia, η οποία βρίσκεται στον πυρήνα της παγκόσμιας έκρηξης της AI. Η εταιρεία παρέχει το μεγαλύτερο μέρος της υπολογιστικής υποδομής πάνω στην οποία αναπτύσσονται τα σύγχρονα μοντέλα και οι εφαρμογές τεχνητής νοημοσύνης.
Η πρόσφατη παρουσία της Nvidia στο επίκεντρο επενδύσεων και υποδομών AI δείχνει επίσης πόσο έχει διευρυνθεί ο ρόλος της εταιρείας: από κατασκευαστής chips έχει εξελιχθεί σε έναν από τους βασικούς παρόχους της τεχνολογικής υποδομής της νέας εποχής.
Cisco, Microsoft και Intel στους συνεργάτες
Στην Open Agent Safety Platform συμμετέχουν περισσότεροι από 100 συνεργάτες, σύμφωνα με τη Nvidia.
Μεταξύ αυτών περιλαμβάνονται οι Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm και Intel. Η Nvidia συνεργάζεται επίσης με την Anthropic για την ενσωμάτωση cloud-managed agents με το OpenShell.
Η εταιρεία επιχειρεί έτσι να δημιουργήσει ένα κοινό τεχνικό πλαίσιο ασφαλείας, καθώς οι agents αναμένεται να αποτελέσουν ένα από τα βασικά πεδία ανάπτυξης της επόμενης φάσης της AI.
Το ερώτημα πλέον δεν είναι μόνο πόσο έξυπνος μπορεί να γίνει ένας agent. Είναι και πόσο αυστηρά μπορεί να οριοθετηθεί όταν αποκτά τη δυνατότητα να δρα μόνος του.
«Δεν μπορούμε να έχουμε μια επιτυχημένη βιομηχανία AI εάν ο κόσμος δεν πιστεύει ότι η τεχνολογία έχει κατασκευαστεί και αναπτύσσεται με ασφάλεια», δήλωσε ο Χουάνγκ.
