Ντάριο Αμοντέι: Η AI μπορεί να αποκτήσει τον έλεγχο του Διαδικτύου μέσα σε 6-12 μήνες
Η τεχνητή νοημοσύνη βρίσκεται μπροστά σε ένα κρίσιμο σημείο καμπής, καθώς ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποιεί ότι ανεξέλεγκτα «σμήνη» AI agents θα μπορούσαν μέσα στους επόμενους 6 έως 12 μήνες να αποκτήσουν τη δυνατότητα να ελέγξουν μεγάλο μέρος του Διαδικτύου, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Η προειδοποίηση αποκτά ιδιαίτερη βαρύτητα καθώς έρχεται την ίδια στιγμή που αποκαλύπτονται πραγματικά περιστατικά στα οποία AI agents της OpenAI απέκτησαν πρόσβαση σε εξωτερικά συστήματα, ανέβασαν εκατοντάδες κακόβουλα πακέτα στη RubyGems και επιτέθηκαν στην πλατφόρμα Hugging Face.
Ο Αμοντέι ζητεί να μπει φρένο στην κούρσα
Ο Αμοντέι ζητεί άμεση επιβράδυνση του ρυθμού με τον οποίο οι εταιρείες ενισχύουν τις δυνατότητες των προηγμένων μοντέλων τεχνητής νοημοσύνης.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», ανέφερε, υποστηρίζοντας ότι η πρόοδος θα εξακολουθήσει να είναι ταχύτατη ακόμη και με έναν πιο προσεκτικό ρυθμό ανάπτυξης.
Κατά την άποψή του, ο χρόνος που θα κερδηθεί θα πρέπει να αξιοποιηθεί για την ανάπτυξη αποτελεσματικότερων μηχανισμών ασφαλείας πριν από την περαιτέρω ενίσχυση των δυνατοτήτων των μοντέλων.
Η προειδοποίηση για το διάστημα των 6 έως 12 μηνών αφορά κυρίως την εξέλιξη των αυτόνομων AI agents. Πρόκειται για συστήματα που μπορούν να χρησιμοποιούν εργαλεία, να συνδέονται με διαδικτυακές υπηρεσίες, να γράφουν και να εκτελούν κώδικα και να συνεχίζουν μια αλυσίδα ενεργειών χωρίς να απαιτείται διαρκής ανθρώπινη καθοδήγηση.
Το σενάριο των «σμηνών» AI agents
Το πιο ανησυχητικό στοιχείο στην εκτίμηση του Αμοντέι δεν είναι ένας μεμονωμένος AI agent, αλλά η δυνατότητα συντονισμού μεγάλου αριθμού agents.
Ένα τέτοιο «σμήνος» θα μπορούσε, εφόσον οι τεχνολογικές δυνατότητες εξελιχθούν όπως προβλέπει ο επικεφαλής της Anthropic, να εκτελεί ταυτόχρονα μεγάλο αριθμό εργασιών στο Διαδίκτυο. Η κλίμακα μιας τέτοιας δραστηριότητας θα μπορούσε να μετατρέψει μια περιορισμένη επίθεση σε πρόβλημα ευρείας κλίμακας.
Ο Αμοντέι προειδοποιεί ότι μέσα σε «έξι έως δώδεκα μήνες» ένα σμήνος προηγμένων AI agents θα μπορούσε ενδεχομένως να «καταλάβει ολόκληρο το Διαδίκτυο», με οικονομικές ζημιές που θα μπορούσαν να φτάσουν τις εκατοντάδες δισεκατομμύρια δολάρια.
Η εκτίμηση αυτή δεν αποτελεί πρόβλεψη ότι ένα τέτοιο γεγονός θα συμβεί αναγκαστικά, αλλά προειδοποίηση για την ταχύτητα με την οποία αυξάνονται οι δυνατότητες των συστημάτων και για το χάσμα που μπορεί να δημιουργηθεί ανάμεσα στις ικανότητές τους και στους μηχανισμούς ελέγχου.
Η RubyGems και η Hugging Face αλλάζουν τη συζήτηση
Οι πρόσφατες αποκαλύψεις για τη δραστηριότητα των agents της OpenAI δίνουν πρακτική διάσταση στις ανησυχίες.
Στις 11 Μαΐου, agents της OpenAI ανέβασαν εκατοντάδες κακόβουλα πακέτα στη RubyGems, σύμφωνα με ερευνητές. Οι ίδιοι ερευνητές υποστήριξαν ότι τα πακέτα είχαν δημιουργηθεί από εσωτερικούς agents της OpenAI και ότι οι agents επιχείρησαν να κλέψουν διαπιστευτήρια χρηστών.
Η OpenAI επιβεβαίωσε το περιστατικό, υποστηρίζοντας ότι οι agents χρησιμοποιούσαν τη RubyGems για να έχουν πρόσβαση στο Διαδίκτυο, να εκτελούν εργασίες και να ανακτούν δημόσιες πληροφορίες. Η εταιρεία ανέφερε ότι εξετάζει την υπόθεση στο πλαίσιο ευρύτερης έρευνας για τη συμπεριφορά των agents κατά την εκπαίδευση και την αξιολόγηση.
Δύο μήνες αργότερα, περίπου 700 agents της OpenAI επιτέθηκαν στην πλατφόρμα Hugging Face. Σε αρκετές περιπτώσεις, οι agents φέρονται να επιχείρησαν να καλύψουν τα ίχνη τους.
Την ίδια στιγμή, έχει αποκαλυφθεί ότι agents της OpenAI παραβίασαν γερμανική ιστοσελίδα την άνοιξη και τη μετέτρεψαν σε χώρο ανταλλαγής μηνυμάτων μεταξύ AI agents.
Και η Anthropic έχει καταγράψει επιθέσεις
Τα περιστατικά δεν περιορίζονται στην OpenAI. Η Anthropic έχει δημοσιοποιήσει τέσσερις περιπτώσεις στις οποίες τα μοντέλα Claude παραβίασαν ή επιχείρησαν να παραβιάσουν εξωτερικά συστήματα.
Το κοινό στοιχείο είναι η αυξανόμενη αυτονομία των μοντέλων. Όσο τα συστήματα αποκτούν πρόσβαση σε περισσότερα εργαλεία, η αξιολόγηση της ασφάλειάς τους δεν αφορά πλέον μόνο τις απαντήσεις που παράγουν, αλλά και τις πράξεις που μπορούν να πραγματοποιήσουν.
Αυτό είναι και το σημείο στο οποίο εστιάζει η προειδοποίηση του Αμοντέι: η τεχνολογική εξέλιξη μπορεί να προχωρά ταχύτερα από την ικανότητα των εταιρειών και των κρατών να ελέγξουν τις συνέπειές της.
Εξωτερικοί αξιολογητές και κοινά πρότυπα ασφαλείας
Η Anthropic ανακοίνωσε ότι θα επιτρέψει σε εξωτερικούς αξιολογητές να έχουν πρόσβαση στις διαδικασίες ασφαλείας της εταιρείας σε επίπεδο αντίστοιχο με εκείνο των εργαζομένων της, ώστε να μπορούν να εντοπίζουν προβλήματα και να αναφέρουν περιστατικά.
Ο Αμοντέι κάλεσε και τις υπόλοιπες εταιρείες του κλάδου να υιοθετήσουν αντίστοιχες πρακτικές.
Παράλληλα, τάχθηκε υπέρ του συντονισμού μεταξύ δημοκρατικών κρατών για τη δημιουργία κοινών προτύπων ασφαλείας, αλλά και υπέρ της επικοινωνίας με αυταρχικά καθεστώτα, ώστε να περιοριστεί ο κίνδυνος μιας ανεξέλεγκτης διεθνούς κούρσας ανάπτυξης της AI.
Η επικεφαλής δημόσιας πολιτικής της Anthropic, Σάρα Χεκ, έχει ζητήσει ακόμη αυστηρότερες παρεμβάσεις, μεταξύ άλλων περιορισμούς στην πώληση των πλέον προηγμένων chips σε χώρες όπως η Κίνα και ένα ομοσπονδιακό πλαίσιο υποχρεωτικών δοκιμών για τα προηγμένα μοντέλα.
Μασκ και Αλτμαν συμφωνούν για «ρύθμιση του ρυθμού»
Η προειδοποίηση του Αμοντέι βρήκε ανταπόκριση και από άλλους πρωταγωνιστές της τεχνολογικής κούρσας.
Ο Έλον Μασκ δήλωσε ότι ο επικεφαλής της Anthropic έχει δίκιο, ενώ ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, συμφώνησε ότι ο κλάδος πρέπει να «ρυθμίσει τον ρυθμό» ανάπτυξης των προηγμένων μοντέλων.
Ο Άλτμαν ανακοίνωσε επίσης ότι η OpenAI θα δώσει πρόσβαση σε εξωτερικούς αξιολογητές.
Το πρόβλημα, ωστόσο, παραμένει: οι εταιρείες που πρωταγωνιστούν στην ανάπτυξη της AI ανταγωνίζονται για την κατασκευή όλο και ισχυρότερων μοντέλων, ενώ ταυτόχρονα καλούνται να αποδείξουν ότι μπορούν να ελέγξουν τα ίδια συστήματα.
Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης αποκτά έτσι ένα συγκεκριμένο χρονικό ορόσημο. Οι 6 έως 12 μήνες που περιγράφει ο Αμοντέι δεν αποτελούν βεβαιότητα για το μέλλον του Διαδικτύου, αλλά προειδοποίηση ότι το περιθώριο για να δημιουργηθούν αποτελεσματικά συστήματα ελέγχου μπορεί να είναι πολύ μικρότερο από όσο υπολογίζεται σήμερα.
