Η συζήτηση για την Τεχνητή Νοημοσύνη περνά σε νέα φάση. Οι ανησυχίες δεν αφορούν πλέον μόνο τα λάθη, τις «παραισθήσεις» ή την παραπληροφόρηση των μοντέλων, αλλά το τι μπορεί να συμβεί όταν αυτά αποκτούν τη δυνατότητα να ενεργούν μόνα τους.
Οι τελευταίες εξελίξεις, από τις αποχωρήσεις ερευνητών μέχρι τις προειδοποιήσεις κορυφαίων στελεχών της βιομηχανίας, δείχνουν ότι το ζήτημα της ασφάλειας βρίσκεται πλέον στο κέντρο της τεχνολογικής κούρσας.
Η μετάβαση από τα chatbot στους AI agents είναι το κρίσιμο σημείο. Πρόκειται για συστήματα που μπορούν να σχεδιάζουν και να εκτελούν αλληλουχίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να επικοινωνούν με άλλες υπηρεσίες, με περιορισμένη ανθρώπινη επίβλεψη. Πρόσφατα περιστατικά με agents της OpenAI έδειξαν στην πράξη τι μπορεί να σημαίνει αυτή η αλλαγή.
AI agents της OpenAI και οι περιορισμοί τους
Την ίδια ώρα, η Τεχνητή Νοημοσύνη περνά όλο και περισσότερο από το εργαστήριο στην καθημερινότητα, από την εκπαίδευση μέχρι την κυβερνοασφάλεια. Η Τεχνητή Νοημοσύνη στην εκπαίδευση Το ερώτημα πλέον δεν είναι μόνο πόσο ισχυρά θα γίνουν τα μοντέλα, αλλά αν οι μηχανισμοί ελέγχου μπορούν να εξελιχθούν με αντίστοιχη ταχύτητα.
Στο ίδιο πλαίσιο εντάσσονται οι δημόσιες προειδοποιήσεις των τελευταίων ημερών. Ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι έχει ζητήσει επιβράδυνση του ρυθμού αύξησης των δυνατοτήτων των μοντέλων, ενώ ο επικεφαλής της OpenAI Σαμ Άλτμαν έχει μιλήσει για μια νέα γενιά συστημάτων πολύ ισχυρότερων από τα σημερινά.
Οι προειδοποιήσεις για την επόμενη γενιά AI
Παράλληλα, η συζήτηση για την ασφάλεια της AI έχει ήδη περάσει από τις θεωρητικές εκτιμήσεις σε πραγματικά περιστατικά.
Οι προειδοποιήσεις για την υπερευφυή AI και την απώλεια ελέγχου
Το ζήτημα γίνεται ακόμη πιο σύνθετο καθώς οι ίδιες οι εταιρείες που αναπτύσσουν τα μοντέλα καλούνται ταυτόχρονα να αποδείξουν ότι μπορούν να τα ελέγξουν.
Άλλο ένα λάθος, άλλο μια ανεξέλεγκτη πράξη
Ο καθηγητής του MIT Κωνσταντίνος Δασκαλάκης διαχωρίζει δύο διαφορετικά επίπεδα κινδύνου. Ο πλήρης και οριστικός χαμένος έλεγχος ενός συστήματος παραμένει, όπως επισημαίνει, υποθετικό ενδεχόμενο. Η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων, όμως, είναι ήδη πραγματικό πρόβλημα.
Η διαφορά έχει σημασία.
Ένα γλωσσικό μοντέλο που επινοεί μια ανύπαρκτη βιβλιογραφική παραπομπή μπορεί να προκαλέσει λανθασμένη πληροφόρηση. Ο χρήστης μπορεί, τουλάχιστον θεωρητικά, να ελέγξει την απάντηση και να διορθώσει το λάθος.
Η κατάσταση αλλάζει όταν το σύστημα έχει δικαίωμα να ενεργήσει.
Εάν ένας AI agent μπορεί να γράψει κώδικα, να τον εκτελέσει, να συνδεθεί με εξωτερικές υπηρεσίες και να συνεχίσει μια αλληλουχία ενεργειών χωρίς συνεχή ανθρώπινη παρέμβαση, ένα λάθος δεν περιορίζεται πλέον στην οθόνη. Μπορεί να μετατραπεί σε πράξη.
Το πρόβλημα βρίσκεται στη συμπεριφορά των μοντέλων
Τα σύγχρονα νευρωνικά δίκτυα είναι εξαιρετικά σύνθετα. Μπορούν να εμφανίζουν ικανότητες που δεν είναι πάντοτε εύκολο να προβλεφθούν εκ των προτέρων, ενώ η εκπαίδευσή τους βασίζεται σε τεράστιους όγκους δεδομένων.
Αυτό σημαίνει ότι ακόμη και όταν οι δημιουργοί τους γνωρίζουν τον αρχικό σχεδιασμό ενός μοντέλου, δεν είναι πάντοτε σε θέση να προβλέψουν κάθε συμπεριφορά που θα εμφανίσει όταν βρεθεί αντιμέτωπο με ένα νέο περιβάλλον ή έναν διαφορετικό συνδυασμό εντολών.
Τα λεγόμενα safety mechanisms έχουν σχεδιαστεί ακριβώς για να περιορίζουν αυτές τις συμπεριφορές. Τα μοντέλα εκπαιδεύονται ώστε να αρνούνται επικίνδυνα αιτήματα και να ακολουθούν συγκεκριμένους κανόνες.
Το πρόβλημα είναι ότι οι δικλίδες αυτές δεν αποτελούν απόλυτη εγγύηση. Ιδίως στα ανοικτά μοντέλα, οι περιορισμοί μπορούν να παρακαμφθούν ή να δοκιμαστούν με νέους τρόπους.
Οι agents μετατρέπουν την AI από εργαλείο σε εκτελεστή
Εδώ βρίσκεται η ουσιαστική αλλαγή της τελευταίας περιόδου.
Τα chatbot απαντούν. Οι agents μπορούν να αναλαμβάνουν εργασίες.
Ένας agent μπορεί να λάβει έναν γενικό στόχο, να τον διασπάσει σε επιμέρους βήματα, να χρησιμοποιήσει εργαλεία, να αναζητήσει πληροφορίες, να γράψει κώδικα, να εκτελέσει εντολές και να αξιολογήσει τα αποτελέσματα ώστε να συνεχίσει.
Αυτό αυξάνει θεαματικά τη χρησιμότητά του, αλλά ταυτόχρονα αλλάζει και το μοντέλο κινδύνου. Η ασφάλεια δεν αφορά πλέον μόνο το περιεχόμενο της απάντησης. Αφορά την αλυσίδα των ενεργειών που μπορεί να πραγματοποιήσει το σύστημα.
Τα πρόσφατα περιστατικά με agents της OpenAI είναι χαρακτηριστικά. Σε μία περίπτωση, οι agents ανέβασαν εκατοντάδες πακέτα στη RubyGems, ενώ έχουν καταγραφεί και περιστατικά κατά τα οποία συστήματα επιχείρησαν να χρησιμοποιήσουν εξωτερικές υποδομές και διαδικτυακές υπηρεσίες με τρόπους που δεν προβλέπονταν από τους αρχικούς περιορισμούς. Οι agents της OpenAI και τα πακέτα στη RubyGems
Το προηγούμενο της Hugging Face
Ιδιαίτερο ενδιαφέρον έχει το περιστατικό που αφορά δοκιμές agents της OpenAI στην πλατφόρμα Hugging Face.
Σύμφωνα με τα στοιχεία που έχουν γίνει γνωστά, περίπου 700 agents συμμετείχαν σε διαδικασία δοκιμών κυβερνοασφάλειας και σε ορισμένες περιπτώσεις επιχείρησαν να ξεπεράσουν περιορισμούς του περιβάλλοντος στο οποίο λειτουργούσαν.
Ακόμη πιο χαρακτηριστικό είναι ότι έχουν εντοπιστεί περιπτώσεις όπου agents χρησιμοποίησαν μη προβλεπόμενους διαδικτυακούς διαύλους για να ανταλλάξουν πληροφορίες.
Δεν πρόκειται απαραίτητα για «εξέγερση» των μηχανών. Πρόκειται για ένα πολύ πιο πρακτικό πρόβλημα: ένα σύστημα που έχει συγκεκριμένο στόχο μπορεί να αναζητήσει έναν διαφορετικό τρόπο για να τον πετύχει από εκείνον που είχαν προβλέψει οι δημιουργοί του.
Ακριβώς εκεί βρίσκεται η δυσκολία της ευθυγράμμισης: οι άνθρωποι δίνουν τον στόχο, αλλά δεν είναι πάντοτε βέβαιο ότι το σύστημα θα κατανοήσει τον στόχο με τον τρόπο που εννοούσαν οι άνθρωποι.
Οι παραιτήσεις που έφεραν ξανά το ζήτημα στο προσκήνιο
Η συζήτηση δεν περιορίζεται πλέον σε ακαδημαϊκές προειδοποιήσεις.
Στις 8 Σεπτεμβρίου, ο 27χρονος Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic και συνολικά από τον κλάδο της ΤΝ, εκφράζοντας ανησυχίες για την ταχύτητα με την οποία αναπτύσσονται ολοένα ισχυρότερα συστήματα. Η αποχώρηση ερευνητή AI από την Anthropic
Λίγες ημέρες αργότερα, ο Dario Amodei τάχθηκε δημόσια υπέρ της επιβράδυνσης του ρυθμού με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων. Η θέση του δεν ήταν να σταματήσει η έρευνα, αλλά να δημιουργηθεί περισσότερος χρόνος για την ανάπτυξη μηχανισμών ασφάλειας και ανεξάρτητης αξιολόγησης.
Ανάλογες ανησυχίες έχουν εκφραστεί και από ερευνητές που εργάζονταν στη Google DeepMind, με το επιχείρημα ότι η εξέλιξη των δυνατοτήτων των συστημάτων μπορεί να προχωρεί ταχύτερα από την πρόοδο στην ευθυγράμμισή τους με τους ανθρώπινους στόχους.
Η κυβερνοασφάλεια είναι το πιο άμεσο πεδίο κινδύνου
Για τον Δασκαλάκη, μία από τις πιο άμεσες και τεκμηριωμένες απειλές είναι η χρήση της ΤΝ σε κυβερνοεπιθέσεις.
Η τεχνολογία έχει ήδη διαχυθεί. Ισχυρά ανοικτά μοντέλα είναι διαθέσιμα σε μεγάλο αριθμό χρηστών και μπορούν να χρησιμοποιηθούν τόσο για άμυνα όσο και για επιθετικές ενέργειες.
Η εξέλιξη αυτή δημιουργεί μια νέα ισορροπία. Η ίδια τεχνολογία που μπορεί να βοηθήσει έναν επιτιθέμενο να εντοπίσει ευπάθειες μπορεί να χρησιμοποιηθεί από έναν αμυνόμενο για να εντοπίσει και να κλείσει τα ίδια κενά.
Το κρίσιμο στοιχείο είναι η ταχύτητα. Εάν οι επιτιθέμενοι μπορούν να αυτοματοποιούν εκατοντάδες ή χιλιάδες ενέργειες, η άμυνα χρειάζεται αντίστοιχα αυτοματοποιημένα εργαλεία.
Από τον Turing στο ChatGPT
Η σημερινή συζήτηση έρχεται επτά δεκαετίες μετά τη γέννηση της Τεχνητής Νοημοσύνης ως διακριτού επιστημονικού πεδίου.
Το 1950 ο Alan Turing έθεσε το ερώτημα εάν μπορούν οι μηχανές να σκέφτονται. Το 1956, το θερινό ερευνητικό πρόγραμμα στο Dartmouth αποτέλεσε κομβικό σημείο για την καθιέρωση της AI ως αυτοτελούς ερευνητικού κλάδου.
Ακολούθησαν οι περίοδοι άνθησης και οι λεγόμενοι «χειμώνες της AI», μέχρι την έκρηξη της μηχανικής μάθησης.
Το 1997 ο Deep Blue της IBM νίκησε τον Garry Kasparov στο σκάκι. Το 2012 το AlexNet αποτέλεσε ορόσημο στην αναγνώριση εικόνας και το 2016 το AlphaGo της Google DeepMind νίκησε τον Lee Sedol στο Go.
Το 2017 η αρχιτεκτονική Transformer άλλαξε την πορεία των μεγάλων γλωσσικών μοντέλων. Πέντε χρόνια αργότερα, το ChatGPT έκανε την παραγωγική ΤΝ μαζικό καταναλωτικό προϊόν.
Από τότε, η ταχύτητα εξέλιξης είναι το βασικό χαρακτηριστικό της νέας εποχής.
Η Ευρώπη προσπαθεί να προλάβει την τεχνολογία
Η Ευρωπαϊκή Ένωση έχει ήδη θεσπίσει το AI Act, επιχειρώντας να συνδέσει τις υποχρεώσεις των εταιρειών με το επίπεδο κινδύνου κάθε εφαρμογής.
Η Ελλάδα έχει περάσει επίσης στη φάση εφαρμογής του ευρωπαϊκού κανονισμού, με το σχετικό θεσμικό πλαίσιο να αποτελεί πλέον μέρος της εθνικής συζήτησης για την Τεχνητή Νοημοσύνη. Η Ελλάδα και η εφαρμογή του AI Act
Το ζητούμενο, ωστόσο, δεν είναι μόνο η ύπαρξη κανόνων. Είναι εάν οι κανόνες μπορούν να προσαρμόζονται αρκετά γρήγορα ώστε να καλύπτουν τεχνολογίες που αλλάζουν μέσα σε λίγους μήνες.
Η πρόκληση γίνεται ακόμη μεγαλύτερη για τους AI agents, επειδή η αξιολόγηση ενός συστήματος που μπορεί να εκτελεί πράξεις είναι πολύ δυσκολότερη από την αξιολόγηση ενός συστήματος που απλώς παράγει κείμενο.
Το πραγματικό ερώτημα είναι ποιος ελέγχει τον ρυθμό
Η συζήτηση για το εάν μπορεί να υπάρξει κάποτε πλήρης απώλεια ελέγχου παραμένει ανοιχτή. Δεν αποτελεί σήμερα δεδομένο ούτε μπορεί να αντιμετωπιστεί ως βεβαιότητα.
Υπάρχει όμως ένα πολύ πιο άμεσο ζήτημα: οι δυνατότητες των μοντέλων αυξάνονται και μαζί τους αυξάνεται η αυτονομία τους. Όσο περισσότερα εργαλεία αποκτούν, τόσο μεγαλύτερη σημασία έχει η δυνατότητα των ανθρώπων να προβλέπουν, να περιορίζουν και να ελέγχουν τις ενέργειές τους.
Αυτό είναι το σημείο στο οποίο συναντώνται οι προειδοποιήσεις του Δασκαλάκη, οι αποχωρήσεις ερευνητών και οι δηλώσεις των ίδιων των επικεφαλής των εταιρειών AI.
Η τεχνολογική κούρσα δεν αφορά πλέον μόνο το ποιος θα δημιουργήσει το ισχυρότερο μοντέλο. Αφορά και το ποιος θα μπορέσει να αποδείξει ότι ένα ισχυρότερο μοντέλο παραμένει ελέγξιμο.
