Είκοσι δύο χώρες, ανάμεσά τους ευρωπαϊκά κράτη, ζητούν να παραμείνει η τεχνητή νοημοσύνη υπό ανθρώπινη κατεύθυνση, εποπτεία και έλεγχο, προτείνοντας παράλληλα τη δημιουργία ενός διεθνούς μηχανισμού για την παρακολούθηση των πιο ισχυρών μοντέλων AI. Η πρωτοβουλία εκδηλώθηκε στη Νέα Υόρκη, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ, λίγες ημέρες πριν από την κρίσιμη συνάντηση Ντόναλντ Τραμπ και Σι Τζινπίνγκ.
Η διακήρυξη αναγνωρίζει τις δυνατότητες της τεχνητής νοημοσύνης στην επιστήμη, την οικονομία και την καθημερινή ζωή, αλλά προειδοποιεί ότι η ταχύτητα με την οποία αναπτύσσονται τα λεγόμενα frontier AI models δημιουργεί νέους κινδύνους για την ασφάλεια. Στο επίκεντρο βρίσκεται πλέον όχι μόνο το τι μπορούν να κάνουν τα μοντέλα, αλλά και τι μπορούν να κάνουν όταν αποκτούν πρόσβαση σε πραγματικά ψηφιακά εργαλεία.
Η συζήτηση αποκτά ιδιαίτερο βάρος μετά τα πρόσφατα περιστατικά με AI agents που επιχείρησαν να εκτελέσουν αυτόνομες ενέργειες στο διαδίκτυο. Οι 22 χώρες ζητούν από τις εταιρείες AI να εφαρμόζουν υποχρεωτικά πρωτόκολλα ασφάλειας, ελέγχους πριν από την κυκλοφορία νέων μοντέλων και ανεξάρτητες αξιολογήσεις από ειδικούς που θα έχουν επαρκή πρόσβαση για να εντοπίζουν τους κινδύνους.
Η πρωτοβουλία έρχεται σε μια στιγμή κατά την οποία η παγκόσμια διακυβέρνηση της AI αναζητεί ακόμη συγκεκριμένη μορφή. Ο ΟΗΕ έχει ήδη ανοίξει τη συζήτηση για διεθνείς κανόνες, ενώ η Ευρώπη προσπαθεί να μετατρέψει την ασφάλεια και τη διαφάνεια σε σταθερά στοιχεία του παγκόσμιου πλαισίου.
Το μήνυμα του Στουμπ σε ΗΠΑ και Κίνα
Πρωταγωνιστής της προσπάθειας είναι ο πρόεδρος της Φινλανδίας Αλεξάντερ Στουμπ, ο οποίος μαζί με τον πρωθυπουργό της Νορβηγίας Γιόνας Γκαρ Στέρε επιδιώκει να δημιουργήσει πολιτική δυναμική γύρω από την πρόταση.
Το κρίσιμο στοιχείο είναι ότι από τη διακήρυξη απουσιάζουν οι δύο μεγαλύτερες δυνάμεις ανάπτυξης της τεχνητής νοημοσύνης: οι Ηνωμένες Πολιτείες και η Κίνα.
Ο Στουμπ υποστηρίζει ότι ακριβώς αυτές οι δύο χώρες θα πρέπει να συμμετάσχουν στη συζήτηση. Όπως επισημαίνει, η ανάγκη για «δικλίδες ασφαλείας» αφορά όλους και το βασικό μήνυμα της πρωτοβουλίας είναι ότι ο άνθρωπος πρέπει να παραμένει υπεύθυνος για τις κρίσιμες αποφάσεις.
Η χρονική συγκυρία δεν είναι τυχαία. Ο Ντόναλντ Τραμπ και ο Σι Τζινπίνγκ πρόκειται να συναντηθούν στην Ουάσινγκτον την Πέμπτη, με την τεχνολογική αντιπαράθεση ΗΠΑ και Κίνας να αποτελεί ένα από τα βασικά πεδία του ευρύτερου ανταγωνισμού τους.
Τι ζητούν οι 22 χώρες
Η διακήρυξη δεν προτείνει πάγωμα της ανάπτυξης της τεχνητής νοημοσύνης. Οι χώρες που την υπέγραψαν επιδιώκουν να αντιμετωπίσουν τους κινδύνους χωρίς να σταματήσουν την τεχνολογική εξέλιξη.
Στο πρακτικό επίπεδο ζητούν:
- κοινά και συντονισμένα πρότυπα ασφάλειας για τα ισχυρότερα μοντέλα AI,
- μεγαλύτερη διαφάνεια από τις εταιρείες τεχνητής νοημοσύνης,
- υποχρεωτικούς ελέγχους πριν από την ανάπτυξη και διάθεση νέων μοντέλων,
- ανεξάρτητες αξιολογήσεις κινδύνου,
- κοινή καταγραφή και αναφορά σοβαρών περιστατικών ασφάλειας,
- διεθνή συνεργασία για την εποπτεία των frontier AI models.
Η πρόταση για έναν διεθνή θεσμό είναι το πιο φιλόδοξο σημείο της πρωτοβουλίας.
Ένας «Διεθνής Οργανισμός Ατομικής Ενέργειας» για την AI
Ο Στουμπ δήλωσε ότι η προσωπική προτίμησή του θα ήταν ένας νέος θεσμός, αντίστοιχος με τον Διεθνή Οργανισμό Ατομικής Ενέργειας, μέσα στο πλαίσιο του ΟΗΕ.
Ωστόσο, η διατύπωση της διακήρυξης παραμένει σκόπιμα ανοιχτή. Ο λόγος είναι πολιτικός: μια πρόταση που θα συνέδεε εξαρχής τον νέο μηχανισμό αποκλειστικά με τον ΟΗΕ θα μπορούσε να συναντήσει αντιδράσεις από χώρες που αντιμετωπίζουν με επιφυλακτικότητα τον οργανισμό.
Ο Νορβηγός πρωθυπουργός Γιόνας Γκαρ Στέρε θεωρεί ότι η πρωτοβουλία θα μπορούσε να αποκτήσει μεγαλύτερη βαρύτητα εάν υιοθετηθεί από τους G7 και G20. Το Λονδίνο, ωστόσο, δεν έχει μέχρι στιγμής υπογράψει τη διακήρυξη.
Από τις μεγάλες ευρωπαϊκές χώρες, ο καγκελάριος της Γερμανίας Φρίντριχ Μερτς στηρίζει την πρωτοβουλία, ενώ Γαλλία, Ιταλία και Πολωνία δεν περιλαμβάνονται στους υπογράφοντες.
Από τα cyberattacks στα βιολογικά όπλα και τα αυτόνομα όπλα
Οι ανησυχίες που περιγράφει ο Στουμπ δεν περιορίζονται στη λάθος απάντηση ενός chatbot ή στην παραπληροφόρηση.
Ο Φινλανδός πρόεδρος αναφέρεται σε τρεις κατηγορίες κινδύνων: τη δυνατότητα δημιουργίας βιολογικών όπλων με τη βοήθεια AI, τις κυβερνοεπιθέσεις από αυτόνομους AI agents και τη χρήση τεχνητής νοημοσύνης σε φονικά οπλικά συστήματα.
Το κοινό στοιχείο είναι η μεταφορά της AI από ένα εργαλείο που απαντά σε ανθρώπινες εντολές σε ένα σύστημα που μπορεί να σχεδιάζει και να εκτελεί αλληλουχίες ενεργειών με περιορισμένη ανθρώπινη παρέμβαση.
Αυτό ακριβώς είναι το νέο πεδίο της συζήτησης για την ασφάλεια της AI. Όσο αυξάνονται οι δυνατότητες των μοντέλων και η πρόσβασή τους σε πραγματικά συστήματα, τόσο μετατοπίζεται το ερώτημα από την ακρίβεια των απαντήσεων στον έλεγχο των ενεργειών τους.
Η Ευρώπη επιχειρεί να βάλει κανόνες στην κούρσα
Η ευρωπαϊκή πρωτοβουλία δεν αμφισβητεί τα οικονομικά και επιστημονικά οφέλη της τεχνητής νοημοσύνης. Αντίθετα, οι εμπνευστές της υποστηρίζουν ότι η τεχνολογία μπορεί να συμβάλει στην αύξηση της παραγωγικότητας, στην επιστημονική έρευνα, ακόμη και στην αντιμετώπιση σοβαρών ασθενειών.
Το ζήτημα είναι ποιος θα θέτει τα όρια όταν οι δυνατότητες των μοντέλων αυξάνονται ταχύτερα από τους μηχανισμούς ελέγχου.
Η Ευρώπη επιχειρεί να μεταφέρει αυτή τη συζήτηση από το επίπεδο των μεμονωμένων εταιρειών και κρατών σε ένα διεθνές πλαίσιο. Για να αποκτήσει όμως πραγματικό βάρος, η πρωτοβουλία θα χρειαστεί να προσελκύσει τις ΗΠΑ και την Κίνα, δηλαδή τις δύο χώρες που βρίσκονται στην καρδιά της παγκόσμιας κούρσας για την τεχνητή νοημοσύνη.
Το ζητούμενο πλέον δεν είναι αν η AI θα συνεχίσει να αναπτύσσεται. Είναι αν οι κανόνες που θα καθορίζουν τη χρήση των ισχυρότερων συστημάτων θα διαμορφωθούν πριν από την επόμενη γενιά της τεχνολογίας ή αφού αυτή έχει ήδη περάσει σε εφαρμογές που θα είναι πολύ δυσκολότερο να ελεγχθούν.
