Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα Φόλκερ Τουρκ ζητά από κράτη και εταιρείες να κινηθούν άμεσα για τη θέσπιση διεθνών κανόνων για τα πιο προηγμένα συστήματα Τεχνητής Νοημοσύνης, προειδοποιώντας ότι η ταχύτητα ανάπτυξής τους δημιουργεί πρωτοφανείς κινδύνους για τα ανθρώπινα δικαιώματα, τις κρίσιμες υποδομές και τη δημοκρατική λειτουργία.
ΟΗΕ: «Καμία χώρα δεν μπορεί να ρυθμίσει μόνη της την ΤΝ»
Σε ανοιχτή επιστολή προς κυβερνήσεις και επιχειρήσεις του κλάδου, ο Φόλκερ Τουρκ κάλεσε τα κράτη και τις εταιρείες να κινητοποιηθούν επειγόντως σε πολυμερή φόρουμ, προκειμένου να συμφωνηθεί ένα πλαίσιο για τη ρύθμιση των πλέον προηγμένων μοντέλων Τεχνητής Νοημοσύνης.
Ο Ύπατος Αρμοστής υπογράμμισε ότι η ανθρωπότητα βρίσκεται μπροστά σε μια αλλαγή που μπορεί να έχει μη αναστρέψιμες συνέπειες και εξέφρασε την ανησυχία του για το γεγονός ότι σήμερα η λήψη αποφάσεων για την ανάπτυξη της ΤΝ εξαρτάται σε μεγάλο βαθμό από έναν περιορισμένο αριθμό ισχυρών τεχνολογικών εταιρειών.
Κατά τον Τουρκ, απειλούνται όλα τα ανθρώπινα δικαιώματα, μεταξύ άλλων το δικαίωμα στη ζωή και την τροφή, η ιδιωτικότητα, η υγεία και η ασφάλεια.
Κίνδυνοι για υποδομές και δημοκρατικούς θεσμούς
Ιδιαίτερη αναφορά έκανε στα λεγόμενα αντιπροσωπευτικά συστήματα ΤΝ, δηλαδή στις εφαρμογές που μπορούν να αναλαμβάνουν και να εκτελούν αυτόνομα σύνθετες εργασίες.
Όπως προειδοποίησε, πιθανές αστοχίες τέτοιων συστημάτων θα μπορούσαν να επηρεάσουν βασικές υπηρεσίες, τις επικοινωνίες και κρίσιμες υποδομές, ενώ παράλληλα θα μπορούσαν να δημιουργήσουν κινδύνους για τη λειτουργία των δημοκρατικών θεσμών.
Στο πιο ακραίο σενάριο, ολόκληροι πληθυσμοί θα μπορούσαν να αντιμετωπίσουν προβλήματα πρόσβασης σε πόσιμο νερό, θέρμανση ή χρηματοοικονομικές υπηρεσίες, εφόσον κρίσιμες λειτουργίες περάσουν να εξαρτώνται από συστήματα Τεχνητής Νοημοσύνης που παρουσιάζουν σοβαρές αστοχίες.
Ο Τουρκ συνέδεσε επίσης την ταχεία ανάπτυξη της ΤΝ με τις ένοπλες συγκρούσεις και την ανάπτυξη όπλων, υποστηρίζοντας ότι η τεχνολογία ήδη επιταχύνει τον ρυθμό και την κλίμακα των συγκρούσεων και μπορεί να αποδυναμώσει τις δικλίδες ασφαλείας απέναντι στην ανάπτυξη όπλων μαζικής καταστροφής.
Η αντιπαράθεση στις ΗΠΑ για την επιβράδυνση της ΤΝ
Η παρέμβαση του ΟΗΕ έρχεται ενώ στις Ηνωμένες Πολιτείες εντείνεται η συζήτηση για το εάν η ανάπτυξη των ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης πρέπει να επιβραδυνθεί.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, τάχθηκε υπέρ μιας επιβράδυνσης προκειμένου να υπάρξει καλύτερη κατανόηση των κινδύνων που συνδέονται με τις νέες δυνατότητες της ΤΝ. Τη θέση αυτή υποστήριξαν δημόσια ο επικεφαλής της OpenAI, Σαμ Άλτμαν, και ο Ίλον Μασκ.
Την ίδια στιγμή, ο Ντόναλντ Τραμπ και στελέχη του Ρεπουμπλικανικού Κόμματος εξέφρασαν την αντίθεσή τους στην επιβράδυνση της ανάπτυξης της ΤΝ. Το ζήτημα έχει αποκτήσει πολιτική βαρύτητα στις ΗΠΑ, καθώς συνδέεται πλέον και με την προεκλογική αντιπαράθεση ενόψει των ενδιάμεσων εκλογών.
Η Κίνα βλέπει την ΤΝ και ως ζήτημα εθνικής ασφάλειας
Οι ανησυχίες δεν περιορίζονται στις Ηνωμένες Πολιτείες και την Ευρώπη. Την Κυριακή, ο επικεφαλής των κινεζικών μυστικών υπηρεσιών προειδοποίησε ότι η Τεχνητή Νοημοσύνη αποτελεί απειλή για την εθνική ασφάλεια της Κίνας, καθώς ξένες δυνάμεις θα μπορούσαν να αξιοποιήσουν την τεχνολογία για να αποσταθεροποιήσουν τη χώρα.
Η γεωγραφία της ανάπτυξης των πλέον προηγμένων συστημάτων αποτελεί, άλλωστε, βασικό στοιχείο της παρέμβασης του ΟΗΕ. Ο Φόλκερ Τουρκ επισήμανε ότι οι εταιρείες που βρίσκονται στην πρώτη γραμμή της τεχνολογικής εξέλιξης συγκεντρώνονται κυρίως στις ΗΠΑ και την Κίνα και ζήτησε από τις κυβερνήσεις και τις επιχειρήσεις να αναλάβουν άμεσα την ευθύνη για τον περιορισμό των κινδύνων.
Αυτορρύθμιση ως πρώτο βήμα, όχι ως λύση
Ο Ύπατος Αρμοστής αναγνώρισε ότι η αυτορρύθμιση του κλάδου αποτελεί ένα επείγον πρώτο βήμα, αλλά τόνισε ότι δεν αρκεί.
Σύμφωνα με τον ίδιο, οι χώρες που φιλοξενούν τις κορυφαίες επιχειρήσεις Τεχνητής Νοημοσύνης έχουν ιδιαίτερη ευθύνη να επιβάλουν κανόνες και να συντονίσουν τα ρυθμιστικά τους πλαίσια. Ο κίνδυνος, όπως σημείωσε, είναι ο διεθνής ανταγωνισμός να οδηγήσει σε χαλάρωση των κανόνων, καθώς κράτη και εταιρείες θα επιδιώκουν να αποκτήσουν πλεονέκτημα στην ανάπτυξη της τεχνολογίας.
Ο Τουρκ είχε ήδη προειδοποιήσει στις 7 Σεπτεμβρίου το Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ ότι η Τεχνητή Νοημοσύνη μπορεί να εξελιχθεί σε υπαρξιακό κίνδυνο για την ανθρωπότητα.
Με τη νέα του παρέμβαση θέτει στο επίκεντρο το ζήτημα της διεθνούς διακυβέρνησης της ΤΝ, υποστηρίζοντας ότι οι αποφάσεις για τους κινδύνους που είναι αποδεκτοί δεν μπορούν να παραμείνουν αποκλειστικά στα χέρια μεμονωμένων κυβερνήσεων ή τεχνολογικών εταιρειών.
