Ένα ασυνήθιστα σκληρό επεισόδιο σύγκρουσης μεταξύ του αμερικανικού Πενταγώνου και της εταιρείας τεχνητής νοημοσύνης Anthropic φέρνει στο προσκήνιο το πιο ακανθώδες ερώτημα της εποχής της ΑΙ: ποιος ελέγχει τις τεχνολογίες τεράστιας ισχύος που αναπτύσσουν οι ιδιωτικές εταιρείες και πώς αυτές μπορούν να χρησιμοποιηθούν σε στρατιωτικές επιχειρήσεις και συστήματα μαζικής επιτήρησης. Η ένταση κλιμακώθηκε μέσα σε λίγες ώρες, οδηγώντας ακόμη και σε απειλή «μαύρης λίστας» για την εταιρεία.
Το αίτημα του Πενταγώνου
Σύμφωνα με πληροφορίες που κυκλοφόρησαν σε τεχνολογικούς και αμυντικούς κύκλους, το Πεντάγωνο φέρεται να ζήτησε από την Anthropic να επιτρέψει τη χρήση των συστημάτων τεχνητής νοημοσύνης της για «κάθε νόμιμο στρατιωτικό σκοπό».
Η διατύπωση αυτή θεωρείται εξαιρετικά ευρεία και –κατά τους επικριτές της– θα μπορούσε να καλύπτει εφαρμογές όπως:
- συστήματα μαζικής επιτήρησης και ανάλυσης επικοινωνιών
- παρακολούθηση διαδικτυακής δραστηριότητας και μετακινήσεων πολιτών
- επεξεργασία βιομετρικών δεδομένων μεγάλης κλίμακας
- χρήση σε αυτόνομα οπλικά συστήματα
Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο ανάπτυξης πλήρως αυτόνομων επιθετικών συστημάτων – drones ή ρομποτικών πλατφορμών που θα μπορούσαν να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη παρέμβαση τη στιγμή της επίθεσης.
Το θέμα βρίσκεται ήδη στο επίκεντρο διεθνών συζητήσεων για τα λεγόμενα «killer robots», τα οποία αρκετές χώρες και οργανώσεις ζητούν να απαγορευθούν μέσω διεθνούς συνθήκης.
Η άρνηση της Anthropic
Η Anthropic φέρεται να αρνήθηκε να αποδεχθεί δύο βασικά σημεία του αιτήματος:
- τη χρήση των μοντέλων της σε συστήματα μαζικής επιτήρησης πολιτών
- την ενσωμάτωσή τους σε πλήρως αυτόνομα οπλικά συστήματα
Η στάση αυτή προκάλεσε άμεση ρήξη με το αμερικανικό υπουργείο Άμυνας, το οποίο αποτελεί έναν από τους σημαντικότερους χρηματοδότες ερευνών τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες.
Το εσωτερικό μέμο που πυροδότησε την κρίση
Την ένταση επιδείνωσε η διαρροή εσωτερικού σημειώματος του διευθύνοντος συμβούλου της εταιρείας, Dario Amodei.
Στο κείμενο, ο επικεφαλής της εταιρείας υποστήριζε ότι η σύγκρουση με την κυβέρνηση συνδέεται –μεταξύ άλλων– και με το πολιτικό κλίμα στην Ουάσιγκτον. Σύμφωνα με τη διαρροή, σημείωνε ότι η εταιρεία δεν είχε δείξει την απαιτούμενη «δικτατορικού τύπου κολακεία» προς τον πρόεδρο των ΗΠΑ, Donald Trump, σχόλιο που προκάλεσε αίσθηση όταν έγινε γνωστό.
Η διαρροή του μέμο πολλαπλασίασε την ένταση και μετατράπηκε γρήγορα σε πολιτικό ζήτημα στην Ουάσιγκτον.
Η απειλή «μαύρης λίστας»
Λίγες ώρες μετά τη δημοσιοποίηση της υπόθεσης, το Pentagon φέρεται να χαρακτήρισε την εταιρεία «κίνδυνο για την αλυσίδα εφοδιασμού» (supply-chain risk).
Η κατηγορία αυτή χρησιμοποιείται συνήθως για εταιρείες που θεωρούνται πιθανή απειλή για την εθνική ασφάλεια – κυρίως σε περιπτώσεις ξένων τεχνολογικών προμηθευτών. Η εφαρμογή της σε αμερικανική εταιρεία θα αποτελούσε πρωτοφανές προηγούμενο.
Μια τέτοια απόφαση θα μπορούσε να αποκλείσει την Anthropic από κρατικά συμβόλαια και να περιορίσει τη συνεργασία της με κυβερνητικούς οργανισμούς.
Η απολογητική στάση του Αμοντέι
Μετά την κλιμάκωση της κρίσης, ο Dario Amodei εμφανίστηκε σε δημόσιες δηλώσεις με εμφανώς πιο conciliatory τόνο.
Ο επικεφαλής της εταιρείας τόνισε ότι υπάρχει συμφωνία «σε μεγάλο ποσοστό» με την κυβέρνηση για το πλαίσιο χρήσης της τεχνητής νοημοσύνης και επιχείρησε να υποβαθμίσει τη σημασία του διαρρεύσαντος σημειώματος, υποστηρίζοντας ότι «δεν επρόκειτο ακριβώς για μέμο».
Παράλληλα, κάλεσε σε διάλογο και σε θέσπιση νομοθεσίας που θα ορίζει σαφείς κανόνες για τις στρατιωτικές εφαρμογές της ΑΙ.
Η στάση των άλλων τεχνολογικών κολοσσών
Η σύγκρουση φέρνει στο προσκήνιο και τις διαφορετικές στρατηγικές των εταιρειών τεχνητής νοημοσύνης.
Η OpenAI, με επικεφαλής τον Sam Altman, έχει επιλέξει μέχρι στιγμής πιο στενή συνεργασία με την αμερικανική κυβέρνηση και το στρατιωτικό σύμπλεγμα, ενισχύοντας τη συνεργασία με ομοσπονδιακούς οργανισμούς και αμυντικά προγράμματα.
Το αποτέλεσμα είναι μια ταχύτατη σύγκλιση της βιομηχανίας ΑΙ με τον στρατιωτικό τομέα, εξέλιξη που αρκετοί αναλυτές συγκρίνουν με τη στενή σχέση της τεχνολογικής βιομηχανίας με το Πεντάγωνο κατά τη διάρκεια του Ψυχρού Πολέμου.
Η μεγάλη συζήτηση για τον έλεγχο της τεχνητής νοημοσύνης
Η υπόθεση αναδεικνύει το κεντρικό δίλημμα της εποχής της τεχνητής νοημοσύνης: τεχνολογίες εξαιρετικής ισχύος αναπτύσσονται από ιδιωτικές εταιρείες αλλά μπορούν να αξιοποιηθούν από κράτη για στρατιωτικές και γεωπολιτικές εφαρμογές.
Στις Ηνωμένες Πολιτείες, ο γερουσιαστής Bernie Sanders έχει επανειλημμένα ζητήσει αυστηρό δημόσιο έλεγχο στις μεγάλες εταιρείες ΑΙ, προειδοποιώντας ότι η συγκέντρωση τόσο ισχυρών τεχνολογιών σε ελάχιστα χέρια δημιουργεί σοβαρούς κινδύνους για τη δημοκρατία.
Το ερώτημα που αναδύεται είναι αν οι κυβερνήσεις θα καταφέρουν να θεσπίσουν κανόνες πριν η τεχνολογία ενσωματωθεί πλήρως σε συστήματα επιτήρησης, πολέμου και γεωπολιτικού ανταγωνισμού.
Για πολλούς ειδικούς, η σύγκρουση ανάμεσα στο Πεντάγωνο και την Anthropic αποτελεί απλώς το πρώτο μεγάλο επεισόδιο μιας μάχης που μόλις ξεκινά.
