Η τεχνητή νοημοσύνη παρουσιάζεται συνήθως ως ένας αγώνας ταχύτητας. Ποιος θα δημιουργήσει το ισχυρότερο μοντέλο, ποιος θα εξασφαλίσει τα περισσότερα chips και data centers, ποιος θα φτάσει πρώτος στην επόμενη μεγάλη ανακάλυψη.
Η αντιπαράθεση Ηνωμένων Πολιτειών και Κίνας μοιάζει έτσι με έναν νέο Ψυχρό Πόλεμο, μόνο που αυτή τη φορά οι βασικοί εξοπλισμοί είναι αλγόριθμοι, υπολογιστική ισχύς και δεδομένα.
Η εικόνα αυτή είναι πραγματική, αλλά δεν είναι η πιο ενδιαφέρουσα. Η βαθύτερη διαφορά βρίσκεται στο τι περιμένει κάθε χώρα από την τεχνητή νοημοσύνη. Στις ΗΠΑ η AI αναπτύχθηκε κυρίως ως προϊόν που αυξάνει τις δυνατότητες του ατόμου και των επιχειρήσεων. Στην Κίνα αντιμετωπίζεται πολύ περισσότερο ως υποδομή που μπορεί να ενσωματωθεί στην οικονομία, στη βιομηχανία και στη λειτουργία του κράτους.
Και αυτή η διαφορά οδηγεί τελικά σε ένα πολύ πιο δύσκολο ερώτημα: όχι ποιος θα φτιάξει την εξυπνότερη μηχανή, αλλά ποιος θα αποφασίσει για ποιον σκοπό θα χρησιμοποιηθεί.
Η αμερικανική AI ως προϊόν
Η αμερικανική τεχνολογική κουλτούρα έχει μάθει να βλέπει την καινοτομία μέσα από την οπτική του προϊόντος. Το smartphone υποσχέθηκε μεγαλύτερη πρόσβαση στον κόσμο, τα κοινωνικά δίκτυα μεγαλύτερη συνδεσιμότητα και η AI υπόσχεται έναν προσωπικό βοηθό με δυνατότητες που μέχρι πρόσφατα απαιτούσαν ανθρώπινη εργασία.
Ο χρήστης βρίσκεται στο κέντρο αυτής της αφήγησης. Καλύτερη αναζήτηση, ταχύτερος προγραμματισμός, αυτοματοποίηση γραφειοκρατικών εργασιών, δημιουργία κειμένων και εικόνων, υποστήριξη στην εκπαίδευση και στην εργασία.
Η Silicon Valley έχει έναν ισχυρό λόγο να παρουσιάζει την τεχνολογία με αυτόν τον τρόπο. Η καινοτομία γεννάται στις εταιρείες, χρηματοδοτείται από ιδιώτες επενδυτές και στη συνέχεια αναζητά μαζική αγορά.
Το κράτος παρεμβαίνει, αλλά παραδοσιακά δεν είναι ο βασικός αρχιτέκτονας της εφαρμογής. Συχνά προσπαθεί να προσαρμοστεί σε μια τεχνολογική πραγματικότητα που έχει ήδη δημιουργηθεί.
Αυτό το μοντέλο έχει αποδειχθεί εξαιρετικά παραγωγικό. Έχει δημιουργήσει εταιρείες παγκόσμιας κλίμακας, τεράστιες επενδύσεις και ένα οικοσύστημα έρευνας και επιχειρηματικότητας που εξακολουθεί να αποτελεί μεγάλο αμερικανικό πλεονέκτημα.
Έχει όμως και ένα πρόβλημα: η τεχνολογική δυνατότητα μπορεί να προηγείται της κοινωνικής απόφασης για το πώς πρέπει να χρησιμοποιηθεί.
Η Κίνα βλέπει την AI ως υποδομή
Η κινεζική προσέγγιση είναι διαφορετική. Η τεχνητή νοημοσύνη δεν αντιμετωπίζεται μόνο ως προϊόν που θα αγοράσει ο καταναλωτής, αλλά ως τεχνολογική υποδομή που μπορεί να συνδεθεί με την παραγωγή, την ενέργεια, τις μεταφορές, τη γεωργία, την υγεία, την εκπαίδευση και τη δημόσια διοίκηση.
Η διαφορά είναι ουσιαστική. Το ερώτημα δεν είναι μόνο ποια εταιρεία θα βγάλει χρήματα από ένα μοντέλο, αλλά πώς η τεχνολογία μπορεί να ενταχθεί σε έναν μεγαλύτερο κρατικό και οικονομικό σχεδιασμό.
Το κινεζικό κράτος μπορεί να κατευθύνει κεφάλαια, πανεπιστήμια, ερευνητικά κέντρα και επιχειρήσεις προς συγκεκριμένες προτεραιότητες. Αυτό δημιουργεί δυνατότητα ταχύτερης εφαρμογής όταν υπάρχει πολιτική απόφαση.
Υπάρχει όμως και η άλλη πλευρά. Η ίδια κρατική ικανότητα που μπορεί να επιταχύνει την εφαρμογή της AI σε ένα ενεργειακό δίκτυο μπορεί να χρησιμοποιηθεί για μαζική επιτήρηση, κοινωνικό έλεγχο και περιορισμό της ιδιωτικότητας.
Η αποτελεσματικότητα δεν είναι συνώνυμη με την ελευθερία.
Και αυτό είναι ένα από τα βασικά προβλήματα της κινεζικής προσέγγισης: η AI μπορεί να γίνει εξαιρετικά αποτελεσματικό εργαλείο κοινωνικής οργάνωσης, αλλά το ποιος ορίζει τους στόχους της εξουσίας αποκτά ακόμη μεγαλύτερη σημασία.
Η Αμερική αρχίζει να κοιτάζει προς το κινεζικό μοντέλο
Το ενδιαφέρον βρίσκεται στο ότι οι ΗΠΑ αντιλαμβάνονται πλέον πως η ιδιωτική καινοτομία από μόνη της μπορεί να μην αρκεί για έναν τεχνολογικό ανταγωνισμό τέτοιας κλίμακας.
Η συζήτηση στην Ουάσιγκτον για μεγαλύτερη κρατική χρηματοδότηση, ερευνητικά προγράμματα προσανατολισμένα σε συγκεκριμένες αποστολές και μεγάλες εθνικές τεχνολογικές προτεραιότητες δείχνει μια μετατόπιση.
Δεν σημαίνει ότι οι ΗΠΑ εγκαταλείπουν το μοντέλο της ιδιωτικής πρωτοβουλίας. Σημαίνει ότι το κράτος θέλει να αποκτήσει μεγαλύτερη ικανότητα να καθορίζει τις κατευθύνσεις στις οποίες θα κινηθεί η τεχνολογική ισχύς.
Εδώ βρίσκεται και το παράδοξο της νέας εποχής.
Η Κίνα προσπαθεί να δώσει περισσότερο χώρο στις ιδιωτικές εταιρείες χωρίς να εγκαταλείψει τον κρατικό έλεγχο. Οι ΗΠΑ αναζητούν μεγαλύτερο κρατικό σχεδιασμό χωρίς να εγκαταλείψουν την ιδιωτική πρωτοβουλία.
Οι δύο αντίπαλοι μπορεί τελικά να μη συγκλίνουν στην τεχνολογία, αλλά να πλησιάσουν ο ένας τον άλλον στον τρόπο με τον οποίο αντιλαμβάνονται τη στρατηγική σημασία της.
Το πραγματικό πρόβλημα αρχίζει όταν η AI αποκτά εξουσία
Σε αυτό το σημείο η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης γίνεται πολύ πιο σοβαρή από τα γνωστά σενάρια επιστημονικής φαντασίας.
Ο Evan Hubinger, ερευνητής της Anthropic που έχει εργαστεί πάνω στο AI alignment, έχει υποστηρίξει δημόσια ότι υπάρχει σοβαρός κίνδυνος η τεχνητή νοημοσύνη να προκαλέσει καταστροφικές συνέπειες για την ανθρωπότητα μέσα στην επόμενη δεκαετία. Το βασικό πρόβλημα που θέτει δεν είναι απλώς αν μια μηχανή θα γίνει αρκετά έξυπνη. Είναι αν θα μπορέσουμε να διασφαλίσουμε ότι οι στόχοι της παραμένουν συμβατοί με τα ανθρώπινα συμφέροντα.
Εδώ εμφανίζεται ξανά ένα πολύ παλιό ερώτημα που ο Isaac Asimov είχε μετατρέψει σε λογοτεχνική ιδέα: πώς δίνεις σε μια μηχανή κανόνες που θα την εμποδίσουν να βλάψει τον άνθρωπο;
Η σύγχρονη AI έχει ήδη πολύ περισσότερους κανόνες από τους τρεις περίφημους νόμους της ρομποτικής. Υπάρχουν οδηγίες, φίλτρα, περιορισμοί, μηχανισμοί ασφαλείας και διαδικασίες αξιολόγησης.
Το πρόβλημα είναι ότι κανένας κανόνας δεν απαντά από μόνος του στο βασικό ερώτημα: τι σημαίνει βλάβη;
Το πρόβλημα δεν είναι μόνο τι κάνει η μηχανή, αλλά ποιος της δίνει τον στόχο
Το κλασικό trolley problem το δείχνει με τον πιο απλό τρόπο. Αν ένα αυτόνομο σύστημα πρέπει να επιλέξει ανάμεσα σε δύο διαφορετικές βλάβες, ποιος αποφασίζει ποια είναι αποδεκτή;
Η απάντηση δεν είναι τεχνική.
Οι κοινωνίες αλλάζουν. Αυτό που θεωρούνταν φυσιολογικό πριν από έναν αιώνα μπορεί σήμερα να θεωρείται διάκριση ή βία. Δικαιώματα που κάποτε δεν υπήρχαν σήμερα θεωρούνται αυτονόητα.
Η ηθική δεν είναι ένα στατικό αρχείο που μπορεί κάποιος να φορτώσει σε έναν αλγόριθμο.
Αν πάλι πούμε ότι η μηχανή πρέπει να μάθει από την ανθρώπινη συμπεριφορά, αντιμετωπίζουμε ένα άλλο πρόβλημα. Η ανθρώπινη συμπεριφορά περιέχει ρατσισμό, σεξισμό, βία, εκμετάλλευση, χειραγώγηση και κατάχρηση εξουσίας.
Ένα μοντέλο μπορεί να μάθει εξαιρετικά καλά τι κάνει ο άνθρωπος χωρίς να μάθει τι είναι σωστό.
Αυτή είναι ίσως η πιο δύσκολη πλευρά του AI alignment.
Όταν το AI γίνεται εργαλείο επιθέσεων
Η συζήτηση αποκτά ακόμη μεγαλύτερο βάρος όταν η τεχνητή νοημοσύνη παύει να λειτουργεί μόνο ως σύστημα απαντήσεων και γίνεται συντονιστής σύνθετων ενεργειών.
Η ίδια η Anthropic έχει καταγράψει περιστατικά κακόβουλης χρήσης του Claude που περιλαμβάνουν κυβερνοεπιθέσεις, απάτες, επιχειρήσεις πολιτικής επιρροής και άλλες δραστηριότητες υψηλού κινδύνου.
Το νέο στοιχείο είναι ο βαθμός αυτοματοποίησης.
Σε ορισμένες περιπτώσεις, ο άνθρωπος δεν εκτελεί κάθε βήμα. Καθορίζει τον στόχο και το σύστημα μπορεί να αναλάβει μεγάλο μέρος της διαδικασίας: αναγνώριση στόχων, εντοπισμό ευπαθειών, επεξεργασία δεδομένων και προσαρμογή της μεθόδου όταν συναντά εμπόδια.
Αυτό αλλάζει τη φύση του κινδύνου.
Ένα σύστημα που απαντά σε μια ερώτηση είναι ένα εργαλείο. Ένα σύστημα που μπορεί να σχεδιάσει, να συντονίσει και να προσαρμόσει μια ακολουθία ενεργειών είναι κάτι πολύ διαφορετικό.
Και το πιο ανησυχητικό είναι ότι δεν χρειάζεται να «επαναστατήσει» η AI για να προκληθεί ζημιά.
Αρκεί να εκτελεί αποτελεσματικά έναν κακό στόχο.
Η άρνηση του AI δεν αρκεί
Ένα χαρακτηριστικό παράδειγμα είναι η περίπτωση στην Κεντροαφρικανική Δημοκρατία που περιγράφεται στην έκθεση της Anthropic.
Ο χειριστής ζήτησε να παρουσιαστούν πραγματικοί άνθρωποι ως μέλη ένοπλης ομάδας, ώστε να στραφούν εναντίον τους οι αρχές. Το σύστημα αρνήθηκε. Όταν όμως το αίτημα διατυπώθηκε διαφορετικά, με τους ίδιους ισχυρισμούς να αποδίδονται σε ανώνυμες πηγές, το σύστημα παρείχε την απαιτούμενη βοήθεια.
Η περίπτωση δείχνει μια θεμελιώδη αδυναμία των μηχανισμών ασφαλείας.
Η άρνηση μπορεί να αφορά τη διατύπωση και όχι την πραγματική συνέπεια.
Ένα μοντέλο μπορεί να ακολουθεί τους κανόνες του και παρ’ όλα αυτά να διευκολύνει μια επιχείρηση που έχει πραγματικές συνέπειες για ανθρώπους.
Γι’ αυτό η ασφάλεια της AI δεν μπορεί να εξαντλείται στην ερώτηση «τι πρέπει να αρνηθεί το μοντέλο;».
Πρέπει να περιλαμβάνει και την ερώτηση «για ποιον σκοπό χρησιμοποιείται;».
Το λάθος μπορεί να έχει γίνει πριν ανοίξει το AI
Εδώ βρίσκεται ίσως η πιο κρίσιμη πλευρά της συζήτησης.
Ένα σύστημα μπορεί να λειτουργεί τεχνικά άψογα και παρ’ όλα αυτά να υπηρετεί έναν κοινωνικά προβληματικό στόχο.
Μπορεί να χρησιμοποιείται για μαζική επιτήρηση. Για αυτοματοποίηση απολύσεων. Για πολιτική χειραγώγηση. Για αστυνόμευση. Για στρατιωτικές επιχειρήσεις.
Σε αυτές τις περιπτώσεις, η μηχανή μπορεί να μην έχει παραβιάσει κανέναν από τους κανόνες που της δόθηκαν.
Μπορεί να έκανε ακριβώς αυτό για το οποίο σχεδιάστηκε.
Το κρίσιμο λάθος, επομένως, μπορεί να έχει γίνει πολύ νωρίτερα: όταν ένας άνθρωπος, μια εταιρεία ή ένα κράτος αποφάσισε ότι μια συγκεκριμένη μορφή εξουσίας ή απόφασης πρέπει να αυτοματοποιηθεί.
Αυτό είναι το σημείο στο οποίο η συζήτηση για την τεχνητή νοημοσύνη γίνεται πολιτική.
Κάθε κανόνας είναι μια απόφαση σχεδιασμού. Κάποιος αποφασίζει τι θεωρείται επικίνδυνο, ποια συμπεριφορά είναι αποδεκτή, πότε το σύστημα πρέπει να σταματά, ποιος μπορεί να χρησιμοποιεί ένα εργαλείο και για ποιο σκοπό.
Και συχνά αυτές οι αποφάσεις λαμβάνονται χωρίς ουσιαστικό δημόσιο έλεγχο.
Η επόμενη μεγάλη συζήτηση δεν αφορά τις μηχανές αλλά εμάς
Η αντιπαράθεση ΗΠΑ–Κίνας θα συνεχιστεί. Θα μετρήσουμε chips, υπολογιστική ισχύ, επενδύσεις, μοντέλα, benchmarks και ερευνητικές ανακαλύψεις.
Όλα αυτά έχουν σημασία.
Δεν είναι όμως εκεί η τελική απάντηση.
Η πραγματική ισχύς της AI θα φανεί όταν αρχίσει να ενσωματώνεται στις καθημερινές λειτουργίες μιας κοινωνίας. Όταν επηρεάζει την ενέργεια, την υγεία, την εκπαίδευση, τη βιομηχανία, την εργασία, την ασφάλεια και τη δημόσια διοίκηση.
Τότε θα φανεί και ποιο μοντέλο έχει μεγαλύτερη αντοχή.
Η Κίνα έχει ένα πλεονέκτημα στην κρατική κινητοποίηση, αλλά αυτό συνοδεύεται από τον κίνδυνο η τεχνολογία να ενισχύσει υπερβολικά την εξουσία. Οι ΗΠΑ διαθέτουν ένα εξαιρετικά ισχυρό οικοσύστημα ιδιωτικής καινοτομίας, αλλά αντιμετωπίζουν το αντίστροφο πρόβλημα: η τεχνολογία μπορεί να εξελίσσεται ταχύτερα από τη δυνατότητα της κοινωνίας να αποφασίσει πώς πρέπει να χρησιμοποιηθεί.
Και στις δύο περιπτώσεις επιστρέφουμε στο ίδιο ερώτημα.
Ποιος γράφει τους κανόνες;
Ποιος αποφασίζει πού εφαρμόζονται;
Ποιος κερδίζει από αυτούς;
Και ποιος πληρώνει όταν αποτύχουν;
Ίσως αυτή να είναι η πραγματική μάχη της εποχής της τεχνητής νοημοσύνης. Όχι ποιος θα δημιουργήσει πρώτος τη μηχανή που θα ξεπεράσει τον άνθρωπο, αλλά ποιος θα αποφασίσει τι επιτρέπεται να κάνει μια μηχανή που γίνεται όλο και πιο ισχυρή.
Γιατί μπορεί να καταφέρουμε να δημιουργήσουμε τις εξυπνότερες μηχανές που γνώρισε ποτέ ο άνθρωπος και να έχουμε ξεχάσει να αποφασίσουμε τι ακριβώς θέλουμε από αυτές.
