Η τεχνητή νοημοσύνη αλλάζει ήδη τον τρόπο με τον οποίο διεξάγονται οι πόλεμοι. Από drones που λειτουργούν με αλγορίθμους μέχρι συστήματα αυτόνομης στοχοποίησης και λήψης αποφάσεων σε πραγματικό χρόνο, η στρατιωτική τεχνολογία εισέρχεται σε μια νέα εποχή όπου το όριο ανάμεσα στον άνθρωπο και τη μηχανή γίνεται ολοένα πιο δυσδιάκριτο. Ο Βίνσεντ Μίλερ, καθηγητής Θεωρίας και Ηθικής της Τεχνητής Νοημοσύνης στο Πανεπιστήμιο Ερλάγκεν–Νυρεμβέργης και πρόεδρος της Ευρωπαϊκής Εταιρείας για τα Γνωσιακά Συστήματα, επιχειρεί να χαρτογραφήσει το νέο τοπίο, καταγράφοντας δέκα κρίσιμα ηθικά προβλήματα που συνοδεύουν την άνοδο των αυτόνομων οπλικών συστημάτων.
Η συζήτηση δεν αφορά ένα μακρινό μέλλον. Τα συστήματα αυτά βρίσκονται ήδη στο πεδίο της μάχης.
Τι είναι τα αυτόνομα οπλικά συστήματα
Τα αυτόνομα οπλικά συστήματα (LAWs – Lethal Autonomous Weapons) είναι στρατιωτικές πλατφόρμες που, αφού ενεργοποιηθούν, μπορούν να εντοπίσουν, να επιλέξουν και να πλήξουν στόχους με περιορισμένη ή ακόμη και μηδενική ανθρώπινη παρέμβαση.
Αξιοποιούν αισθητήρες, δεδομένα πεδίου μάχης και αλγορίθμους τεχνητής νοημοσύνης που επεξεργάζονται πληροφορίες σε πραγματικό χρόνο. Η τεχνολογία αυτή ήδη χρησιμοποιείται σε συστήματα αεράμυνας, μη επανδρωμένα αεροσκάφη, θαλάσσιες και χερσαίες στρατιωτικές πλατφόρμες.
Το βασικό ερώτημα δεν είναι πλέον αν υπάρχουν. Είναι πόση αυτονομία πρέπει να έχουν.
Οι τρεις βαθμοί αυτονομίας στα όπλα
Ο Βίνσεντ Μίλερ εξηγεί ότι η αυτονομία δεν είναι απόλυτη έννοια. Υπάρχει ένα συνεχές επίπεδων ανθρώπινης εμπλοκής.
Στην πρώτη κατηγορία, «human in the loop», ο άνθρωπος διατηρεί τον τελικό λόγο. Η μηχανή προτείνει στόχο, αλλά η έγκριση της επίθεσης παραμένει ανθρώπινη.
Στη δεύτερη περίπτωση, «human on the loop», το σύστημα δρα αυτόνομα και ο άνθρωπος μπορεί μόνο να παρέμβει ώστε να ακυρώσει μια ενέργεια.
Στην τρίτη εκδοχή, «human out of the loop», η μηχανή εντοπίζει, αποφασίζει και επιτίθεται χωρίς καμία ανθρώπινη παρέμβαση.
Η διάκριση αυτή αποκτά ιδιαίτερη σημασία σε συνθήκες όπου ο χρόνος αντίδρασης είναι ελάχιστος. Συστήματα αναχαίτισης πυραύλων σε πολεμικά πλοία λειτουργούν εδώ και χρόνια με υψηλό βαθμό αυτοματοποίησης, καθώς η ανθρώπινη απόφαση μπορεί να είναι πολύ αργή για να αποτρέψει την καταστροφή.
Το πρώτο μεγάλο δίλημμα: Ποιος ευθύνεται όταν σκοτώνει η μηχανή;
Η σημαντικότερη ηθική και νομική πρόκληση αφορά την ευθύνη.
Στις στρατιωτικές επιχειρήσεις υπάρχει διαχρονικά μια θεμελιώδης αρχή: πίσω από κάθε στρατιωτική ενέργεια υπάρχει ένας άνθρωπος που φέρει την ευθύνη.
Τι συμβαίνει όμως όταν μια μηχανή αποφασίζει ποιος είναι στόχος;
Ο Μίλερ χρησιμοποιεί μια χαρακτηριστική παρομοίωση: αν κάποιος στείλει σε έναν άνθρωπο ένα κουτί με μια κόμπρα μέσα, η ευθύνη δεν εξαφανίζεται επειδή το φίδι έκανε τη θανατηφόρα πράξη. Ο αποστολέας γνώριζε το πιθανό αποτέλεσμα.
Αντίστοιχα, ακόμη κι αν ένα αυτόνομο όπλο λειτουργεί ανεξάρτητα, παραμένει το ερώτημα ποιος φέρει την ευθύνη για μια λανθασμένη ή παράνομη επίθεση: ο προγραμματιστής, ο στρατιωτικός διοικητής, ο πολιτικός προϊστάμενος ή κανείς;
Το λεγόμενο «κενό ευθύνης» βρίσκεται στον πυρήνα της διεθνούς συζήτησης.
Ο κίνδυνος της ανεξέλεγκτης αυτονομίας
Το δεύτερο κρίσιμο ζήτημα είναι ο έλεγχος.
Η ιδέα ενός οπλικού συστήματος που μπορεί να επιλέγει και να εξουδετερώνει στόχους χωρίς δυνατότητα ανθρώπινης παρέμβασης προκαλεί βαθιά ανησυχία.
Η ανθρώπινη ευθύνη προϋποθέτει ανθρώπινο έλεγχο.
Όσο αυξάνεται η αυτονομία, τόσο δυσκολότερο γίνεται να διασφαλιστεί ότι οι αποφάσεις που αφορούν ανθρώπινες ζωές παραμένουν υπό ουσιαστική ανθρώπινη εποπτεία.
Οι «καλύτεροι» πόλεμοι μπορεί να γίνουν πιο συχνοί
Ένα από τα πιο σύνθετα ηθικά διλήμματα αφορά μια φαινομενική αντίφαση.
Η τεχνητή νοημοσύνη ενδέχεται να καταστήσει τους πολέμους πιο ακριβείς, πιο στοχευμένους και θεωρητικά λιγότερο καταστροφικούς για αμάχους.
Αυτό όμως μπορεί να έχει ένα παράδοξο αποτέλεσμα: να καταστήσει τον πόλεμο πολιτικά ευκολότερο.
Αν μια χώρα μπορεί να διεξάγει στρατιωτικές επιχειρήσεις με περιορισμένες ανθρώπινες απώλειες για τη δική της πλευρά, το πολιτικό κόστος μειώνεται.
Και όταν το κόστος μειώνεται, η πιθανότητα προσφυγής στη στρατιωτική επιλογή ενδέχεται να αυξάνεται.
Το δίλημμα αποκτά ακόμη μεγαλύτερη ένταση αν συγκριθεί με την πυρηνική αποτροπή. Τα πυρηνικά όπλα αύξησαν δραματικά το κόστος ενός μεγάλου πολέμου, κάνοντάς τον λιγότερο πιθανό. Τα αυτόνομα όπλα μπορεί να κινηθούν προς την αντίθετη κατεύθυνση.
Η διάχυση της πολεμικής τεχνολογίας και οι μη κρατικοί δρώντες
Η ευκολότερη πρόσβαση σε προηγμένη στρατιωτική τεχνολογία δημιουργεί ένα νέο πεδίο κινδύνου.
Τα drones, τα αυτόνομα συστήματα και τα εργαλεία τεχνητής νοημοσύνης δεν βρίσκονται πλέον αποκλειστικά στα χέρια κρατών.
Μικρές ένοπλες οργανώσεις, παραστρατιωτικές ομάδες ή μη κρατικοί δρώντες αποκτούν ολοένα μεγαλύτερες δυνατότητες.
Η συνέπεια μπορεί να είναι ένας κόσμος όπου συγκρούσεις χαμηλής έντασης, δύσκολα ανιχνεύσιμες και ακόμη δυσκολότερα αποδιδόμενες σε συγκεκριμένο δράστη, θα πολλαπλασιάζονται.
Ο πόλεμος παύει να είναι σαφώς οριοθετημένο γεγονός και μετατρέπεται σε μόνιμη κατάσταση αστάθειας.
Η απανθρωποποίηση του πολέμου
Ο Μίλερ εντοπίζει και μια βαθύτερη πολιτισμική μεταβολή.
Καθώς η τεχνητή νοημοσύνη αναλαμβάνει όλο και μεγαλύτερο μέρος της στρατιωτικής διαδικασίας, ο πόλεμος μετατρέπεται σε ζήτημα υπολογισμών, προβλέψεων και βελτιστοποίησης.
Η λογική του αλγορίθμου διεισδύει στην ίδια τη στρατιωτική απόφαση.
Αυτό οδηγεί σε έναν πόλεμο πιο προβλέψιμο, πιο τεχνοκρατικό και ενδεχομένως λιγότερο ανθρώπινο.
Η πολεμική εμπειρία απομακρύνεται από τον άνθρωπο και μεταφέρεται σε οθόνες, δίκτυα δεδομένων και αυτοματοποιημένα συστήματα.
Οι ασύμμετροι πόλεμοι και οι μηχανές που σκοτώνουν ανθρώπους
Η τεχνολογική ανισότητα μπορεί να δημιουργήσει ακόμη πιο ακραίες μορφές ασυμμετρίας.
Μια στρατιωτική δύναμη με εκτεταμένα αυτόνομα οπλικά συστήματα θα μπορεί να πλήττει αντιπάλους που βασίζονται κυρίως σε ανθρώπινο δυναμικό.
Το ερώτημα που προκύπτει είναι αν η μαζική εξόντωση ανθρώπων από μηχανές συνιστά ένα νέο ποιοτικό όριο στην πολεμική βία.
Η τεχνολογία δεν αλλάζει μόνο το αποτέλεσμα ενός πολέμου. Αλλάζει και τη φύση του.
Όταν ο πόλεμος καταστρέφει τη μνήμη και την ταυτότητα
Ο πόλεμος δεν αφαιρεί μόνο ζωές.
Καταστρέφει πόλεις, γειτονιές, μνημεία, χώρους που μεταφέρουν συλλογική μνήμη και πολιτισμική συνέχεια.
Η καταστροφή του υλικού πολιτισμού μπορεί να οδηγήσει σε βαθιές και μακροχρόνιες κοινωνικές πληγές.
Ο ξεριζωμός πληθυσμών, η εξαφάνιση οικισμών και η αλλοίωση του τοπίου μετατρέπονται σε παράγοντες διαμόρφωσης της ιστορικής εμπειρίας ολόκληρων κοινωνιών.
Ο άνθρωπος και η μηχανή γίνονται ένα ενιαίο σύστημα
Η τελευταία προειδοποίηση αφορά το μέλλον της σχέσης ανθρώπου και τεχνολογίας.
Ο πόλεμος του μέλλοντος δεν θα είναι μια αναμέτρηση ανθρώπων απέναντι σε μηχανές.
Θα είναι μια υβριδική πραγματικότητα όπου άνθρωποι, λογισμικό, αισθητήρες, αλγόριθμοι και ρομποτικά συστήματα θα λειτουργούν ως ενιαία επιχειρησιακά δίκτυα.
Αυτό καθιστά ακόμη πιο δύσκολο τον καθορισμό σαφών ορίων και ρυθμιστικών κανόνων.
Για τον Βίνσεντ Μίλερ, η βασική γραμμή άμυνας παραμένει μία: η ανθρώπινη ευθύνη δεν πρέπει να χαθεί μέσα στον αλγόριθμο.
Καθώς η τεχνητή νοημοσύνη μετασχηματίζει τις ένοπλες συγκρούσεις, το κρίσιμο ερώτημα δεν είναι μόνο τι μπορούν να κάνουν οι μηχανές. Είναι ποια όρια θα επιλέξουν οι κοινωνίες να θέσουν πριν η τεχνολογία αλλάξει οριστικά το νόημα του πολέμου.
Η εικόνα απεικονίζει ένα φουτουριστικό πεδίο μάχης αστικού περιβάλλοντος νύχτας με:
Αεροπορικά συστήματα (UAVs): Τρία combat drones σε ιεραρχική διάταξη — το κεντρικό command drone συντονίζει τα πλευρικά — συν ένα swarm cluster μικρών αυτόνομων μονάδων.
Χερσαία συστήματα (UGVs): Δύο τεθωρακισμένα ρομπότ εδάφους με πυροβόλα και sensory domes, με laser targeting που δείχνει ανθρώπινη παρουσία.
Δίκτυο επικοινωνίας: Encrypted data links μεταξύ όλων των συστημάτων — το swarm λειτουργεί ως ενιαίος οργανισμός χωρίς ανθρώπινη επέμβαση.
Κρίσιμο στοιχείο: Το banner στο κάτω μέρος λέει τα πάντα — “No human in the loop — kill decision automated” — η ουσία του νομικού και ηθικού προβλήματος γύρω από τα LAWs.
