Η συζήτηση για την Τεχνητή Νοημοσύνη μεταφέρεται από τα εντυπωσιακά σενάρια για την «υπερνοημοσύνη» στα πολύ πιο άμεσα προβλήματα: deepfakes, κυβερνοεπιθέσεις, υποκλοπή διαπιστευτηρίων, ευπάθειες κρίσιμων υποδομών και ευθύνη των ίδιων των εταιρειών.
Αυτό ήταν το βασικό μήνυμα που αναδείχθηκε σε εκδήλωση της Γενικής Συνέλευσης του ΟΗΕ για την Ψηφιακή Συνεργασία, με τη συμμετοχή του Yoshua Bengio και της βραβευμένης με Νόμπελ Maria Ressa.
Στην Ελλάδα, η συζήτηση για την Τεχνητή Νοημοσύνη έχει μέχρι στιγμής έντονα επενδυτικό, αναπτυξιακό και τεχνολογικό χαρακτήρα. Στη Νέα Υόρκη, όμως, το ερώτημα τέθηκε διαφορετικά: ποιος ελέγχει τα συστήματα AI, ποιος λογοδοτεί όταν προκαλούν ζημιά και ποιος μπορεί να απαιτήσει την απόσυρσή τους;
Το μήνυμα δεν ήταν «σταματήστε την AI». Ήταν μάλλον το αντίθετο: η τεχνολογία μπορεί να προσφέρει τεράστια οφέλη στην ιατρική, στην επιστήμη και στην οικονομία, αλλά η κοινωνία δεν μπορεί να αφήσει τη διαχείριση των κινδύνων αποκλειστικά στις ίδιες τις εταιρείες που αναπτύσσουν τα συστήματα. Πρόκειται για μια λογική που έχει ήδη εμφανιστεί και στην ελληνική δημόσια συζήτηση, με έμφαση στη λογοδοσία και τη διαφάνεια στην AI.
Το κρίσιμο σημείο είναι ότι οι συμμετέχοντες στην εκδήλωση του ΟΗΕ επιχειρούν να μετακινήσουν τη συζήτηση από τα δύο άκρα. Από τη μία, την πλήρη απορρύθμιση και την αντίληψη ότι η αγορά θα αυτορυθμιστεί. Από την άλλη, την καταστροφολογία σύμφωνα με την οποία η AI οδηγεί αναπόφευκτα στον αφανισμό της ανθρωπότητας.
«Η ελπίδα δεν αποτελεί στρατηγική»
Η βασική θέση που διατυπώθηκε είναι ότι και οι δύο προσεγγίσεις απομακρύνουν τη συζήτηση από τους πραγματικούς κινδύνους που είναι ήδη ορατοί.
Η πλήρης απουσία κανόνων δεν μπορεί να θεωρείται σοβαρή πολιτική επιλογή όταν συστήματα τεχνητής νοημοσύνης αποκτούν πρόσβαση σε δεδομένα, υποδομές, λογαριασμούς και ψηφιακά εργαλεία. Από την άλλη, η εμμονή με σενάρια αφανισμού της ανθρωπότητας μπορεί να επισκιάσει προβλήματα που απαιτούν λύσεις τώρα.
Η μαζική παραγωγή και διάδοση deepfakes, η αυτοματοποίηση κυβερνοεπιθέσεων και η δυνατότητα συστημάτων AI να αλληλεπιδρούν αυτόνομα με ψηφιακές υποδομές αποτελούν πολύ πιο συγκεκριμένες προκλήσεις.
Και η εξέλιξη αυτή δεν είναι θεωρητική. Η συζήτηση για τους AI agents έχει ήδη περάσει στο πεδίο των πραγματικών περιστατικών, καθώς συστήματα που μπορούν να εκτελούν αλληλουχίες ενεργειών με περιορισμένη ανθρώπινη επίβλεψη δημιουργούν νέα ερωτήματα για τον έλεγχο και την ασφάλεια. AI agents και ο κίνδυνος απώλειας ελέγχου
Από τα deepfakes στις κρίσιμες υποδομές
Οι κίνδυνοι που τέθηκαν στο επίκεντρο δεν περιορίζονται στην παραπληροφόρηση.
Ένα σύστημα που μπορεί να εντοπίζει ευπάθειες, να δημιουργεί κώδικα, να αποκτά πρόσβαση σε υπηρεσίες και να εκτελεί αυτοματοποιημένες ενέργειες μπορεί να χρησιμοποιηθεί τόσο για άμυνα όσο και για επίθεση. Η ίδια δυνατότητα που μπορεί να βοηθήσει έναν οργανισμό να εντοπίσει ένα κενό ασφαλείας μπορεί να αξιοποιηθεί από έναν επιτιθέμενο για να το εκμεταλλευθεί.
Το ζήτημα γίνεται ακόμη πιο σοβαρό όταν στο κάδρο μπαίνουν οι κρίσιμες υποδομές: χρηματοπιστωτικά συστήματα, δίκτυα ηλεκτρικής ενέργειας, μεταφορές, νοσοκομεία και τηλεπικοινωνίες.
Το προηγούμενο του WannaCry, που προκάλεσε σοβαρά προβλήματα στο βρετανικό σύστημα υγείας, χρησιμοποιήθηκε ως υπενθύμιση ότι μια κυβερνοεπίθεση δεν χρειάζεται να έχει χαρακτηριστικά επιστημονικής φαντασίας για να προκαλέσει πραγματικές και εκτεταμένες συνέπειες.
Η λογοδοσία των εταιρειών μπαίνει στο κέντρο
Εδώ βρίσκεται ίσως το πιο πολιτικά ενδιαφέρον σημείο της συζήτησης.
Η πρόταση δεν περιορίζεται στη δημιουργία ακόμη ενός πλαισίου αρχών ή σε γενικόλογες αναφορές στην «υπεύθυνη AI». Ζητείται συγκεκριμένη ευθύνη των εταιρειών για τα προϊόντα που διαθέτουν στην αγορά.
Αυτό σημαίνει ότι, όταν ένα σύστημα αποδεικνύεται επανειλημμένα επικίνδυνο, η εποπτεία θα πρέπει να μπορεί να οδηγήσει ακόμη και σε ανάκληση προϊόντος ή σε κυρώσεις για την εταιρεία που το διαθέτει.
Η λογική αυτή βρίσκεται πολύ κοντά σε όσα υποστηρίζουν εδώ και μήνες ευρωπαϊκοί θεσμοί, επιστήμονες και πολιτικοί που ζητούν κανόνες για την AI αντί για απορρύθμιση. Στην Ελλάδα, χαρακτηριστική είναι και η συζήτηση για την εφαρμογή του ευρωπαϊκού AI Act. Η Ελλάδα περνά στην εποχή εφαρμογής του AI Act
Το ερώτημα, επομένως, δεν είναι πλέον αν θα υπάρξει ρύθμιση. Είναι πόσο ουσιαστική θα είναι, ποιος θα την εφαρμόζει και αν οι εποπτικές αρχές θα έχουν πραγματική δυνατότητα παρέμβασης.
Το «alignment» δεν αρκεί
Ιδιαίτερη αιχμή αποτελεί και η κριτική στην αόριστη συζήτηση περί «ευθυγράμμισης» των μοντέλων με τις ανθρώπινες αξίες.
Η θέση που διατυπώθηκε στον ΟΗΕ είναι ότι η έννοια αυτή πρέπει να μεταφραστεί σε συγκεκριμένους μηχανισμούς ασφάλειας: καλύτερα sandboxing, αποτελεσματικότερη παρακολούθηση, αυστηρότερους ελέγχους και δυνατότητα περιορισμού ενός συστήματος όταν εμφανίζει επικίνδυνη συμπεριφορά.
Η παρακολούθηση δεν είναι τεχνική λεπτομέρεια. Είναι βασικό στοιχείο της κυβερνοασφάλειας. Γι’ αυτό και η επιλογή μιας εταιρείας να διαθέσει ένα μοντέλο που είναι δυσκολότερο να παρακολουθηθεί δημιουργεί ζήτημα που υπερβαίνει τις εσωτερικές αποφάσεις μιας επιχείρησης.
Στο ίδιο πλαίσιο εντάσσεται και η κριτική στην υπερβολική εξάρτηση από τα μεγάλα γλωσσικά μοντέλα. Η έρευνα σε εναλλακτικές αρχιτεκτονικές θα μπορούσε να προσφέρει συστήματα με μεγαλύτερη διαφάνεια και ευκολότερο έλεγχο.
Τρεις προτάσεις για διεθνή εποπτεία
Στην εκδήλωση του ΟΗΕ τέθηκαν τρεις συγκεκριμένες προτεραιότητες.
Πρώτον, η σύσταση και ενίσχυση μιας διεθνούς συμβουλευτικής επιτροπής που θα αξιολογεί τους κινδύνους και τα οφέλη νέων συστημάτων πριν αυτά διατεθούν. Οι ανεξάρτητοι επιστήμονες θα πρέπει να έχουν ουσιαστικό ρόλο.
Δεύτερον, η δημιουργία μηχανισμού συνεχούς ελέγχου μετά την κυκλοφορία των συστημάτων. Η αξιολόγηση δεν μπορεί να τελειώνει τη στιγμή που ένα μοντέλο βγαίνει στην αγορά. Αν αποδεικνύεται επικίνδυνο, θα πρέπει να υπάρχει η δυνατότητα επιβολής αλλαγών ή ακόμη και απόσυρσής του.
Τρίτον, η επίτευξη διεθνούς συμφωνίας για την αποφυγή αρχιτεκτονικών που έχουν αποδεδειγμένα προκαλέσει βλάβες και η επιβολή ευθύνης στα λεγόμενα frontier labs όταν η ασφάλεια των προϊόντων τους αποδεικνύεται ανεπαρκής.
Το δύσκολο ερώτημα για την Ελλάδα
Η ελληνική συζήτηση για την AI δεν είναι απούσα. Υπάρχουν ήδη παρεμβάσεις για τη ρύθμιση, τη διαφάνεια, τη δημοσιογραφία και την προστασία των πολιτών. Η ΕΣΗΕΑ, για παράδειγμα, έχει θέσει συγκεκριμένους κανόνες για τη σήμανση περιεχομένου που παράγεται ή τροποποιείται με AI.
Το ερώτημα είναι αν η συζήτηση μπορεί να περάσει από τις γενικές διακηρύξεις σε μηχανισμούς πραγματικού ελέγχου.
Ποιος ελέγχει ένα σύστημα όταν χρησιμοποιείται από το Δημόσιο; Ποιος ευθύνεται όταν μια αυτοματοποιημένη απόφαση προκαλεί ζημιά; Ποιος έχει την τεχνική δυνατότητα να ελέγξει ένα μοντέλο που αναπτύχθηκε από μια παγκόσμια εταιρεία; Και, κυρίως, ποιος μπορεί να πει «σταματήστε το» όταν αποδειχθεί ότι ένα σύστημα είναι επικίνδυνο;
Αυτές είναι οι ερωτήσεις που μεταφέρθηκαν στη Γενική Συνέλευση του ΟΗΕ. Και είναι πολύ πιο συγκεκριμένες από το ερώτημα αν κάποτε η τεχνητή νοημοσύνη θα γίνει εξυπνότερη από τον άνθρωπο.
Γιατί η πραγματική δοκιμασία της AI δεν βρίσκεται μόνο στο τι θα μπορέσει να κάνει στο μέλλον. Βρίσκεται στο αν οι κοινωνίες και οι θεσμοί μπορούν να επιβάλουν κανόνες σε αυτά που ήδη μπορεί να κάνει σήμερα.
