Με τις συζητήσεις για το μέλλον της τεχνητής νοημοσύνης, την κυβερνοασφάλεια και την ψηφιακή κυριαρχία να βρίσκονται ψηλά στην ευρωπαϊκή ατζέντα, η ευρωβουλευτής του ΣΥΡΙΖΑ-ΠΣ Έλενα Κουντουρά μιλά στο AnatropiNews για τις προκλήσεις που καλείται να αντιμετωπίσει η Ευρωπαϊκή Ένωση στη νέα ψηφιακή εποχή.
Η τεχνητή νοημοσύνη αναδεικνύεται σε ένα από τα σημαντικότερα πεδία πολιτικής και θεσμικής αντιπαράθεσης στις Βρυξέλλες, καθώς οι ευρωπαϊκοί θεσμοί επιχειρούν να ισορροπήσουν ανάμεσα στην τεχνολογική καινοτομία, την ανταγωνιστικότητα και την προστασία των θεμελιωδών δικαιωμάτων των πολιτών.
Στη συνέντευξή της, η κ. Κουντουρά εξηγεί τους λόγους που επέλεξε να τηρήσει στάση αποχής στην ψηφοφορία για το AI Omnibus, εκφράζει τις ανησυχίες της για την προστασία των προσωπικών δεδομένων και τη δημοκρατική εποπτεία των συστημάτων τεχνητής νοημοσύνης, ενώ καταθέτει τις θέσεις της για την κυβερνοασφάλεια, την ευρωπαϊκή ψηφιακή κυριαρχία, τις επενδύσεις σε υποδομές δεδομένων και την επόμενη ημέρα του AI Act.
Συνέντευξη στον Χρόνη Διαμαντόπουλο
– Η πλειοψηφία του ΕΚ ψήφισε υπέρ του AI Omnibus με 569 ψήφους. Εσείς ψηφίσατε αποχή. Τι ακριβώς δεν μπορούσατε να αποδεχθείτε;
Τον περασμένο Μάρτιο ψηφίσαμε τη διαπραγματευτική θέση του Ευρωπαϊκού Κοινοβουλίου στην πρόταση της Επιτροπής για το AI Omnibus, με την οποία διαφωνούσα. Διότι με την πρόταση αυτή, η Κομισιόν προτείνει στο όνομα κάποιας υποτιθέμενης απλοποίησης ευρωπαϊκών κανόνων, την απορρύθμιση της νέας ευρωπαϊκής νομοθεσίας για την τεχνητή νοημοσύνη, η οποία δεν είχε τεθεί ακόμη σε πλήρη εφαρμογή.
Η πρόταση ουσιαστικά αποδυναμώνει κρίσιμους ευρωπαϊκούς κανόνες, παρουσιάζοντας τα θεμελιώδη δικαιώματα ως δήθεν εμπόδιο στην καινοτομία. Προβλέπει επίσης παράταση μέχρι τέλη του 2027 στη λειτουργία τεχνητής νοημοσύνης υψηλού κινδύνου, χωρίς τους κανόνες προστασίας που εμείς ως νομοθέτες της ΕΕ αποφασίσαμε ότι ήταν απαραίτητες. Αυτή η καθυστέρηση δεν είναι αποδεκτή. Συγχρόνως, δεν είχε προηγηθεί η προβλεπόμενη δημοκρατική διαδικασία αξιολόγησης του Κανονισμού, και προκάλεσε μεγάλες αντιδράσεις από πολύ μεγάλη μερίδα της κοινωνίας των πολιτών.
Ωστόσο, η θέση του Ευρωπαϊκού Κοινοβουλίου περιλάμβανε τη ρητή απαγόρευση συστημάτων τεχνητής νοημοσύνης που δημιουργούν ή χειραγωγούν ρεαλιστικές εικόνες ή βίντεο σεξουαλικού περιεχομένου χωρίς τη συγκατάθεση του απεικονιζόμενου προσώπου, τις λεγόμενες εφαρμογές «nudifier AI».
Πρόκειται για τη διάταξη για την οποία αγωνίστηκα επί πολλούς μήνες, παρεμβαίνοντας συστηματικά προς την Ευρωπαϊκή Επιτροπή και τα αρμόδια θεσμικά όργανα, με γραπτές ερωτήσεις μου και τοποθετήσεις μου στην Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου.
Ζήτησα την απαγόρευση αυτών των εφαρμογών, οι οποίες συνιστούν κατάφωρη παραβίαση της ανθρώπινης αξιοπρέπειας και της ιδιωτικότητας. Δεν είναι δυνατόν να επιτρέπουμε σε εταιρείες να αποκομίζουν κέρδη από την ψηφιακή απογύμνωση γυναικών και παιδιών, μέσα από την κακόβουλη χρήση της της τεχνητής νοημοσύνης όπως παραδείγματος χάρη τα deepfakes και τα nudifiers.
Η απαγόρευση αυτών των εφαρμογών τελικά συμπεριλήφθηκε στην προσωρινή συμφωνία που επετεύχθη κατά τις διαπραγματεύσεις των τριλόγων και έχει τεθεί προς έγκριση από το Ευρωπαϊκό Κοινοβούλιο σε αυτή την Ολομέλεια.
Αυτός ήταν και ο βασικός λόγος για τον οποίο επέλεξα να τηρήσω στάση αποχής κατά την ψηφοφορία επί της θέσης του Κοινοβουλίου, αντί να την καταψηφίσω.
– Μόλις πριν λίγες εβδομάδες δηλώσατε στην Ολομέλεια ότι η Ευρώπη είναι ανέτοιμη απέναντι σε κυβερνοεπιθέσεις από προηγμένη ΑΙ. Τώρα η ίδια Ολομέλεια καλείται να εγκρίνει τη συμφωνία του Omnibus που χαλαρώνει κανόνες. Δεν είναι αντιφατικό;
Η παρέμβασή μου αφορούσε την ανάγκη η Ευρώπη να ενισχύσει επειγόντως τις δυνατότητές της απέναντι στις νέες κυβερνοαπειλές που δημιουργεί η προηγμένη τεχνητή νοημοσύνη. Επισήμανα στην Ολομέλεια ότι η Ευρωπαϊκή Ένωση υστερεί σε κρίσιμους τομείς, όπως η κυβερνοάμυνα, η ψηφιακή κυριαρχία, η αναβάθμιση παλαιωμένων συστημάτων και η επάρκεια πόρων οργανισμών όπως ο ENISA. Αυτές οι διαπιστώσεις δεν αποτελούν προσωπική άποψη, αλλά αντικατοπτρίζουν ευρύτερο προβληματισμό που εκφράστηκε και στη συζήτηση της Επιτροπής IMCO στις 6 Μαΐου, όπου ευρωβουλευτές από διαφορετικές πολιτικές ομάδες, εκπρόσωποι της Ευρωπαϊκής Επιτροπής και στελέχη του ENISA συζήτησαν ακριβώς τους κινδύνους που προκύπτουν από όλο και πιο ισχυρά συστήματα τεχνητής νοημοσύνης.
Το συμπέρασμα που προκύπτει από αυτές τις διαπιστώσεις δεν είναι ότι πρέπει να αποδυναμώσουμε τους κανόνες, – γιατί όπως είπατε αυτό είναι αντιφατικό-, αλλά ότι πρέπει να εφαρμόσουμε αποτελεσματικά το υφιστάμενο ευρωπαϊκό πλαίσιο και, όπου υπάρχουν κενά, να το ενισχύσουμε.
Η Ευρώπη είναι σήμερα εκτεθειμένη επειδή εξαρτάται σε μεγάλο βαθμό από μη ευρωπαϊκές τεχνολογίες και υποδομές. Η απάντηση σε αυτό το πρόβλημα δεν είναι η απορρύθμιση, αλλά η ενίσχυση της ευρωπαϊκής ψηφιακής κυριαρχίας, της κυβερνοασφάλειας και της δημοκρατικής εποπτείας των συστημάτων τεχνητής νοημοσύνης.
Δεν μπορώ να αποδεχθώ λοιπόν ότι η ευρωπαϊκή κυβερνοασφάλεια θα συνεχίσει να εξαρτάται από τεχνολογίες και εταιρείες τρίτων χωρών. Μάλιστα, την ανάγκη αυτή αναγνωρίζουν πλέον και οι ίδιες οι εταιρείες που αναπτύσσουν τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης, ζητώντας σαφείς κανόνες και μηχανισμούς εποπτείας για την αντιμετώπιση αυτών των κινδύνων.
Συγκεκριμένα, μία από τις κορυφαίες εταιρείες του κλάδου, ζήτησε πρόσφατα τη δημιουργία ενός συντονισμένου και επαληθεύσιμου μηχανισμού που θα επιτρέπει ακόμη και την προσωρινή επιβράδυνση ή παύση της ανάπτυξης προηγμένων συστημάτων Τεχνητής Νοημοσύνης, εάν οι κίνδυνοι ξεπεράσουν την ικανότητα της κοινωνίας και των θεσμών να τους διαχειριστούν. Η ίδια η εταιρεία προειδοποιεί ότι η τεχνολογία εξελίσσεται ταχύτερα από την ετοιμότητα των κρατών και των θεσμών να αντιμετωπίσουν τις συνέπειές της.
– Το AI Omnibus χαλαρώνει τους κανόνες επεξεργασίας ευαίσθητων δεδομένων για «ανίχνευση μεροληψίας» — επεκτείνοντας παρεκκλίσεις σε όλους τους παρόχους ΑΙ ανεξαρτήτως επιπέδου κινδύνου. Τι σημαίνει αυτό για τα δικαιώματα Ελλήνων και Ευρωπαίων πολιτών στην πράξη;
Το πρόβλημα με το AI Omnibus είναι ότι διευρύνει τις δυνατότητες επεξεργασίας των πιο ευαίσθητων προσωπικών δεδομένων, δεδομένων υγείας, εθνοτικής καταγωγής, θρησκευτικών πεποιθήσεων ή σεξουαλικού προσανατολισμού, με το επιχείρημα της ανίχνευσης και διόρθωσης αλγοριθμικών διακρίσεων.
Η καταπολέμηση της μεροληψίας είναι ασφαλώς θεμιτός στόχος. Όμως η νέα παρέκκλιση δεν περιορίζεται μόνο στα συστήματα υψηλού κινδύνου. Επεκτείνεται ευρύτερα, ακόμη και σε συστήματα που δεν υπόκεινται στις αυστηρότερες υποχρεώσεις εποπτείας του AI Act.
Αυτό δημιουργεί ένα σοβαρό παράδοξο: να επιτρέπεται η χρήση των πιο ευαίσθητων δεδομένων ακριβώς εκεί όπου υπάρχουν τα λιγότερα εργαλεία ελέγχου. Με άλλα λόγια, κάτι που ο GDPR αντιμετωπίζει ως εξαιρετική περίπτωση, κινδυνεύει να μετατραπεί σε συνήθη πρακτική.
Για τον Έλληνα και τον Ευρωπαίο πολίτη αυτό σημαίνει ότι δεδομένα που αφορούν την υγεία, την καταγωγή ή άλλες ιδιαίτερα προσωπικές πτυχές της ζωής του μπορούν να χρησιμοποιούνται σε συστήματα τεχνητής νοημοσύνης με ανεπαρκή εποπτεία και περιορισμένη λογοδοσία.
Και υπάρχει ακόμη ένα ζήτημα. Το κείμενο εξακολουθεί να βασίζεται σε μεγάλο βαθμό στην ψευδωνυμοποίηση ως δικλείδα ασφαλείας, τη στιγμή που οι ίδιες οι εξελίξεις στην τεχνητή νοημοσύνη καθιστούν ολοένα ευκολότερη την επαναταυτοποίηση τέτοιων δεδομένων. Με απλά λόγια η ταυτότητα ενός προσώπου μπορεί να ανακτηθεί, και τα προσωπικά του δεδομένα τελικά δεν προστατεύονται.
Η αντιμετώπιση των διακρίσεων δεν μπορεί να γίνεται σε βάρος της προστασίας των θεμελιωδών δικαιωμάτων του ανθρώπου. Αν θέλουμε πραγματικά δίκαιη και αξιόπιστη τεχνητή νοημοσύνη, χρειαζόμαστε αυστηρές εγγυήσεις, ελαχιστοποίηση των δεδομένων, πραγματική εποπτεία και πλήρη συμμόρφωση με τις αρχές του GDPR.
–Η ελληνική κυβέρνηση επενδύει σε data centers και παρουσιάζει την Ελλάδα ως «ψηφιακό κόμβο». Συνάδελφοί σας υποστηρίζουν αυτή την κατεύθυνση. Εσείς συμφωνείτε με τη στρατηγική ή βλέπετε κινδύνους;
Πρόκειται για ένα κρίσιμο ζήτημα, που αφορά όλη την Ευρώπη και για το οποίο θα υπάρξει παρουσίαση από την Κομισιόν και συζήτηση τις επόμενες ημέρες στην Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου. Εξετάζουμε το περιεχόμενο της πρότασης της Επιτροπής με τους συνεργάτες μου, ώστε να αξιολογήσουμε τις επιπτώσεις της.
Η κατεύθυνση για την μείωση των ψηφιακών εξαρτήσεων της Ευρωπαϊκής Ένωσης αλλά και της ίδιας της Ελλάδας είναι σωστή. Σήμερα εξαρτόμαστε σε πολύ μεγάλο βαθμό από λίγους μη-ευρωπαϊκούς τεχνολογικούς κολοσσούς, κυρίως των ΗΠΑ και της Κίνας, για κρίσιμες υποδομές και τεχνολογίες, όπως το υπολογιστικό νέφος, οι ημιαγωγοί, τα συστήματα τεχνητής νοημοσύνης, και τα λογισμικά. Κατά τη γνώμη μου, αυτό πρέπει να αποτελέσει άμεση προτεραιότητα για την Ευρωπαϊκή Ένωση, καθώς συνδέεται άμεσα με την ευρωπαϊκή ασφάλεια. Συνεπώς, δεν διαφωνώ με τον στόχο.
Ωστόσο, επιβάλλεται να τεθούν αυστηροί όροι, γιατί όντως υπάρχουν κίνδυνοι. Η στήριξη σε data centers, chips και Τεχνητή Νοημοσύνη δεν μπορεί να γίνει αφορμή να επιδοτούνται με δημόσιο χρήμα μεγάλοι ιδιωτικοί όμιλοι. Πρέπει να εξασφαλίζεται η διαφάνεια, η λογοδοσία, τα δικαιώματα εργαζομένων, ανοιχτά πρότυπα και δημόσια ιδιοκτησία στρατηγικών περιουσιακών στοιχείων. Επιπλέον, τα data centers καταναλώνουν τεράστιες ποσότητες ενέργειας, ηλεκτρισμό και νερό. Το κόστος της ανάπτυξης τέτοιων data centers δεν θα πρέπει σε καμία περίπτωση να μετακυλίεται στα νοικοκυριά και στη βιομηχανία μέσα από ακριβότερο ρεύμα και πίεση στα δίκτυα.
Είναι επίσης σημαντικό να ξεκαθαρίσουμε, όπως προανέφερα, ότι η «απλοποίηση» που ευαγγελίζεται η Επιτροπή και η ταχύτερη αδειοδότηση δεν πρέπει να σημαίνουν χαλάρωση των περιβαλλοντικών ελέγχων, των εργασιακών προτύπων και της τοπικής δημοκρατικής συμμετοχής.
Η τεχνολογική ευρωπαϊκή κυριαρχία οφείλει να υπηρετεί τους πολίτες, τις δημόσιες υπηρεσίες και τους εργαζόμενους, όχι μόνο τους μεγάλους ομίλους.
-Εφόσον το Omnibusπέρασε, ποιο είναι το επόμενο βήμα για να διασφαλιστεί ότι ο AIAct δεν θα αδειάσει από περιεχόμενο; Υπάρχει σχέδιο αντεπίθεσης ή η μάχη χάθηκε;
Το γεγονός ότι το Omnibus προχώρησε, δεν σημαίνει ότι εγκαταλείπεται ο αγώνας για μια ανθρωποκεντρική τεχνητή νοημοσύνη, με ισχυρές δικλίδες προστασίας των θεμελιωδών δικαιωμάτων και των δημοκρατικών ελευθεριών. Μαζί με τις άλλες προοδευτικές πολιτικές ομάδες, εργαζόμαστε για τη διασφάλιση των δικαιωμάτων αυτών, και παρεμβαίνουμε για την ανατροπή της σημερινής αρνητικής τάσης απορρύθμισης της ευρωπαϊκής νομοθεσίας, που υπονομεύει σημαντικές κατακτήσεις των τελευταίων ετών.
Θα συνεχίσουμε να ασκούμε πίεση προς την Επιτροπή με κάθε διαθέσιμο μέσο δημοκρατικού και κοινοβουλευτικού ελέγχου, ώστε να υπάρχει ουσιαστική λογοδοσία και να διασφαλιστεί ότι η εφαρμογή του Omnibus δεν θα υπονομεύσει τα θεμελιωδη δικαιώμάτα των πολιτών, τη διαφάνεια, και τη δημοκρατική εποπτεία των συστημάτων τεχνητής νοημοσύνης.