Οι ευρωπαϊκοί κανόνες για τη δημοκρατία, τα deepfakes και τα πνευματικά δικαιώματα
Η Τεχνητή Νοημοσύνη περνά από το πεδίο της τεχνολογικής καινοτομίας στο επίκεντρο μιας ευρύτερης πολιτικής και κοινωνικής σύγκρουσης στην Ευρώπη. Η έκθεση που εγκρίθηκε με 21 ψήφους υπέρ και τρεις κατά από την αρμόδια Επιτροπή Συνταγματικών Υποθέσεων του Ευρωπαϊκού Κοινοβουλίου, με εισηγητή τον ευρωβουλευτή της ΝΔ και του ΕΛΚ Μανώλη Κεφαλογιάννη, αναδεικνύει τις επιπτώσεις της τεχνολογίας στη δημοκρατία, στα θεμελιώδη δικαιώματα και στη λειτουργία των ευρωπαϊκών θεσμών. Την ίδια στιγμή, η συζήτηση που διοργάνωσε η ευρωομάδα της Left με πρωτοβουλία του Κώστα Αρβανίτη φέρνει στο προσκήνιο ένα εξίσου κρίσιμο ζήτημα: ποιος καρπώνεται την οικονομική αξία που παράγει η ψηφιακή εποχή και ποιος πληρώνει το τίμημα.
Η κοινή συνισταμένη των δύο παρεμβάσεων είναι σαφής. Η τεχνολογία εξελίσσεται ταχύτερα από τους κανόνες που καλούνται να την ελέγξουν, ενώ η ισχύς συγκεντρώνεται σε εταιρείες που διαθέτουν τα δεδομένα, τις πλατφόρμες και τα μέσα καθορισμού των όρων της αγοράς. Το ζητούμενο για την Ευρωπαϊκή Ένωση είναι αν μπορεί να προστατεύσει τη δημοκρατική λογοδοσία και την ανθρώπινη δημιουργία χωρίς να χάσει την τεχνολογική της ανταγωνιστικότητα.
Η δημοκρατία απέναντι στους αλγορίθμους
Η έκθεση Κεφαλογιάννη επιχειρεί να διαμορφώσει ένα πλαίσιο για τη συνταγματική διάσταση της Τεχνητής Νοημοσύνης, με έμφαση στην προστασία των δημοκρατικών διαδικασιών, στην ισορροπία μεταξύ των θεσμών και στην κατοχύρωση των δικαιωμάτων των πολιτών. Η θέση ότι η ΤΝ πρέπει να παραμείνει ανθρωποκεντρική και να λειτουργεί υπό ουσιαστική ανθρώπινη εποπτεία αποτελεί τον πυρήνα της προσέγγισης.
Η ανησυχία αφορά πρωτίστως την ποιότητα της δημοκρατικής διαδικασίας. Τα deepfakes, το συνθετικό περιεχόμενο, η παραπληροφόρηση και οι ξένες παρεμβάσεις μπορούν να επηρεάσουν την εκλογική συμπεριφορά, να υπονομεύσουν την εμπιστοσύνη στους θεσμούς και να δυσκολέψουν τη διάκριση ανάμεσα στην πραγματική πληροφορία και στην κατασκευασμένη εικόνα. Σε αυτό το περιβάλλον, η προστασία της ιδιωτικότητας και η διαφάνεια των αλγορίθμων αποκτούν άμεση πολιτική σημασία.
Η έκθεση ζητά συστηματική κοινοβουλευτική αξιολόγηση των κινδύνων και των ευκαιριών που δημιουργεί η Τεχνητή Νοημοσύνη. Προτείνει, παράλληλα, τη δημιουργία Παρατηρητηρίου Τεχνητής Νοημοσύνης στο Ευρωπαϊκό Κοινοβούλιο, το οποίο θα αξιοποιεί την υπάρχουσα τεχνογνωσία και θα υποστηρίζει τις επιτροπές στον έλεγχο των εφαρμογών της τεχνολογίας. Το όργανο δεν θα διαθέτει κανονιστικές εξουσίες, αλλά θα μπορεί να εντοπίζει κενά και επικαλύψεις στη νομοθεσία και να αξιολογεί τις επιπτώσεις της ΤΝ στη θεσμική λειτουργία της Ένωσης.
Η ανάγκη αυτή συνδέεται με ένα ευρύτερο πρόβλημα: οι κανόνες που σχεδιάστηκαν για μια διαφορετική ψηφιακή πραγματικότητα δυσκολεύονται να αντιμετωπίσουν τη μαζική παραγωγή και διάδοση περιεχομένου από συστήματα τεχνητής νοημοσύνης. Η σχετική συζήτηση για τη νομοθέτηση και την Τεχνητή Νοημοσύνη έχει ήδη αναδείξει το βασικό δίλημμα: τα εργαλεία μπορούν να βελτιώσουν τη νομοπαρασκευαστική διαδικασία, αλλά δεν μπορούν να αναλάβουν την πολιτική ευθύνη των αποφάσεων.
Νέα δικαιώματα για μια νέα ψηφιακή πραγματικότητα
Ιδιαίτερο ενδιαφέρον παρουσιάζει η πρόταση για τροποποίηση του Χάρτη Θεμελιωδών Δικαιωμάτων της ΕΕ, ώστε να συμπεριληφθούν δικαιώματα που σχετίζονται με την προστασία της προσωπικής ταυτότητας και της εικόνας, τον ψηφιακό αυτοπροσδιορισμό, την αλγοριθμική διαφάνεια και την προστασία από αλγοριθμικές διακρίσεις. Η έκθεση θέτει, επίσης, το ζήτημα της λογοδοσίας για ζημίες που προκαλούνται από τη χρήση συστημάτων ΤΝ.
Πρόκειται για μια σημαντική μετατόπιση στη συζήτηση. Η προστασία των δικαιωμάτων δεν αφορά πλέον μόνο το τι επιτρέπεται να δημοσιεύεται ή να συλλέγεται ως προσωπικό δεδομένο, αλλά και το πώς μπορεί να χρησιμοποιείται η ταυτότητα ενός ανθρώπου, πώς λαμβάνονται αποφάσεις που τον επηρεάζουν και ποιος αναλαμβάνει την ευθύνη όταν ένας αλγόριθμος προκαλεί βλάβη.
Η έκθεση υποστηρίζει ακόμη την προτεραιότητα των ευρωπαϊκών εργαλείων ΤΝ στους θεσμούς της Ένωσης και ζητά συντονισμένες επενδύσεις για την ενίσχυση της ευρωπαϊκής τεχνολογικής αυτονομίας. Η ψηφιακή κυριαρχία αποκτά έτσι και θεσμικό περιεχόμενο: η Ευρώπη καλείται να διασφαλίσει ότι δεν θα εξαρτάται πλήρως από τεχνολογίες και υποδομές τρίτων χωρών για κρίσιμες λειτουργίες της.
Παράλληλα, προτείνεται η ανάπτυξη διεθνούς συμφωνίας για τις τεχνολογίες που έχουν σοβαρές επιπτώσεις στην ασφάλεια και στην κοινωνία, με πρότυπο τη συμφωνία για τη μη διάδοση των πυρηνικών όπλων. Η πρόταση είναι φιλόδοξη, καθώς προϋποθέτει συνεννόηση μεταξύ κρατών με διαφορετικά οικονομικά, πολιτικά και στρατηγικά συμφέροντα. Αναδεικνύει, ωστόσο, την αδυναμία μιας αποκλειστικά εθνικής ή ευρωπαϊκής προσέγγισης να αντιμετωπίσει τεχνολογίες με παγκόσμια εμβέλεια.
Η τεχνητή νοημοσύνη δεν μπορεί να νομοθετεί αντί των πολιτών
Η έκθεση αναγνωρίζει ότι η ΤΝ μπορεί να συμβάλει στην αξιολόγηση της ευρωπαϊκής νομοθεσίας, στον εντοπισμό αντιφάσεων και στην απλούστευση πολύπλοκων κανόνων. Η χρήση της, όμως, πρέπει να είναι προσεκτική και ελεγχόμενη. Οι αυτοματοποιημένες διαδικασίες δεν μπορούν να υποκαταστήσουν την ανθρώπινη κρίση ούτε να μετατρέψουν πολιτικές επιλογές σε τεχνικές αποφάσεις χωρίς δημοκρατική νομιμοποίηση.
Αυτό είναι ίσως το σημαντικότερο θεσμικό όριο που επιχειρεί να θέσει η έκθεση. Η τεχνητή νοημοσύνη μπορεί να επεξεργάζεται δεδομένα, να εντοπίζει τάσεις και να προτείνει λύσεις. Δεν μπορεί, όμως, να λογοδοτήσει στους πολίτες όπως οι εκλεγμένοι εκπρόσωποί τους. Η πολιτική ευθύνη παραμένει ανθρώπινη και δεν μεταβιβάζεται σε έναν αλγόριθμο.
Το ερώτημα είναι αν οι αρχές αυτές θα μεταφραστούν σε συγκεκριμένους μηχανισμούς ελέγχου και εφαρμογής. Η έγκριση από την επιτροπή αποτελεί ένα βήμα της κοινοβουλευτικής διαδικασίας, όχι από μόνη της απόδειξη ότι οι προτάσεις θα γίνουν δεσμευτική νομοθεσία. Η απόσταση ανάμεσα στις διακηρύξεις και στην εφαρμογή θα κρίνει την πραγματική αποτελεσματικότητα της ευρωπαϊκής προσέγγισης.
Οι δημιουργοί απέναντι στις ψηφιακές πλατφόρμες
Η δεύτερη συζήτηση στο Ευρωπαϊκό Κοινοβούλιο, με πρωτοβουλία του αντιπροέδρου της ευρωομάδας της Left και ευρωβουλευτή του ΣΥΡΙΖΑ-ΠΣ Κώστα Αρβανίτη, μεταφέρει τη συζήτηση από τη θεσμική λειτουργία της ΤΝ στην οικονομία της ψηφιακής δημιουργίας. Το κεντρικό ερώτημα είναι ποιος έχει τον έλεγχο της μουσικής αγοράς, ποιος αμείβεται και ποιος κινδυνεύει να χάσει την επαγγελματική του υπόσταση καθώς η τεχνολογία επιταχύνει την παραγωγή περιεχομένου.
Ερμηνευτές, συνθέτες, εκπρόσωποι οργανισμών συλλογικής διαχείρισης και νομικοί από διάφορες ευρωπαϊκές χώρες περιέγραψαν ένα σύστημα στο οποίο οι πλατφόρμες συγκεντρώνουν τεράστια οικονομική και διαπραγματευτική ισχύ, ενώ οι δημιουργοί συχνά δεν διαθέτουν τα μέσα για να υπερασπιστούν τα δικαιώματά τους.
Ο Κώστας Αρβανίτης υποστήριξε ότι η διεύρυνση της πρόσβασης στη μουσική μέσω του streaming δεν συνοδεύτηκε από ένα αντίστοιχα δίκαιο σύστημα αμοιβών. Ζήτησε να εξεταστεί η αμοιβή των ερμηνευτών από τις υπηρεσίες streaming κατά παραγγελία, η δικαιότερη κατανομή των συγγενικών δικαιωμάτων μεταξύ παραγωγών και ερμηνευτών, καθώς και μια ευρωπαϊκή νομοθετική πρωτοβουλία για την αμοιβή τους από δημόσιες ζωντανές εκτελέσεις.
Παράλληλα, έχει θέσει στην Ευρωπαϊκή Επιτροπή το ερώτημα αν το Spotify, λόγω του αριθμού των χρηστών του, θα πρέπει να χαρακτηριστεί πολύ μεγάλη διαδικτυακή πλατφόρμα και να υπαχθεί στις αντίστοιχες υποχρεώσεις διαφάνειας και εποπτείας. Σύμφωνα με τα στοιχεία που παρατίθενται στην ανακοίνωση της εκδήλωσης, η απάντηση της Επιτροπής εκκρεμεί.
Τα οικονομικά της μουσικής και η συγκέντρωση ισχύος
Η δημοσιογράφος και στιχουργός Φωτεινή Λαμπρίδη παρουσίασε ένα ενδεικτικό παράδειγμα για την κατανομή των εσόδων: από κάθε 100 ευρώ που εισπράττει μια πλατφόρμα από συνδρομές και διαφημίσεις, μετά τον ΦΠΑ, περίπου 30 ευρώ παραμένουν στην ίδια, 55 κατευθύνονται σε δικαιώματα ηχογράφησης, δισκογραφικές εταιρείες και άλλους παράγοντες, ενώ τα υπόλοιπα 15 διανέμονται στους δικαιούχους των έργων, μεταξύ των οποίων στιχουργοί και συνθέτες.
Οι αριθμοί αυτοί αποτυπώνουν, όπως επισημάνθηκε στη συζήτηση, τη δυσκολία των δημιουργών να εξασφαλίσουν ένα βιώσιμο εισόδημα από τη διαδικτυακή διάθεση της μουσικής τους. Πολλοί χρηματοδοτούν πλέον οι ίδιοι τις ηχογραφήσεις τους, ενώ η προβολή και η εμπορική επιτυχία εξαρτώνται σε μεγάλο βαθμό από τους μηχανισμούς επιλογής και προώθησης των πλατφορμών.
Σύμφωνα με τα στοιχεία που παρουσιάστηκαν, ο Ισπανός μουσικός Nacho García Vega ανέφερε ότι μόλις το 0,45% των καλλιτεχνών μπορεί να ζήσει από το streaming, ενώ το 90% κερδίζει περίπου 1.000 δολάρια. Σε έρευνα της IAO με σχεδόν 10.000 καλλιτέχνες, το 85% δήλωσε ότι τα έσοδα δεν κατανέμονται δίκαια.
Τα στοιχεία αυτά χρειάζονται προσεκτική ανάγνωση ως προς τη μεθοδολογία και το πεδίο εφαρμογής τους. Αποτυπώνουν, ωστόσο, μια ευρύτερη ανησυχία: η αύξηση της κατανάλωσης μουσικής μέσω ψηφιακών υπηρεσιών δεν συνεπάγεται αυτομάτως αντίστοιχη βελτίωση των απολαβών για τους ανθρώπους που τη δημιουργούν.
Ο Βέλγος διοργανωτής φεστιβάλ Hans Francken περιέγραψε, επίσης, τις δυσκολίες εισόδου νέων καλλιτεχνών στην αγορά. Όπως ανέφερε, η παραγωγή ενός τραγουδιού μπορεί να απαιτεί σχεδόν ένα εκατομμύριο streams για να καλυφθεί το κόστος της. Η παρατήρησή του για την απουσία βελγικών τραγουδιών από τις 50 κορυφαίες θέσεις της εγχώριας αγοράς streaming έθεσε και το ζήτημα της πολιτιστικής αυτονομίας: οι μηχανισμοί που καθορίζουν τι ακούει το κοινό δεν είναι απαραίτητα υπό τον έλεγχο των τοπικών δημιουργών.
ΤΝ και πνευματικά δικαιώματα: ποιος δίνει την άδεια;
Η είσοδος της Τεχνητής Νοημοσύνης στη μουσική παραγωγή οξύνει τις ήδη υπάρχουσες ανισορροπίες. Η Νατάσα Μποφίλιου, ερμηνεύτρια και γενική γραμματέας του ΔΣ του οργανισμού ΕΡΑΤΩ, επισήμανε ότι οι καλλιτέχνες βρέθηκαν αντιμέτωποι με μια τεχνολογική αλλαγή για την οποία δεν είχαν ουσιαστική συμμετοχή στη διαμόρφωση των κανόνων.
Το πρόβλημα αφορά τη χρήση έργων, φωνών και μουσικών χαρακτηριστικών για την εκπαίδευση συστημάτων ΤΝ, αλλά και τη δυνατότητα παραγωγής νέου περιεχομένου που μιμείται το ύφος ή την ερμηνεία υπαρκτών καλλιτεχνών. Χωρίς σαφείς κανόνες συναίνεσης, διαφάνειας και αμοιβής, οι δημιουργοί κινδυνεύουν να βλέπουν τη δουλειά τους να αξιοποιείται εμπορικά χωρίς να έχουν ουσιαστικό έλεγχο.
Ο συνθέτης Παναγιώτης Καλαντζόπουλος άσκησε κριτική στην ταχύτητα με την οποία αναπτύσσονται τα συστήματα ΤΝ, χωρίς αντίστοιχες εγγυήσεις για τα δικαιώματα των δημιουργών. Στη συζήτηση τέθηκε και το ζήτημα της παραγωγής μεγάλου όγκου μουσικού περιεχομένου με τη βοήθεια της τεχνολογίας, που μπορεί να εντείνει τον ανταγωνισμό για την προσοχή του κοινού και να συμπιέσει ακόμη περισσότερο τις αμοιβές.
Ο Ιωάννης Μαραγκουδάκης, επικεφαλής Νομικών Θεμάτων του οργανισμού ΑΠΟΛΛΩΝ, πρότεινε ένα πλαίσιο βασισμένο σε τρεις αρχές: αμοιβή, συναίνεση και διαφάνεια. Μεταξύ άλλων, υποστήριξε την προηγούμενη άδεια για τη χρήση έργων στην εκπαίδευση συστημάτων ΤΝ, τη συλλογική διαχείριση των αμοιβών και τη μεταφορά του βάρους απόδειξης στις εταιρείες που χρησιμοποιούν το περιεχόμενο.
Η πρόταση αγγίζει ένα κρίσιμο νομικό ζήτημα: αν οι δημιουργοί πρέπει να αναζητούν εκ των υστέρων πού και πώς χρησιμοποιήθηκε το έργο τους ή αν οι εταιρείες οφείλουν εξαρχής να τεκμηριώνουν τη νόμιμη χρήση του. Στη δεύτερη περίπτωση, η προστασία των δικαιωμάτων δεν θα εξαρτάται αποκλειστικά από την οικονομική δυνατότητα κάθε καλλιτέχνη να προσφύγει στη Δικαιοσύνη.
Το κοινό ευρωπαϊκό μέτωπο που ζητούν οι καλλιτέχνες
Ο τραγουδοποιός και συνθέτης Μανώλης Φάμελλος, πρόεδρος του ΔΣ του οργανισμού ΕΡΑΤΩ, υπογράμμισε ότι η δυνατότητα άμυνας απέναντι στις μεγάλες πλατφόρμες δεν μπορεί να αποτελεί προνόμιο των καλλιτεχνών με τη μεγαλύτερη οικονομική επιφάνεια και διεθνή αναγνωρισιμότητα.
Αυτή είναι και η βασική πολιτική διάσταση της συζήτησης. Η ατομική διαπραγμάτευση ενός μουσικού με μια πολυεθνική πλατφόρμα γίνεται υπό εξαιρετικά άνισους όρους. Οι συλλογικές διαπραγματεύσεις, η ενίσχυση των οργανισμών διαχείρισης δικαιωμάτων και οι κοινές ευρωπαϊκές ρυθμίσεις μπορούν να δημιουργήσουν ισχυρότερες εγγυήσεις.
Το ίδιο πρόβλημα, σε διαφορετική κλίμακα, αντιμετωπίζουν οι ευρωπαϊκοί θεσμοί όταν καλούνται να ελέγξουν τεχνολογίες που αναπτύσσονται κυρίως από εταιρείες εκτός Ευρώπης. Η ενίσχυση της ψηφιακής κυριαρχίας και η προστασία των δικαιωμάτων των πολιτών και των δημιουργών συνδέονται με το ερώτημα ποιος καθορίζει τους κανόνες της ψηφιακής οικονομίας.
Η έκθεση Κεφαλογιάννη και η παρέμβαση Αρβανίτη κινούνται σε διαφορετικά πολιτικά και θεσμικά πεδία, αλλά συναντώνται σε ένα σημείο: η καινοτομία χρειάζεται κανόνες που να εφαρμόζονται στην πράξη. Για τη δημοκρατία, αυτό σημαίνει διαφάνεια, λογοδοσία και ανθρώπινη εποπτεία. Για τη μουσική, σημαίνει συναίνεση, δίκαιη αμοιβή και πραγματική δυνατότητα των δημιουργών να υπερασπίζονται το έργο τους.
Η ευρωπαϊκή πρόκληση δεν είναι απλώς να ρυθμίσει μια νέα τεχνολογία. Είναι να αποτρέψει τη δημιουργία ενός συστήματος στο οποίο οι πολίτες χάνουν τον έλεγχο των πληροφοριών που διαμορφώνουν τη δημόσια ζωή και οι δημιουργοί την εξουσία πάνω στην ίδια τους τη δουλειά. Η επιτυχία θα κριθεί από το αν οι αρχές αυτές θα αποκτήσουν δεσμευτικό περιεχόμενο, ελεγκτικούς μηχανισμούς και συνέπειες για όσους τις παραβιάζουν.
