Πόσο επικίνδυνο είναι το λογισμικό της Palantir;

Από την ανάλυση δεδομένων στον ψηφιακό έλεγχο

Η Palantir Technologies, η αμερικανική εταιρεία που ιδρύθηκε με τη στήριξη της CIA μέσω του επενδυτικού της βραχίονα In-Q-Tel, θεωρείται σήμερα ένας από τους πιο ισχυρούς παίκτες στον τομέα της ανάλυσης μεγάλων δεδομένων για την ασφάλεια, τη δημόσια διοίκηση, τις στρατιωτικές επιχειρήσεις και τη βιομηχανία. Το κεντρικό της λογισμικό, με το κωδικό όνομα Gotham, είναι ένα εργαλείο που συγκεντρώνει, διασταυρώνει, αναλύει και οπτικοποιεί τεράστιες ποσότητες δεδομένων από διάφορες πηγές: δημόσιες βάσεις, προσωπικά αρχεία, κοινωνικά δίκτυα, τηλεπικοινωνιακές πλατφόρμες, ακόμα και πληροφορίες από κάμερες ή αισθητήρες.

Η εφαρμογή αυτών των τεχνολογιών δεν περιορίζεται στις Ηνωμένες Πολιτείες. Στην Ευρώπη, αρκετά κρατίδια της Γερμανίας, όπως η Βαυαρία, η Έσση και η Βόρεια Ρηνανία‑Βεστφαλία, έχουν ήδη ενσωματώσει το λογισμικό Gotham σε υπηρεσίες της αστυνομίας και της εσωτερικής ασφάλειας, ενώ η Βάδη‑Βυρτεμβέργη εξετάζει τη δική της συνεργασία. Πρόκειται για μια πλατφόρμα που υπόσχεται να ενισχύσει την καταπολέμηση του οργανωμένου εγκλήματος, της τρομοκρατίας και της κυβερνοαπειλής, αλλά που ταυτόχρονα προκαλεί έντονες ανησυχίες για παραβίαση θεμελιωδών δικαιωμάτων.

Η ανησυχία των υπερασπιστών των ανθρωπίνων δικαιωμάτων

Μια από τις βασικές αιτιάσεις που διατυπώνονται αφορά τη χρήση του Gotham για τη δημιουργία λεγόμενων «προβλεπτικών προφίλ» υπόπτων ή πιθανών δραστών. Το λογισμικό δεν χρειάζεται απόδειξη για να συμπεριλάβει ένα άτομο στη «ζώνη επιτήρησης»· βασίζεται σε μοτίβα συμπεριφοράς, κοινωνικές διασυνδέσεις και έμμεσες ενδείξεις. Ο κίνδυνος να στοχοποιηθούν αθώοι άνθρωποι, απλώς επειδή βρίσκονται σε λάθος δίκτυο επαφών ή επειδή παρουσιάζουν «ύποπτη στατιστική συνάφεια», δεν είναι αμελητέος.

Ο φόβος αυτός εντείνεται από την αδιαφάνεια των αλγορίθμων που χρησιμοποιεί η Palantir: κανείς έξω από την εταιρεία και τους κρατικούς φορείς δεν γνωρίζει πώς ακριβώς λειτουργούν οι μηχανισμοί λήψης αποφάσεων. Επιπλέον, ο συνδυασμός δημόσιων και ιδιωτικών δεδομένων χωρίς προηγούμενη συγκατάθεση του πολίτη δημιουργεί νομικά και ηθικά προβλήματα ως προς τη συμμόρφωση με τον Ευρωπαϊκό Κανονισμό Προστασίας Δεδομένων (GDPR).

Η εμπλοκή σε στρατιωτικές και κατασταλτικές επιχειρήσεις

Η Palantir δεν είναι μόνο ένας τεχνολογικός εταίρος της δημόσιας διοίκησης· είναι επίσης ένας βασικός προμηθευτής για τον στρατό των Ηνωμένων Πολιτειών. Το λογισμικό της έχει χρησιμοποιηθεί σε αποστολές των Ειδικών Δυνάμεων, στην επιτήρηση των συνόρων και σε στρατιωτικές επεμβάσεις σε Μέση Ανατολή και Αφρική. Στο πλαίσιο αυτό, η ανάλυση δεδομένων συνδυάζεται με γεωεντοπισμό, πληροφορίες από drones και δορυφόρους, με αποτέλεσμα μια πλήρως ψηφιοποιημένη μορφή πολέμου και επιτήρησης.

Ανάλογη χρήση του λογισμικού έχει αναφερθεί και από την αμερικανική Υπηρεσία Μετανάστευσης και Τελωνείων (ICE), η οποία το αξιοποίησε για τον εντοπισμό και την απέλαση μεταναστών χωρίς χαρτιά. Οργανώσεις όπως η Διεθνής Αμνηστία, η Human Rights Watch και η Electronic Frontier Foundation έχουν καταγγείλει ότι τέτοιες πρακτικές ενισχύουν τον κρατικό αυταρχισμό και διαβρώνουν τη λογοδοσία των δημοκρατικών θεσμών.

Το ελληνικό επεισόδιο της Palantir

Κατά τη διάρκεια της πανδημίας COVID‑19, η ελληνική κυβέρνηση συνεργάστηκε δοκιμαστικά με την Palantir, χρησιμοποιώντας την πλατφόρμα Foundry για την ανάλυση επιδημιολογικών δεδομένων και την υποστήριξη των αποφάσεων δημόσιας πολιτικής. Η συμφωνία δεν είχε ανακοινωθεί εκ των προτέρων, ούτε συνοδευόταν από αξιολόγηση αντικτύπου για τα προσωπικά δεδομένα των πολιτών. Χρειάστηκε να περάσουν μήνες μέχρι να αναρτηθεί η σχετική συμφωνία στη δημόσια πλατφόρμα Διαύγεια, και αυτό ύστερα από πίεση οργανώσεων της κοινωνίας των πολιτών.

Η υπόθεση ανέδειξε το πρόβλημα της απουσίας θεσμικών ελέγχων στην ενσωμάτωση τεχνολογιών ανάλυσης δεδομένων από ξένες ιδιωτικές εταιρείες στο ελληνικό κράτος. Παρά τις διαβεβαιώσεις ότι δεν έγινε επεξεργασία προσωπικών δεδομένων, το ερώτημα για το ποια δεδομένα συλλέχθηκαν, πώς χρησιμοποιήθηκαν και ποιος έχει πρόσβαση σε αυτά παραμένει αναπάντητο.

Όρια και λογοδοσία στην εποχή της αλγοριθμικής εξουσίας

Η τεχνολογία της Palantir βρίσκεται στο επίκεντρο μιας βαθιάς πολιτικής και κοινωνικής αντιπαράθεσης. Από τη μια πλευρά, προσφέρει τεράστιες δυνατότητες σε τομείς όπως η εθνική ασφάλεια, η πρόληψη της εγκληματικότητας, η επιδημιολογική επιτήρηση και η στρατηγική λήψη αποφάσεων. Από την άλλη, ενσαρκώνει το πρότυπο μιας ψηφιακής εξουσίας που υπερβαίνει τους παραδοσιακούς μηχανισμούς ελέγχου και μπορεί να λειτουργεί στο σκοτάδι, χωρίς δημοκρατική εποπτεία.

Ειδικοί σε θέματα ψηφιακών δικαιωμάτων επισημαίνουν ότι η Palantir δεν είναι απλώς μια εταιρεία· είναι ένας νέος θεσμός επιτήρησης, ο οποίος μπορεί να μεταβάλει ριζικά τη σχέση πολίτη‑κράτους. Το λογισμικό της δεν εξυπηρετεί απλώς τη δημόσια ασφάλεια — αναδιαμορφώνει τα κριτήρια του ύποπτου, του επικίνδυνου, του “εκτός κανονικότητας”.

Σε μια εποχή που η εμπιστοσύνη στη διακυβέρνηση δοκιμάζεται, η χρήση τέτοιων συστημάτων πρέπει να υπόκειται σε αυστηρούς ελέγχους, διαφάνεια, ανεξάρτητη εποπτεία και νομικές εγγυήσεις. Χωρίς αυτά, ακόμη και τα πιο προηγμένα εργαλεία μπορούν να μετατραπούν σε μηχανισμούς μαζικής επιτήρησης, με ανυπολόγιστες συνέπειες για τη δημοκρατία.