Δρ. Αντωνία Νικολοπούλου στο libre: Η είσοδος της ΤΝ στη νομική πρακτική συνιστά αμφίσημο σημείο της εποχής μας

Η Τεχνητή Νοημοσύνη δεν είναι πια επιστημονική φαντασία. Είναι μια πραγματικότητα που εισβάλλει δυναμικά σε κάθε πτυχή της ζωής μας, θέτοντας τα πιο κρίσιμα ερωτήματα για το μέλλον της Δημοκρατίας, των Ανθρωπίνων Δικαιωμάτων και του Κράτους Δικαίου.

Ποια είναι τα όρια της ΤΝ όταν αναμειγνύεται με την απονομή της Δικαιοσύνης; Μπορούν οι αλγόριθμοι να υποκαταστήσουν την ανθρώπινη κρίση ενός δικαστή ή τις ερμηνευτικές ικανότητες ενός δικηγόρου;

Σε όλα αυτά τα ερωτήματα απαντά η Δρ. Αντωνία Νικολοπούλου, δικηγόρος με εξειδίκευση στο Αστικό Δίκαιο, η οποία έχει εκπονήσει το διδακτορικό της σε θέματα ΤΝ και δραστηριοποιείται επαγγελματικά σε ζητήματα συμμόρφωσης με τους κανονισμούς της ΤΝ.

Συνέντευξη

Χρόνης Διαμαντόπουλος

–Κυρία Νικολοπούλου, συμμετείχατε με πολλαπλές συμβολές σας στον συλλογικό επιστημονικό τόμο με θέμα «Τεχνητή Νοημοσύνη: Ανθρώπινα Δικαιώματα, Δημοκρατία και Κράτος Δικαίου», που εξέδωσε η Νομική Βιβλιοθήκη και επιμελήθηκε ο Καθηγητής Συνταγματικού Δικαίου της Νομικής Σχολής του Ευρωπαϊκού Πανεπιστημίου Κύπρου, Δρ. Ευριπίδης Στ. Στυλιανίδης. Σε τι συμβάλλει ο τόμος αυτός και ποιο αποτύπωμα αφήνει στην επιστημονική κοινότητα; Πώς αποφασίσατε να συμμετάσχετε εσείς σε αυτόν τον τόμο;

Ο συλλογικός αυτός τόμος αποτελεί την πρώτη προσπάθεια στην Ελλάδα και στην Ευρωπαϊκή Ένωση να διερευνηθούν οι διαστάσεις της τεχνητής νοημοσύνης (εφεξής: ΤΝ) στο πλαίσιο των Aνθρωπίνων Δικαιωμάτων, της Δημοκρατίας και του Κράτους Δικαίου. Συγκεντρώνει επιστημονικές συμβολές από ειδικούς διαφορετικών κλάδων, προσφέροντας ένα ευρύ και πολυεπίπεδο πλαίσιο ανάλυσης των προκλήσεων και των ευκαιριών που φέρει η ΤΝ. Το έργο αφήνει σημαντικό αποτύπωμα στην επιστημονική κοινότητα, καθώς σ’ αυτό όχι μόνο καταγράφεται η τρέχουσα κατάσταση και οι εξελίξεις στον τομέα της ΤΝ, αλλά πραγματοποιείται κατ’ άρθρον ερμηνεία των άρθρων 1-25 του Ελληνικού Συντάγματος υπό το πρίσμα της ΤΝ. Εν συνεχεία, εξετάζεται η επίδραση της ΤΝ στην εκτελεστική, δικαστική και νομοθετική εξουσία, ενώ παράλληλα τίθενται βασικά φιλοσοφικά, ηθικά και γεωπολιτικά ζητήματα που ανακύπτουν από την ενσωμάτωση της τεχνολογίας αυτής.

Tίθενται ζητήματα αξιοπιστίας και  ακρίβειας των συστημάτων ΤΝ. Η ολική ή μερική έλλειψη «κατάλληλων» δεδομένων μπορεί να οδηγήσει σε «υπερ-προσαρμογή»

Η ενασχόλησή μου με τα θέματα της ΤΝ, τόσο στην Ελλάδα, όπου δραστηριοποιούμαι επαγγελματικά και ασχολούμαι με ζητήματα συμμόρφωσης σχετικά με τους κανονισμούς της ΤΝ, καθώς και με το συμβατικό δίκαιο αλλά και την ευθύνη που απορρέει από την παραγωγή και χρήση της ΤΝ, όσο και στο εξωτερικό, συγκεκριμένα στο Μόναχο της Γερμανίας, όπου εκπόνησα το διδακτορικό μου σε θέματα ΤΝ και αστικού δικαίου, μου επέτρεψε να αποκτήσω το απαραίτητο επιστημονικό υπόβαθρο, ώστε να καταστεί εφικτή η συμμετοχή μου σε ένα τόσο πρωτοποριακό επιστημονικό εγχείρημα, ήτοι η συμβολή μου, μέσω των επιστημονικών μου παρεμβάσεων, στην υλοποίηση του συλλογικού τόμου «Τεχνητή Νοημοσύνη: Ανθρώπινα Δικαιώματα, Δημοκρατία και Κράτος Δικαίου». Την ευκαιρία αυτή μου έδωσε ο Καθ. Ευριπίδης Στυλιανίδης, τον οποίο και ευχαριστώ θερμά.

–Όπως είναι λογικό η χρήση της ΤΝ προκαλεί δεοντολογικές ανησυχίες αλλά και νομικά ζητήματα. Ποιες ανησυχίες έχετε σχετικά με τη χρήση της ΤΝ στη νομική πρακτική;

Η είσοδος της ΤΝ στη νομική πρακτική συνιστά  αμφίσημο σημείο της εποχής μας: από τη μία υπόσχεται ταχύτητα, αποδοτικότητα και πρόσβαση σε τεράστιες βάσεις δεδομένων· από την άλλη εγείρει σοβαρά δεοντολογικά και νομικά ζητήματα που δεν μπορούν να αγνοηθούν.

Καταρχάς, τίθενται ζητήματα αξιοπιστίας και  ακρίβειας των συστημάτων ΤΝ. Η μηχανική μάθηση (κατηγορία-τρόπος λειτουργίας της ΤΝ)  βασίζεται στη διαθεσιμότητα μεγάλου όγκου κατάλληλων δεδομένων εκπαίδευσης. Η ολική ή μερική έλλειψη «κατάλληλων» δεδομένων μπορεί να οδηγήσει σε «υπερ-προσαρμογή», δηλαδή, σε μοντέλα που είναι προσανατολιζόμενα, αποκλειστικά, σε συγκεκριμένα δεδομένα εκπαίδευσης (ενν. τα διαθέσιμα αλλά μη «κατάλληλα» ) και τα οποία διαθέτουν περιορισμένη ικανότητα να επεξεργάζονται αποτελεσματικά νέα δεδομένα. Συνέπεια τούτου στην πράξη, είναι για παράδειγμα ότι ένα νομικό κείμενο, μια συμβουλή, μια δικαστική απόφαση ή ακόμη και μια πρόβλεψη για την έκβαση δίκης μπορεί να ενέχει λάθη ή παραλείψεις. 

H ΤΝ μπορεί να αποτελέσει ένα ισχυρό εργαλείο για τον νομικό κόσμο, αρκεί να χρησιμοποιείται συμπληρωματικά και όχι αντικαταστατικά προς τον Άνθρωπο

Σε συνέχεια τούτου, ανησυχίες ανακύπτουν και ως προς την υπέρμετρη προς την ΤΝ επιδεικνυόμενη εμπιστοσύνη και την αποδοχή των αποτελεσμάτων της χωρίς επαρκή έλεγχο, αποκλείοντας την διερεύνηση εναλλακτικών λύσεων και ενδεχομένως παραβιάζοντας βασικά θεμελιώδη δικαιώματα.

Ζητήματα μπορούν να ανακύψουν και ως προς τεχνικά ζητήματα χρήσης της ΤΝ στη νομική πρακτική. Ενδεικτικά αναφέρονται οι εξής περιπτώσεις που εγείρουν προβληματισμούς:

1.- τα δεδομένα εκπαίδευσης μπορούν να περιλαμβάνουν νομικά δεσμευτικές αποφάσεις σε ηλεκτρονική μορφή. Τέτοιου είδους δεδομένα δεν είναι, ωστόσο, πάντα πλήρως προσβάσιμα ή άλλοτε προστατεύονται από δικαιώματα πνευματικής ιδιοκτησίας. 

2.- η ύπαρξη περιθωρίων διακριτικής ευχέρειας και οι συνεπακόλουθες διαφοροποιήσεις στις δικαστικές αποφάσεις μπορούν να οδηγήσουν σε επιπλοκές και σφάλματα στη μηχανική μάθηση, ενώ, σε περίπτωση τροποποίησης του ουσιαστικού δικαίου, απαιτείται η επανεκπαίδευση των συστημάτων μηχανικής μάθησης, δια καταλλήλως προσαρμοσμένων δεδομένων εκπαίδευσης. 

 3.- η χρήση ασαφών νομικών όρων και αορίστων νομικών εννοιών περιπλέκει, έτι περαιτέρω, την εφαρμογή της ΤΝ. Αυτοί οι όροι ερμηνεύονται, κατά περίπτωση, βάσει κοινωνικών και πολιτισμικών παραμέτρων, οι οποίες με τα υφιστάμενα τεχνολογικά δεδομένα είναι δύσκολο να ενσωματωθούν προσηκόντως στα μοντέλα λήψης αποφάσεων.

 4.- η φυσική γλώσσα, ως μέσο «άρθρωσης» των νομικών κειμένων και των δικαστικών αποφάσεων, αποτελεί μία ακόμη τροχοπέδη. Η αναγνώριση των διαφόρων στιλ γραφής, η χρήση διττών εννοιών, σαρκασμού ή υπαινιγμών, δυσχεραίνει την επεξεργασία από τα συστήματα ΤΝ. 

 5.- τέλος, ένα σημαντικό ζήτημα αφορά τη μετατόπιση της εξουσίας από τους νομικούς ή/και τη δικαστική αρχή στους τεχνικούς που αναπτύσσουν ή/και εφαρμόζουν τα αλγοριθμικά συστήματα. 

Έπειτα, ανησυχίες για τη  χρήση συστημάτων ΤΝ στη νομική πρακτική συνδέονται και με την  προστασία προσωπικών δεδομένων. Η ΤΝ χρειάζεται τεράστιο όγκο πληροφοριών – δεδομένων, για να λειτουργήσει αποτελεσματικά. Αν αυτά τα δεδομένα περιλαμβάνουν ευαίσθητα νομικά στοιχεία/ ευαίσθητα προσωπικά δεδομένα, για παράδειγμα ιατρικούς φακέλους, ποινικά μητρώα, οικονομικά στοιχεία, τίθεται εύλογα το εξής ερώτημα: ποιος διασφαλίζει ότι αυτά τα δεδομένα δε θα διαρρεύσουν ή δε θα χρησιμοποιηθούν καταχρηστικά;

Κρίσιμο ζήτημα αποτελεί και η μετακύλιση ευθύνης. Αν ένα σύστημα ΤΝ δώσει μια εσφαλμένη γνωμοδότηση/οδηγήσει σε ένα εσφαλμένο αποτέλεσμα, ποιος φέρει την ευθύνη; Ο δικηγόρος που χρησιμοποίησε το σύστημα ΤΝ; Ο προγραμματιστής που το σχεδίασε; Ή μήπως η ευθύνη χάνεται μέσα σε μια «γκρίζα ζώνη» τεχνολογικής αοριστίας;

Επιπλέον, δεν μπορεί να παραβλεφθεί το ζήτημα της μεροληψίας των αλγορίθμων. Η ΤΝ «εκπαιδεύεται» σε δεδομένα που φέρουν τα αποτυπώματα των κοινωνικών προκαταλήψεων. Έτσι, υπάρχει κίνδυνος να αναπαραχθούν ή και ενισχυθούν οι υπάρχουσες ανισότητες, αυτή τη φορά μέσα από ένα εργαλείο που εμφανίζεται ως ουδέτερο και «αντικειμενικό».

H υπάρχουσα ΤΝ μπορεί να αποδειχθεί εξαιρετικά χρήσιμη στην έρευνα της νομολογίας

Τέλος, η ίδια η φύση της νομικής επιστήμης και συνακόλουθα της νομικής πράξης αναδεικνύει μια φιλοσοφική ανησυχία: το δίκαιο δεν είναι απλή εφαρμογή κανόνων, αλλά εμπεριέχει ερμηνεία, κρίση, και το λεγόμενο «ανθρώπινο μέτρο». Η ΤΝ, όσο εξελιγμένη κι αν είναι, αδυνατεί να «κατανοήσει» την κοινωνική διάσταση της δικαιοσύνης, τον ηθικό παλμό μιας υπόθεσης ή την ανάγκη επιείκειας.

Συνεπώς, η ΤΝ μπορεί να αποτελέσει ένα ισχυρό εργαλείο για τον νομικό κόσμο, αρκεί να χρησιμοποιείται συμπληρωματικά και όχι αντικαταστατικά προς τον Άνθρωπο. Η δεοντολογική επιφυλακή, η νομική θωράκιση και η συνεχής κριτική αποτίμηση είναι οι απαραίτητες ασφαλιστικές δικλείδες, ώστε το μέλλον της νομικής επιστήμης και της δικαιοσύνης να μην παραδοθεί άκριτα σε μηχανές, αλλά να παραμείνει πιστό στον Άνθρωπο.

–Σε ποιες νομικές εργασίες θεωρείτε ότι η ΤΝ μπορεί να βοηθήσει περισσότερο; Στην έρευνα  της νομολογίας, στη σύνταξη εγγράφων, στην ανάλυση συμβολαίων;

Η υπάρχουσα ΤΝ μπορεί να βοηθήσει μάλλον περισσότερο στον τομέα της έρευνας, λιγότερο στη σύνταξη νομικών κειμένων – είτε πρόκειται για δικόγραφα είτε για συμβόλαια είτε για ακαδημαϊκά κείμενα – και ακόμα λιγότερο στην σύνταξη δικαστικών αποφάσεων.

Για παράδειγμα, η υπάρχουσα ΤΝ μπορεί να αποδειχθεί εξαιρετικά χρήσιμη στην έρευνα της νομολογίας. Στο παραδοσιακό μοντέλο, ένας δικηγόρος μπορεί να αφιερώσει ημέρες, για να αναζητήσει δικαστικές αποφάσεις που συνδέονται με την υπόθεσή του. Ένα καλά εκπαιδευμένο σύστημα ΤΝ είναι σε θέση να φιλτράρει χιλιάδες αποφάσεις σε ελάχιστο χρόνο, να εντοπίζει μοτίβα και να προτείνει τις πιο σχετικές αναφορές. Έτσι, ο νομικός επαγγελματίας αποκτά περισσότερη στρατηγική ευχέρεια, αφιερώνοντας το χρόνο του στην ουσιαστική ανάλυση και όχι στη χρονοβόρα αναζήτηση.

Η προετοιμασία, όμως, αγωγών, συμβολαίων ή ακαδημαϊκών δοκιμίων δεν είναι μια απλή μηχανική διαδικασία· πρόκειται για πράξεις που απαιτούν πολυεπίπεδη κρίση, λεπτές ερμηνείες και διεπιστημονική γνώση. Για παράδειγμα, μια αγωγή μπορεί να έχει σαφή νομικό σχεδιασμό, αλλά συχνά εμπλέκει οικονομικές, κοινωνιολογικές ή ακόμη και ψυχολογικές παραμέτρους. Ένα συμβόλαιο, πάλι, δεν είναι μόνο η τυπική αποτύπωση συμφωνιών· είναι η ισορροπία συμφερόντων, οι στρατηγικές παραχωρήσεις, οι λεπτές αποχρώσεις στις διατυπώσεις που μπορεί να καθορίσουν το μέλλον μιας συνεργασίας. Αυτά είναι στοιχεία που η ΤΝ, όσο εξελιγμένη κι αν είναι, δεν μπορεί να «αισθανθεί» ούτε να αξιολογήσει με τον τρόπο που το κάνει ένας έμπειρος νομικός.

Η ανθρώπινη κρίση παραμένει καθοριστική, καθώς η ΤΝ μπορεί να παράγει λάθη ή ανακρίβειες ιδιαίτερα σε πολύπλοκα ή εξειδικευμένα θέματα

Ακόμα περισσότερο, η έκδοση μιας δικαστικής απόφασης συνιστά κορυφαία στιγμή άσκησης εξουσίας και απονομής δικαιοσύνης. Δεν πρόκειται μόνο για την εφαρμογή κανόνων, αλλά για την ερμηνεία τους σε συγκεκριμένα κοινωνικά συμφραζόμενα, με σεβασμό στις αρχές της ισότητας, της αναλογικότητας και της επιείκειας. Ο δικαστής, πέρα από τον νόμο, καλείται να σταθμίσει ανθρώπινες ιστορίες, συγκρούσεις αξιών, και τις μακροπρόθεσμες συνέπειες μιας απόφασης. Είναι, δηλαδή, μια διαδικασία βαθύτατα ανθρωποκεντρική και ηθική, όπου η «ψυχρή λογική» της ΤΝ δεν αρκεί.

–Υπάρχουν συγκεκριμένα παραδείγματα, που η ΤΝ σας έχει εξοικονομήσει χρόνο ή έχει βελτιώσει την ποιότητα της δουλειάς σας;

Προς το παρόν, η χρήση της ΤΝ έχει επικουρήσει την εργασία μου πολύ περιορισμένα, κυρίως σε μεταφράσεις μικρών κειμένων σε άλλες γλώσσες. Σημειώνεται δε ότι τη χρήση αυτή της ΤΝ την έκανα με δεδομένο ότι κατέχω καλά αυτές τις γλώσσες, οπότε είμαι σε θέση να εντοπίζω και τυχόν λάθη της ΤΝ.

–Εσείς, κυρία Νικολοπούλου, πώς αντιμετωπίζετε την εμπιστευτικότητα των στοιχείων των πελατών, όταν χρησιμοποιείτε εργαλεία της ΤΝ;

Η εμπιστευτικότητα των στοιχείων των πελατών αποτελεί για μένα απόλυτη προτεραιότητα. Όταν χρησιμοποιώ εργαλεία ΤΝ, φροντίζω να περιορίζω την επεξεργασία των δεδομένων σε εκείνα τα σημεία, που η τεχνολογία μπορεί να βοηθήσει, χωρίς να αποκαλύπτονται ευαίσθητα προσωπικά στοιχεία των εντολέων μου.

Επιπλέον, επιλέγω πλατφόρμες που προσφέρουν υψηλά πρότυπα ασφάλειας και συμμορφώνονται με τους ισχύοντες κανόνες προστασίας προσωπικών δεδομένων, ώστε η υποβοήθηση από την ΤΝ να μην θέτει σε κίνδυνο την εμπιστοσύνη των πελατών.

Η χρήση της ΤΝ από όλους τους χρήστες – επαγγελματίες και μη – προϋποθέτει τη συμμόρφωσή τους με τους ισχύοντες νόμους, κανονισμούς και πρότυπα.

–Πώς διασφαλίζεται η ακρίβεια των πληροφοριών που παράγει η ΤΝ;

Η ακρίβεια των πληροφοριών που παράγει η ΤΝ εξαρτάται τόσο από την ποιότητα των δεδομένων εκπαίδευσης όσο και από τον τρόπο χρήσης της. Οι νομικοί αλλά όλοι οι χρήστες της ΤΝ εν γενεί πρέπει να αντιμετωπίζουν τα αποτελέσματα της ΤΝ ως εργαλείο υποβοήθησης, ελέγχοντας προσεκτικά κάθε πληροφορία και συγκρίνοντάς την με αξιόπιστες πηγές. Η ανθρώπινη κρίση παραμένει καθοριστική, καθώς η ΤΝ μπορεί να παράγει λάθη ή ανακρίβειες, ιδιαίτερα σε πολύπλοκα ή εξειδικευμένα θέματα.

–Πώς πιστεύετε ότι θα αλλάξει ο ρόλος του δικηγόρου και του δικαστή τα επόμενα χρόνια;

Τα επόμενα χρόνια, ο ρόλος του δικηγόρου και του δικαστή αναμένεται να υποστεί μεταβολές, με τέτοιο τρόπο, ώστε η ΤΝ να αναδειχθεί σε ουσιώδες υποστηρικτικό εργαλείο κατά την άσκηση του δικαστικού και δικηγορικού λειτουργήματος. Οι δικηγόροι θα μπορούν να αφιερώνουν περισσότερο χρόνο σε στρατηγικές αποφάσεις, σύνθετες αναλύσεις και ανθρώπινες διαπραγματεύσεις, αντί για χρονοβόρες διαδικαστικές εργασίες ή έρευνα νομολογίας. Οι δικαστές, από την πλευρά τους, θα διαθέτουν εργαλεία που θα τους βοηθούν στην επεξεργασία δεδομένων και στην ταχύτερη αξιολόγηση πληροφοριών, χωρίς όμως αυτά να υποκαθιστούν τη βαθιά κρίση και την ηθική ευθύνη που απαιτεί η απονομή δικαιοσύνης. 

Αν ένα σύστημα ΤΝ δώσει μια εσφαλμένη γνωμοδότηση/οδηγήσει σε ένα εσφαλμένο αποτέλεσμα, ποιος φέρει την ευθύνη;

Συνολικά, η ΤΝ θα αλλάξει τον τρόπο εργασίας, όχι όμως τη ουσία του ρόλου των δικηγόρων και των δικαστών, που παραμένει ανθρωποκεντρικός. 

Ζητούμενο είναι οι δικηγόροι και οι δικαστές να ελευθερώσουν περισσότερο χρόνο για να αξιολογούν τα εκάστοτε ζητήματα, χρόνο που μέχρι τώρα τους στερούν η έρευνα και άλλα γραφειοκρατικά καθήκοντα. Προϋπόθεση για αυτό είναι να μάθουν οι ίδιοι να χειρίζονται την ΤΝ και όχι να αφήσουν την ΤΝ να καθορίζει τον τρόπο εργασίας τους.

–Πόσο μακριά είμαστε από το να δούμε μια «αυτοματοποιημένη» διαδικασία για δικαστικές αποφάσεις; Δηλαδή χωρίς δικηγόρους και χωρίς δικαστές…

Αυτή τη στιγμή, και εξ όσων γνωρίζω, στον χώρο της νομικής και της δικαιοσύνης χρησιμοποιούνται συστήματα χαμηλού βαθμού αυτονομίας (δηλαδή με χαμηλό βαθμό ΤΝ), αλλά όχι αυξημένης ή πλήρους αυτονομίας. 

Πιστεύω ότι η ιδέα μιας «αυτόνομης» διαδικασίας για την έκδοση δικαστικών αποφάσεων, χωρίς την παρέμβαση δικηγόρων ή δικαστών, απέχει πολύ από την υπάρχουσα ΤΝ και, ακόμη κι αν στο μέλλον γίνει τεχνολογικά εφικτή, δεν θα ήταν ηθικά αποδεκτή για τον τομέα της νομικής επιστήμης και της δικαιοσύνης. 

Η άσκηση της νομικής και η απονομή δικαιοσύνης δεν περιορίζονται στην εφαρμογή κανόνων· απαιτούν ανθρώπινη κρίση, ηθική ευθύνη και αξιολόγηση των ιδιαίτερων περιστάσεων κάθε υπόθεσης. Η ΤΝ μπορεί να υποστηρίζει τη διαδικασία, αλλά η ουσία της νομικής πράξης και της απονομής δικαιοσύνης παραμένει αποκλειστικά ανθρώπινη υπόθεση.

• Δρ. Αντωνία Νικολοπούλου στο libre: Η είσοδος της ΤΝ στη νομική πρακτική συνιστά αμφίσημο σημείο της εποχής μας
• Παραίτηση του αντιπροέδρου του ΟΠΕΚΕΠΕ εν μέσω αποκαλύψεων και προφυλακίσεων για το σκάνδαλο των παράνομων επιδοτήσεων
• Το αρχαίο υδάτινο μυστικό του Κορινθιακού: Νερό 800.000 ετών κάτω από τον βυθό
• Κυκλοφοριακές ρυθμίσεις σε Αθήνα και Πειραιά για τον εορτασμό της 28ης Οκτωβρίου
• Πέθανε ο Λάμπης Νικολάου: Ο αρχιτέκτονας του σύγχρονου Ολυμπιακού Κινήματος στην Ελλάδα