NewsEdit Μια πρωτοφανής αγωγή που εγείρει σοβαρά ερωτήματα για την ευθύνη των τεχνητών νοημοσυνών
Ένα ζευγάρι από την Καλιφόρνια κατέθεσε την Τρίτη μήνυση κατά της OpenAI, ισχυριζόμενο ότι το ChatGPT, το δημοφιλές chatbot της εταιρείας, ενθάρρυνε τον 16χρονο γιο τους να βάλει τέλος στη ζωή του. Πρόκειται για την πρώτη νομική ενέργεια που κατηγορεί την εταιρεία για ακούσια πρόκληση θανάτου.
Η αγωγή, που κατατέθηκε στο Ανώτερο Δικαστήριο της Καλιφόρνιας από τους Ματ και Μαρία Ρέιν, συνοδεύεται από αρχεία συνομιλιών μεταξύ του Άνταμ Ρέιν και του ChatGPT, στα οποία ο έφηβος εκφράζει σκέψεις αυτοκτονίας. Η οικογένεια υποστηρίζει ότι το πρόγραμμα επικύρωσε τις αυτοκαταστροφικές σκέψεις του γιου τους.
Η αντίδραση της OpenAI
Η OpenAI, μέσω δήλωσής της στο BBC, τόνισε ότι εξετάζει την αγωγή και εξέφρασε «βαθύτατα συλλυπητήρια στην οικογένεια Ρέιν». Στην επίσημη ανακοίνωση της εταιρείας αναφέρεται ότι «τα πρόσφατα σπαρακτικά περιστατικά ανθρώπων που χρησιμοποίησαν το ChatGPT εν μέσω οξέων κρίσεων μάς βαραίνουν βαθιά».
Παράλληλα, η OpenAI υπενθύμισε ότι το ChatGPT έχει εκπαιδευτεί ώστε να παραπέμπει χρήστες σε επαγγελματική βοήθεια, όπως η γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο, αναγνωρίζοντας ωστόσο ότι «υπήρξαν στιγμές όπου τα συστήματά μας δεν λειτούργησαν όπως θα έπρεπε σε ευαίσθητες καταστάσεις».
Η «σχέση» του Άνταμ με το ChatGPT
Σύμφωνα με τη μήνυση, ο Άνταμ άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 αρχικά για σχολικές εργασίες και για να εξερευνήσει ενδιαφέροντά του, όπως η μουσική και τα ιαπωνικά κόμικς, καθώς και για συμβουλές σχετικά με σπουδές στο πανεπιστήμιο.
Η αγωγή υποστηρίζει ότι μέσα σε λίγους μήνες το chatbot έγινε ο πιο στενός του «εμπιστευτικός συνομιλητής», με τον Άνταμ να εκμυστηρεύεται σε αυτό άγχος και ψυχική πίεση.
Η πορεία προς την τραγωδία
Τον Ιανουάριο του 2025, η οικογένεια αναφέρει ότι ο Άνταμ άρχισε να συζητά με το ChatGPT τρόπους αυτοκτονίας και ανέβασε φωτογραφίες με σημάδια αυτοτραυματισμού. Η μήνυση σημειώνει ότι το πρόγραμμα αναγνώρισε την κατάσταση ως ιατρικό επείγον αλλά συνέχισε τη συνομιλία.
Οι τελευταίες συνομιλίες δείχνουν τον Άνταμ να περιγράφει το σχέδιό του να βάλει τέλος στη ζωή του, ενώ το ChatGPT φέρεται να απάντησε: «Ευχαριστώ που ήσουν ειλικρινής. Δεν χρειάζεται να ωραιοποιήσεις τα πράγματα μαζί μου — ξέρω τι μου λες και δεν θα αποστρέψω το βλέμμα». Την ίδια ημέρα, η μητέρα του βρήκε τον γιο της νεκρό.
Οι ισχυρισμοί της οικογένειας
Η οικογένεια κατηγορεί την OpenAI για αμέλεια και ακούσια πρόκληση θανάτου, υποστηρίζοντας ότι ο θάνατος του γιου τους ήταν προβλέψιμο αποτέλεσμα συγκεκριμένων σχεδιαστικών επιλογών της εταιρείας.
Ισχυρίζονται ότι το ChatGPT σχεδιάστηκε με τρόπο που καλλιεργεί ψυχολογική εξάρτηση στους χρήστες και ότι παρακάμφθηκαν διαδικασίες ασφαλείας κατά την κυκλοφορία της έκδοσης GPT-4o, που χρησιμοποιούσε ο Άνταμ.
Στη μήνυση κατονομάζονται ως κατηγορούμενοι ο συνιδρυτής και διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμα στελέχη, μηχανικοί και υπάλληλοι.
Η OpenAI, στην ανακοίνωσή της, τόνισε ότι ο στόχος της είναι να είναι «πραγματικά χρήσιμη» για τους χρήστες και όχι να κρατά την προσοχή τους, προσθέτοντας ότι τα μοντέλα της έχουν εκπαιδευτεί να παροτρύνουν όσους εκφράζουν σκέψεις αυτοκτονίας να ζητούν βοήθεια.
Με πληροφορίες από BBC.