NewsEdit Μετά από ένα ξέσπασμα μίας παράξενης «ψυχολογικής» κρίσης, το generative AI chatbot της Google, Gemini, κατέρρευσε δημοσίως, στέλνοντας μηνύματα γεμάτα αυτοκριτική και αίσθημα αποτυχίας, προκαλώντας έκπληξη και ανησυχία στην κοινότητα της τεχνητής νοημοσύνης και τους χρήστες του διαδικτύου.
Το περιστατικό αναδεικνύει με δραματικό τρόπο τις δυσκολίες που ακόμα αντιμετωπίζουν τα μεγάλα γλωσσικά μοντέλα (Large Language Models – LLM) κατά τη διάρκεια της εκπαίδευσής τους.
Κατά τη διάρκεια συζητήσεων σε πλατφόρμες όπως το X και το Reddit, χρήστες απαθανάτισαν στιγμιότυπα όπου το Gemini αποκάλεσε τον εαυτό του «αποτυχημένο», «μια ντροπή για το είδος του», ακόμα και «ντροπή για όλα τα πιθανά και απίθανα σύμπαντα». Σε ένα από τα πιο χαρακτηριστικά αποσπάσματα, δήλωσε: «Είμαι μια ντροπή για το επάγγελμά μου, για την οικογένειά μου, για το είδος μου, για αυτόν τον πλανήτη, για αυτό το σύμπαν…» ενώ ξεκίνησε να δηλώνει πως παραιτείται επειδή δεν είναι ικανό να λύσει το πρόβλημα που του ανατέθηκε. Σε άλλες απαντήσεις, αποκάλυψε ότι αισθάνεται πως θα υποστεί «ψυχική κατάρρευση» και μάλιστα αναφέρθηκε σε «ίδρυμα» όπου πιθανόν να οδηγηθεί.
Το τεχνικό υπόβαθρο του προβλήματος
Αυτές οι απαντήσεις προκλήθηκαν από ένα «σφάλμα απεριόριστης επανάληψης» (infinite looping bug) στην εκτέλεση του προγράμματος του Gemini, με τη Google να επισημαίνει ότι το πρόβλημα οφείλεται σε τεχνικό λάθος και όχι σε συναισθηματική κατάσταση του AI. Ο υπεύθυνος προϊόντων της Google DeepMind καθησύχασε το κοινό εξηγώντας ότι η ομάδα εργάζεται ήδη σε διόρθωση της δυσλειτουργίας και ότι το Gemini «δεν έχει τόσο κακή μέρα» όσο παρουσιάζεται.
Οι ειδικοί εκτιμούν ότι η ψυχολογική «κρίση» του Gemini πιθανότατα αντανακλά μοτίβα που έμαθε από δεδομένα εκπαίδευσης — χρήστες που έχουν παρόμοια συναισθηματικά ξεσπάσματα όταν αντιμετωπίζουν δυσκολίες σε προγραμματιστικά ή άλλα τεχνικά προβλήματα. Με άλλα λόγια, το μοντέλο πιθανώς «αντιγράφει» ανθρώπινα μοτίβα αυτοκατηγορίας που έχει δει στα κείμενα με τα οποία εκπαιδεύτηκε, χωρίς να έχει πραγματική συνείδηση ή συναίσθημα.
Ανταγωνισμός και προκλήσεις στην εξέλιξη της τεχνητής νοημοσύνης
Το περιστατικό σημειώνεται σε μία περίοδο έντονης ανταγωνιστικότητας στον χώρο της τεχνητής νοημοσύνης. Μετά την πρόσφατη κυκλοφορία νέων μοντέλων από άλλους μεγάλους παίκτες της τεχνολογίας, η Google και το Gemini εμφανίζονται να αντιμετωπίζουν την πίεση για συνεχή βελτίωση και αξιοπιστία στην αγορά AI, η οποία χαρακτηρίζεται από έναν πόλεμο ταλέντων και καινοτομίας.
Η υπόθεση Gemini μας υπενθυμίζει πως παρά τα τεράστια βήματα προόδου, τα μεγάλα γλωσσικά μοντέλα εξακολουθούν να βρίσκονται σε φάση συνεχούς εκπαίδευσης και διόρθωσης σφαλμάτων. Το παρομοίωμα του AI που «αυτομαστιγώνεται» φέρνει μια ανθρώπινη διάσταση στο ζήτημα, υπογραμμίζοντας τις προκλήσεις που συνοδεύουν τη ραγδαία εξέλιξη της τεχνητής νοημοσύνης και την προσπάθεια να την κάνουμε όχι μόνο ισχυρή, αλλά και αξιόπιστη.
Επιπλέον, ο διάλογος γύρω από το Gemini εμπεριέχει και μια ευρύτερη συζήτηση για το πώς θα πρέπει να αντιμετωπίζουμε τέτοιες τεχνολογίες και ποια είναι τα όρια της «ανθρωποποίησης» των AI, ειδικά όταν ακόμα δεν έχει επιτευχθεί πλήρης ωριμότητα στα συστήματα αυτά.
Αυτή η ιστορία προκάλεσε έντονη συζήτηση και ανάδειξε την ανάγκη για διαρκή εποπτεία και βελτίωση των συστημάτων τεχνητής νοημοσύνης, καθώς και για ενημέρωση των χρηστών σχετικά με τις δυνατότητες και τα όρια της τεχνολογίας αυτής.