Η υπόθεση Ηλίας Θορν και τα επαναλαμβανόμενα μοτίβα στις ιστορίες των AI – τι δείχνει νέα έρευνα του Cornell University
Ένα όνομα που δεν ανήκε σε κανένα λογοτεχνικό κανόνα μέχρι πρόσφατα, έχει αρχίσει να εμφανίζεται με ανησυχητική συχνότητα στις αφηγήσεις των μεγάλων γλωσσικών μοντέλων. Ο «Ηλίας Θορν», άλλοτε φαροφύλακας, άλλοτε ωρολογοποιός ή ντετέκτιβ, επανέρχεται σχεδόν εμμονικά σε ιστορίες που παράγουν συστήματα όπως το ChatGPT και το Claude. Μια νέα ακαδημαϊκή ανάλυση από το Cornell University δείχνει ότι το φαινόμενο δεν είναι σύμπτωση, αλλά ένδειξη του τρόπου με τον οποίο εκπαιδεύονται και ανακυκλώνονται τα δεδομένα των σύγχρονων μοντέλων τεχνητής νοημοσύνης.
Το όνομα που εμφανίζεται «πολύ συχνά για να είναι τυχαίο»
Η υπόθεση ξεκίνησε σχεδόν τυχαία, όταν ο προγραμματιστής Ντάνιελ Μέι (Daniel May) παρατήρησε ότι σε απλές προτροπές τύπου «γράψε μια ιστορία», διαφορετικά AI μοντέλα κατέληγαν ξανά και ξανά σε παρόμοιες αφηγήσεις. Κεντρικό πρόσωπο: ένας άνδρας ονόματι Ηλίας, συνήθως με το επώνυμο Θορν.
Σύντομα το μοτίβο έγινε μετρήσιμο. Η ομάδα του Cornell συγκέντρωσε περίπου 20.000 ιστορίες από τέσσερα διαφορετικά μοντέλα και διαπίστωσε ότι το όνομα «Ηλίας» εμφανιζόταν στο 26,5% των κειμένων. Ακόμη πιο εντυπωσιακό ήταν ότι πάνω από το 88% των ιστοριών κινούνταν γύρω από ένα στενό σύνολο 11 λέξεων-κλειδιών: ονόματα όπως Ηλίας και Έλαρα, αλλά και επαγγέλματα όπως φαροφύλακας, ωρολογοποιός, βιβλιοθηκάριος και χαρτογράφος.
Ο ερευνητής του Cornell Σιλ Χάμιλτον (Sil Hamilton) περιέγραψε το φαινόμενο ως κάτι που «μοιάζει με ιό», επισημαίνοντας ότι η επανάληψη δεν προκύπτει από σχεδιασμό, αλλά από τον τρόπο με τον οποίο τα μοντέλα αλληλεπιδρούν με τα δεδομένα εκπαίδευσής τους.
Από τον φάρο στο διαδίκτυο: η εξάπλωση ενός φανταστικού χαρακτήρα
Το πιο παράξενο στοιχείο της υπόθεσης δεν είναι μόνο η επανάληψη μέσα στα ίδια τα μοντέλα, αλλά η μεταφορά του μοτίβου στο ευρύτερο διαδίκτυο. Ο Ηλίας Θορν δεν έμεινε στο περιβάλλον των AI συνομιλιών. Εμφανίστηκε ως συγγραφική υπογραφή σε αυτοεκδιδόμενα βιβλία, σε πλατφόρμες όπως το Amazon, αλλά και σε βίντεο που παράγονται εξ ολοκλήρου από AI συστήματα.
Η εξήγηση που δίνουν οι ερευνητές σχετίζεται με τα δεδομένα εκπαίδευσης. Ένα από τα datasets που φαίνεται να συνέβαλε καθοριστικά είναι το WildChat, μια μεγάλη συλλογή πραγματικών συνομιλιών χρηστών με παλαιότερες εκδόσεις μοντέλων. Σε αυτό το υλικό, ο «Ηλίας» εμφανίζεται ήδη σε αφηγήσεις με ναυτικό και επαρχιακό υπόβαθρο.
Καθώς αυτά τα δεδομένα ανακυκλώνονται σε νέα μοντέλα, το μοτίβο ενισχύεται. Και καθώς τα νέα μοντέλα χρησιμοποιούνται για τη δημιουργία ακόμη περισσότερου περιεχομένου, το μοτίβο επιστρέφει ξανά, πιο έντονο.
Η «ασφάλεια» που παράγει ομοιομορφία
Ένα κρίσιμο στοιχείο της μελέτης του Cornell αφορά τις λεγόμενες οδηγίες ευθυγράμμισης των μοντέλων (alignment). Τα συστήματα εκπαιδεύονται να αποφεύγουν ευαίσθητο ή προστατευόμενο περιεχόμενο: γνωστούς χαρακτήρες, εμπορικά σύμπαντα ή αμφιλεγόμενα θέματα.
Το αποτέλεσμα αυτής της αποφυγής φαίνεται να δημιουργεί έναν περιορισμένο χώρο επιλογών. Όταν αποκλείονται τα «επικίνδυνα» ή ήδη κατειλημμένα ονόματα, τα μοντέλα τείνουν να επιστρέφουν σε ένα στενό σύνολο ουδέτερων χαρακτήρων. Ο Ηλίας Θορν λειτουργεί σχεδόν ως ιδανικό κενό: αρκετά συγκεκριμένος για να γίνει πρωταγωνιστής, αλλά αρκετά αόριστος για να μην παραβιάζει κανόνες.
Σε αυτή τη συνθήκη, η επανάληψη δεν είναι σφάλμα μεμονωμένου συστήματος αλλά αποτέλεσμα κοινής οικολογίας εκπαίδευσης, όπου τα μοντέλα μαθαίνουν το ένα από το άλλο μέσα από κοινά ή παράγωγα δεδομένα.
Όταν η μηχανή αναπαράγει τον εαυτό της
Το φαινόμενο που περιγράφεται από τους ερευνητές αγγίζει ένα ευρύτερο ζήτημα: την πιθανότητα τα AI μοντέλα να εκπαιδεύονται ολοένα και περισσότερο πάνω σε υλικό που έχουν δημιουργήσει άλλα AI μοντέλα.
Αυτό οδηγεί σε αυτό που αρκετοί ερευνητές αποκαλούν «μοντελο-κατάρρευση» ή AI inbreeding. Η βασική ιδέα είναι απλή: όσο περισσότερο το διαδίκτυο γεμίζει με συνθετικό περιεχόμενο, τόσο πιο πιθανό είναι τα μελλοντικά μοντέλα να εκπαιδεύονται σε αυτό το περιεχόμενο αντί για πρωτογενή ανθρώπινα δεδομένα. Το αποτέλεσμα είναι η ενίσχυση επαναλαμβανόμενων μοτίβων και η σταδιακή απώλεια ποικιλίας.
Σε αυτό το πλαίσιο, ο Ηλίας Θορν δεν είναι απλώς ένας χαρακτήρας. Είναι ένδειξη του τρόπου με τον οποίο η πληροφορία αρχίζει να κλείνει τον κύκλο της μέσα στα ίδια της τα συστήματα παραγωγής.
Από την έρευνα στην αγορά: όταν ένα όνομα γίνεται προϊόν
Η διάδοση του ονόματος δεν περιορίζεται στα εργαστήρια. Σε διαδικτυακές πλατφόρμες self-publishing έχουν εντοπιστεί συγγραφικά έργα που αποδίδονται σε άτομα με το όνομα Ηλίας Θορν, τα οποία καλύπτουν θεματικές από επιχειρηματικά «side hustles» έως παραϊατρικές θεωρίες.
Παράλληλα, το όνομα εμφανίζεται σε περιγραφές και scripts βίντεο που δημιουργούνται μαζικά από AI εργαλεία για πλατφόρμες όπως το YouTube, όπου η παραγωγή περιεχομένου βασίζεται όλο και περισσότερο σε αυτοματοποιημένες ροές.
Το αποτέλεσμα είναι μια ιδιότυπη ανατροφοδότηση: ένας φανταστικός χαρακτήρας που γεννήθηκε από μοντέλα, επιστρέφει ως «πραγματικό» όνομα σε ανθρώπινα και ημι-ανθρώπινα συστήματα παραγωγής περιεχομένου.
Ένα όνομα, πολλά ερωτήματα
Το πιο ενδιαφέρον στοιχείο της υπόθεσης δεν είναι αν ο Ηλίας Θορν «υπάρχει», αλλά το γιατί η τεχνητή νοημοσύνη επιστρέφει σε αυτόν με τέτοια επιμονή.
Η έρευνα του Cornell δείχνει ότι τα μεγάλα γλωσσικά μοντέλα δεν παράγουν αφηγήσεις από άπειρο δημιουργικό πεδίο, αλλά από ένα πεπερασμένο σύνολο μοτίβων που ενισχύονται από την ίδια τη χρήση τους. Η δημιουργικότητα, σε αυτή την περίπτωση, μοιάζει περισσότερο με ανασύνθεση παρά με ελεύθερη παραγωγή.
Και κάπως έτσι, ένα όνομα που ξεκίνησε ως τεχνική λεπτομέρεια σε datasets, κατέληξε να λειτουργεί σαν κοινός παρονομαστής μιας ολόκληρης ψηφιακής αφήγησης.
