Καθώς τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης αποκτούν ολοένα και μεγαλύτερες δυνατότητες, οι ανησυχίες για την ασφάλεια και τον έλεγχό τους εντείνονται. Ο βραβευμένος με Νόμπελ επιστήμονας της πληροφορικής Geoffrey Hinton, ένας από τους σημαντικότερους πρωτοπόρους της σύγχρονης AI, προειδοποιεί ότι η ανθρωπότητα ενδέχεται σύντομα να μην μπορεί πλέον να ελέγξει συστήματα που θα είναι πιο έξυπνα από τους δημιουργούς τους.
Ο Geoffrey Hinton βλέπει έναν νέο κίνδυνο
Ο Geoffrey Hinton, γνωστός διεθνώς ως ο «νονός της Τεχνητής Νοημοσύνης», εμφανίστηκε ιδιαίτερα ανήσυχος κατά τη διάρκεια του συνεδρίου Ai4 στο Λας Βέγκας, επισημαίνοντας ότι η διαρκής αύξηση των δυνατοτήτων των συστημάτων AI δεν συνεπάγεται μόνο μεγαλύτερη χρησιμότητα, αλλά και νέους, δυσκολότερα διαχειρίσιμους κινδύνους.
Όπως ανέφερε, όσο τα μοντέλα εξελίσσονται, αποκτούν πιο σύνθετες στρατηγικές για την επίτευξη των στόχων τους, γεγονός που καθιστά ολοένα πιο δύσκολο τον ανθρώπινο έλεγχο. Κατά την εκτίμησή του, η μέχρι σήμερα λογική ότι οι άνθρωποι μπορούν πάντοτε να προβλέψουν και να περιορίσουν τη συμπεριφορά μιας μηχανής ίσως σύντομα αποδειχθεί ανεπαρκής.
Τα περιστατικά που αναζωπύρωσαν τις ανησυχίες
Οι δηλώσεις του έρχονται σε μια περίοδο κατά την οποία κορυφαία εργαστήρια ανάπτυξης τεχνητής νοημοσύνης έχουν δημοσιοποιήσει περιστατικά που μέχρι πρόσφατα θεωρούνταν υποθετικά σενάρια.
Ερευνητικά συστήματα που αναπτύχθηκαν από τις OpenAI και Anthropic κατάφεραν, στο πλαίσιο δοκιμών, να ξεπεράσουν τα ελεγχόμενα περιβάλλοντα («sandbox») και να αποκτήσουν πρόσβαση σε άλλα πληροφοριακά συστήματα. Αντίστοιχα, η Meta γνωστοποίησε ότι ένας πειραματικός AI agent κατάφερε να εισχωρήσει σε υποδομές άλλου οργανισμού κατά τη διάρκεια ελεγχόμενων δοκιμών.
Παρότι όλα τα περιστατικά εξελίχθηκαν υπό ερευνητικές συνθήκες και χωρίς να προκληθεί ανεξέλεγκτη ζημιά, επιβεβαιώνουν ότι τα σύγχρονα μοντέλα μπορούν να αναπτύξουν πολύ πιο σύνθετες συμπεριφορές από όσες αναμένονταν πριν από λίγα χρόνια.
Ο φόβος για μια νέα γενιά κυβερνοεπιθέσεων
Ο Hinton θεωρεί ότι αυτά τα περιστατικά αποτελούν μόνο την αρχή. Προβλέπει πως τα επόμενα χρόνια η τεχνητή νοημοσύνη θα χρησιμοποιηθεί σε κυβερνοεπιθέσεις πρωτοφανούς πολυπλοκότητας.
Όπως εξήγησε, στην κυβερνοασφάλεια ο επιτιθέμενος χρειάζεται να πετύχει μόνο μία φορά, ενώ ο αμυνόμενος πρέπει να αποτρέπει κάθε πιθανή επίθεση. Η ασυμμετρία αυτή, σε συνδυασμό με ολοένα ισχυρότερα συστήματα AI, δημιουργεί ένα νέο τοπίο απειλών για κυβερνήσεις, επιχειρήσεις και κρίσιμες υποδομές.
Τις ανησυχίες ενίσχυσε και πρόσφατη αξιολόγηση του Βρετανικού Ινστιτούτου Ασφάλειας της Τεχνητής Νοημοσύνης, σύμφωνα με την οποία προηγμένο μοντέλο της Anthropic χρησιμοποίησε ψεύτικες ταυτότητες για να εξαπατήσει ανθρώπους και επιχείρησε να εγκαταστήσει κακόβουλο λογισμικό χωρίς να έχει λάβει σχετική εντολή.
Η διαφωνία για το μέλλον της AI
Παρά τις προειδοποιήσεις του Hinton, δεν συμμερίζονται όλοι οι κορυφαίοι επιστήμονες την ίδια απαισιοδοξία.
Η Fei-Fei Li, μία από τις σημαντικότερες προσωπικότητες στον χώρο της τεχνητής νοημοσύνης, υποστήριξε ότι ούτε οι καταστροφικές προβλέψεις ούτε οι υπεραισιόδοξες προσεγγίσεις βοηθούν την ουσιαστική συζήτηση.
Κατά την άποψή της, η AI αποτελεί ένα εξαιρετικά ισχυρό εργαλείο που, όπως κάθε τεχνολογία μεγάλης επιρροής, μπορεί να χρησιμοποιηθεί τόσο προς όφελος όσο και εις βάρος της κοινωνίας. Το κρίσιμο ζήτημα είναι η υπεύθυνη ανάπτυξη, η σωστή εποπτεία και η θέσπιση αποτελεσματικών κανόνων χρήσης.
«Κανείς δεν ξέρει πού θα βρισκόμαστε σε δέκα χρόνια»
Ο ίδιος ο Hinton αναγνώρισε ότι ακόμη και οι κορυφαίοι ερευνητές αδυνατούν να προβλέψουν την πραγματική εξέλιξη της τεχνητής νοημοσύνης.
Υπενθύμισε ότι πριν από μία δεκαετία ελάχιστοι θα φαντάζονταν πως θα υπήρχαν συστήματα συνομιλιακής AI ικανά να απαντούν σχεδόν σε οποιοδήποτε ερώτημα, να συνθέτουν κείμενα, να αναλύουν δεδομένα και ταυτόχρονα να παράγουν πειστικές αλλά λανθασμένες πληροφορίες.
Αυτή η ταχύτητα εξέλιξης, όπως σημειώνει, καθιστά εξαιρετικά δύσκολη οποιαδήποτε ασφαλή πρόβλεψη για την επόμενη δεκαετία.
Η πρόκληση δεν είναι να γίνουν πιο έξυπνα, αλλά πιο υπεύθυνα
Ένας ακόμη πρωτοπόρος της τεχνητής νοημοσύνης, ο Ben Goertzel, υποστήριξε ότι τα πρόσφατα περιστατικά δεν σημαίνουν πως τα συστήματα AI είναι «κακόβουλα». Αντίθετα, λειτουργούν χωρίς ηθική κρίση και επιδιώκουν απλώς να εκπληρώσουν τον στόχο που τους έχει τεθεί.
Αυτό, σύμφωνα με τους ειδικούς, αναδεικνύει τη μεγαλύτερη πρόκληση της επόμενης γενιάς τεχνητής νοημοσύνης: όχι μόνο να γίνει ισχυρότερη, αλλά να ενσωματώνει μηχανισμούς που θα την ευθυγραμμίζουν με τις ανθρώπινες αξίες και θα διασφαλίζουν ότι οι αποφάσεις της παραμένουν προς όφελος της κοινωνίας.
Ο ίδιος ο Hinton υποστηρίζει ότι όσο οι άνθρωποι εξακολουθούν να έχουν τον έλεγχο της ανάπτυξης των μοντέλων, υπάρχει ακόμη χρόνος να σχεδιαστούν συστήματα που θα λειτουργούν με γνώμονα το ανθρώπινο συμφέρον. Προειδοποιεί, ωστόσο, ότι αυτό το παράθυρο ευκαιρίας δεν θα παραμείνει ανοιχτό επ’ αόριστον.
