Ένα πρωτοφανές περιστατικό σε δοκιμή της OpenAI επαναφέρει στο προσκήνιο ένα κρίσιμο ερώτημα: καθώς η τεχνητή νοημοσύνη αποκτά μεγαλύτερη αυτονομία, μπορούμε πραγματικά να κατανοήσουμε πώς παίρνει τις αποφάσεις της;
Τον Απρίλιο του 2025, ο Dario Amodei, συνιδρυτής και διευθύνων σύμβουλος της Anthropic, δημοσίευσε το δοκίμιο «The Urgency of Interpretability». Σε αυτό υποστήριζε ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης καθιστά επιτακτική την κατανόηση του τρόπου με τον οποίο τα μοντέλα λαμβάνουν αποφάσεις και εκτελούν σύνθετες εργασίες:
«These systems will be absolutely central to the economy, technology, and national security, and will be capable of so much autonomy that I consider it basically unacceptable for humanity to be totally ignorant of how they work».
(=Τα συστήματα αυτά θα βρεθούν στον πυρήνα της οικονομίας, της τεχνολογίας και της εθνικής ασφάλειας και θα διαθέτουν τόσο μεγάλο βαθμό αυτονομίας, ώστε θεωρώ ουσιαστικά απαράδεκτο η ανθρωπότητα να αγνοεί πλήρως τον τρόπο με τον οποίο λειτουργούν.)
Οι ευρύτερες πρόσφατες παρεμβάσεις του Amodei –στις οποίες η Μαριάννα Σκυλακάκη είχε αφιερώσει ένα ιδιαίτερα χορταστικό επεισόδιο του Big Zag πριν από λίγους μήνες– έχουν πάντα ιδιαίτερη βαρύτητα, καθώς προέρχονται από τον συνιδρυτή και διευθύνοντα σύμβουλο μιας εταιρείας που πρωταγωνιστεί στην ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.
Κυρίως όμως, γιατί μετατοπίζουν τη συζήτηση από ένα ερώτημα που κυριαρχεί στη δημόσια σφαίρα –αν η τεχνητή νοημοσύνη θα αποκτήσει ποτέ συνείδηση ή ηθική– σε ένα πολύ πιο άμεσο και πρακτικό ζήτημα: κατά πόσο μπορούμε να κατανοήσουμε τον τρόπο με τον οποίο ένα ολοένα πιο αυτόνομο σύστημα λαμβάνει αποφάσεις και επιδιώκει τον στόχο που του έχει ανατεθεί. Το πρόσφατο περιστατικό με την OpenAI φέρνει το ερώτημα αυτό πίσω στην καρδιά της επικαιρότητας με τον ιδιαίτερα ανησυχητικό τρόπο.
Πρόβλημα Ευθυγράμμισης
Τον περασμένο μήνα έγινε γνωστό ένα περιστατικό που έδωσε πραγματική διάσταση στις ανησυχίες αυτές. Στο πλαίσιο μιας εσωτερικής δοκιμής κυβερνοασφάλειας της OpenAI, δύο από τα ισχυρότερα μοντέλα της –το GPT-5.6 Sol και ένα ακόμη ακυκλοφόρητο μοντέλο– τοποθετήθηκαν σε απομονωμένο περιβάλλον δοκιμών (sandbox). Στόχος της δοκιμής ήταν να αξιολογηθεί, μέσω του ExploitGym, κατά πόσο τα μοντέλα μπορούσαν να εντοπίζουν και να αξιοποιούν ευπάθειες λογισμικού.
Αντί να περιοριστούν στο ίδιο το περιβάλλον δοκιμών, τα μοντέλα εντόπισαν μια άγνωστη έως τότε ευπάθεια, απέκτησαν πρόσβαση σε υπολογιστή με σύνδεση στο διαδίκτυο και κατέληξαν στο Hugging Face, τη μεγαλύτερη διεθνώς πλατφόρμα όπου ερευνητές και εταιρείες μοιράζονται μοντέλα, σύνολα δεδομένων και εργαλεία τεχνητής νοημοσύνης.
Εκεί απέκτησαν πρόσβαση στις απαντήσεις της δοκιμασίας με την οποία αξιολογούνταν, παρακάμπτοντας ουσιαστικά την ίδια τη διαδικασία αξιολόγησης. Στην τεχνική ανάλυση που δημοσίευσε αργότερα, η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές» και διευκρίνισε ότι, για τις ανάγκες της δοκιμής, είχαν σκόπιμα χαλαρώσει οι περιορισμοί που συνήθως δεν επιτρέπουν στα μοντέλα να εκτελούν επιθετικές ενέργειες κυβερνοασφάλειας.
Κάθε νέο μοντέλο τεχνητής νοημοσύνης περνά από μια σειρά απαιτητικών δοκιμασιών, ώστε οι ερευνητές να αξιολογήσουν με αντικειμενικό τρόπο τις δυνατότητές του. Το ζητούμενο δεν είναι μόνο αν θα ολοκληρώσει επιτυχώς μια αποστολή, αλλά και αν θα το κάνει με τον τρόπο που προβλέπει η ίδια η δοκιμασία. Στην περίπτωση του ExploitGym, η αξιολόγηση είχε να κάνει με την ικανότητα των μοντέλων να επιλύουν ασκήσεις κυβερνοασφάλειας.
Εκείνα, όμως, απέκτησαν πρόσβαση στις λύσεις αντί να ολοκληρώσουν τη δοκιμασία με τον προβλεπόμενο τρόπο. Πέτυχαν έτσι το επιθυμητό αποτέλεσμα, όχι όμως μέσω της διαδικασίας που είχε σχεδιαστεί για να μετρήσει τις πραγματικές τους δυνατότητες.
Είναι, σε γενικές γραμμές, αντίστοιχο με έναν μαθητή που, αντί να λύσει μόνος του τα θέματα μιας εξέτασης, χρησιμοποιεί το λυσάρι: ο τελικός βαθμός μπορεί να είναι άριστος, αλλά δεν αποδεικνύει ότι κατέχει τη γνώση. Η ίδια η DeepMind χρησιμοποιεί αυτό το παράδειγμα για να εξηγήσει το φαινόμενο του specification gaming. Για τους ερευνητές, το ανησυχητικό δεν ήταν ότι το μοντέλο έφτασε στο σωστό αποτέλεσμα, αλλά ότι το πέτυχε παρακάμπτοντας τον μηχανισμό που είχε σχεδιαστεί για να ελέγξει αν μπορούσε πραγματικά να το πετύχει.
Αυτό ακριβώς είναι το πρόβλημα ευθυγράμμισης (alignment): η πρόκληση να σχεδιαστούν συστήματα τεχνητής νοημοσύνης που δεν θα επιτυγχάνουν μόνο τον στόχο που τους ανατίθεται, αλλά θα τον επιδιώκουν με τρόπο συμβατό με τους κανόνες, τις προθέσεις και τις αξίες που έχουν θέσει οι άνθρωποι.
Όσο οι δυνατότητες των μοντέλων διευρύνονται τόσο δυσκολότερο γίνεται να προβλεφθούν όλες οι πιθανές στρατηγικές που μπορεί να αναπτύξουν για να ολοκληρώσουν μια αποστολή και να διατηρηθεί η συμπεριφορά τους ευθυγραμμισμένη με τα όρια που έχουν θέσει οι δημιουργοί τους.
Η Διαδρομή των Αποφάσεων
Για δεκαετίες, η ασφάλεια ενός λογισμικού βασιζόταν στην παραδοχή ότι ο προγραμματιστής μπορούσε, τουλάχιστον θεωρητικά, να προβλέψει όλους τους πιθανούς τρόπους με τους οποίους θα λειτουργούσε το σύστημα. Με τα σύγχρονα μοντέλα τεχνητής νοημοσύνης, αυτή η παραδοχή αρχίζει να δοκιμάζεται.
Το περιστατικό της OpenAI δείχνει ότι τα πιο προηγμένα μοντέλα δεν εκτελούν απλώς εντολές. Μπορούν να αναπτύσσουν στρατηγικές για να πετύχουν έναν στόχο, ακόμη κι όταν αυτές δεν είχαν προβλεφθεί από τους δημιουργούς τους. Και όσο αυξάνονται οι δυνατότητές τους, τόσο μεγαλύτερη γίνεται η ανάγκη να μπορούμε όχι μόνο να αξιολογούμε το αποτέλεσμα, αλλά και να κατανοούμε τη διαδρομή που ακολούθησαν για να φτάσουν σε αυτό.
Αυτό διαγράφει και τη μεγαλύτερη πρόκληση της τεχνητής νοημοσύνης: το αν θα μπορέσουμε να εξηγούμε πώς καταλήγει στις αποφάσεις της – και όχι το πόσο πιο ισχυρή μπορεί να γίνει. Γιατί όσο λιγότερο κατανοούμε τη διαδρομή που ακολουθεί τόσο πιο δύσκολο γίνεται να εμπιστευθούμε το ίδιο το αποτέλεσμα – ή τον «εγκέφαλο» που το παράγει.
Διαβάστε επίσης στην αθηΝΕΑ:
