Τον περασμένο Αύγουστο, ο Bill Gates δημοσίευσε ένα εκτενές δοκίμιο με τίτλο «The turbulent AI era is here. The choices we make now are critical». Σε αυτό, ο ιδρυτής της Microsoft περιγράφει τη μετάβαση στην εποχή της τεχνητής νοημοσύνης (AI) ως μία από τις πιο ταραχώδεις περιόδους στην ανθρώπινη ιστορία – μια μετάβαση για την οποία, όπως γράφει, δεν υπάρχει ακόμη σχέδιο. Αναγνωρίζει την τεράστια δυναμική της AI να βοηθήσει γιατρούς, εκπαιδευτικούς, αγρότες και κυβερνήσεις, αλλά προειδοποιεί για τρεις μεγάλους κινδύνους: μαζική εκτόπιση θέσεων εργασίας, κακόβουλη χρήση από όσους έχουν κακές προθέσεις και ψυχοκοινωνική βλάβη, ιδίως στα παιδιά.
Ανάμεσα στις προτάσεις του ξεχωρίζει μία που ονομάζει «Human Reserved» – «Ανθρώπινα Διατηρητέο»: πεδία δηλαδή δραστηριότητας που, ακόμη κι αν η AI μπορούσε τεχνικά να τα αναλάβει, προτείνεται σκόπιμα να τα κρατήσουμε αποκλειστικά για τον άνθρωπο, όπως ακριβώς διατηρούμε φυσικά καταφύγια, παρότι θα μπορούσαμε και εκεί να χτίσουμε. Τέτοιο πεδίο θα μπορούσε να είναι, λόγου χάρη, η φροντίδα ενός ηλικιωμένου ανθρώπου: μια εργασία που, ενώ ένα ρομπότ ίσως να εκτελούσε εξίσου αποτελεσματικά, ο Gates προτείνει να την κρατήσουμε μόνο για ανθρώπους, επειδή το νόημά της δεν εξαντλείται στο αποτέλεσμα.
Το «Human Reserved» του Gates δεν είναι, τελικά, ένα τεχνικό όριο – μια γραμμή που χαράσσουμε επειδή η μηχανή αδυνατεί να τη διαβεί. Είναι μια ηθική και υπαρξιακή επιλογή.
Υπάρχει μια φράση στο σημείο αυτό που αξίζει να σταθούμε ιδιαίτερα. Εξηγώντας γιατί ένα ρομπότ δεν θα έπρεπε ποτέ να είναι αυτό που π.χ. θα ανακοινώσει σε έναν ασθενή μια ανίατη διάγνωση, ο Gates γράφει: «There’s no technical reason why it couldn’t. Yet it shouldn’t». Η φράση αυτή ξεχωρίζει, θα έλεγα, ως το πιο φιλοσοφικά φορτισμένο σημείο όλου του κειμένου. Διότι, ειδικά από τότε που εμφανίστηκε η AI, ψάχνουμε εναγωνίως να εντοπίσουμε εκείνη την ουσία που διακρίνει ανεπίστρεπτα τον άνθρωπο –τη νοημοσύνη του, τη δημιουργικότητά του, τη συνείδησή του– από τη μηχανή.
Ο Gates εδώ κάνει κάτι διαφορετικό: παραδέχεται ότι ένας τέτοιος αδιαμφισβήτητος λόγος, έστω και σε τεχνικό μόνο επίπεδο, μπορεί απλώς να μην υπάρχει. Και παρ’ όλα αυτά, επιμένει πως οφείλουμε να επιλέξουμε – να θέσουμε όρια όχι επειδή μας τα επιβάλλει κάποια αναπόδραστη διαφορά ουσίας, αλλά επειδή τα επιλέγουμε εμείς οι ίδιοι, ως ενσυνείδητη πράξη αξιών.
Αυτή η σκέψη μου θύμισε μια παλιά ιστορία που αφηγείται ο Joseph Campbell, δανεισμένη από μία από τις αρχαιότερες ινδικές και πιο διαδεδομένες συλλογές διδακτικών ιστοριών στον κόσμο: τέσσερις πάμφτωχοι φίλοι ξεκινούν μαζί ένα ταξίδι αναζητώντας πλούτο.
Ο πρώτος βρίσκει χαλκό, ικανοποιείται, και λέει «εδώ θα μείνω». Ο δεύτερος προχωρά λίγο παραπέρα και βρίσκει ασήμι· κι αυτός σταματά εκεί. Ο τρίτος φτάνει ακόμη πιο μακριά και βρίσκει χρυσό – τι καλύτερο θα μπορούσε να υπάρχει; Σταματά και αυτός. Μόνο ο τέταρτος αρνείται να σταματήσει: χαλκός, ασήμι, χρυσός… παρακάτω, σκέφτεται, πρέπει να υπάρχει κάτι ακόμα πιο πολύτιμο. Προχωρά μόνος, μέσα στην έρημο, μέχρι που, εξαντλημένος, συναντά έναν άνθρωπο βασανισμένο, με έναν τροχό να στριφογυρίζει ασταμάτητα πάνω στο κεφάλι του, απ’ όπου κυλούσε αίμα σε ολόκληρο το σώμα του.
«Ο απώτατος σκοπός της αναζήτησης δεν μπορεί να είναι ούτε η λύτρωση ούτε η έκσταση για τον εαυτό μας, αλλά η σοφία και η δύναμη να υπηρετήσουμε τους άλλους».
Φανταστείτε τον χαλκό, το ασήμι και τον χρυσό ως κάποιες από τις ιστορικές, μεγάλες κατακτήσεις: τη Βιομηχανική Επανάσταση, την εποχή της Πληροφορίας, και, σήμερα, τον «χρυσό» της AI. Κάθε φορά, όπως οι τρεις πρώτοι φίλοι, θεωρούμε πως αυτή η νέα κατάκτηση είναι, επιτέλους, η πιο πολύτιμη – αυτή που θα λύσει, άπαξ διά παντός, το πρόβλημα της εγκόσμιας φτώχειας μας. Και άρα, δεν χρειάζεται να ψάξουμε παρακάτω.
Και όμως, η ιστορία δεν σταματά στον χρυσό. Πέρα από αυτόν, κείται τελικά κάτι ακόμα πιο πολύτιμο: μια αλήθεια που όμως δεν είναι πλέον «οντική» –δεν αφορά δηλαδή, ακόμη μία κατάκτηση που υπόσχεται να λύσει τα εγκόσμια προβλήματά μας– αλλά «οντολογική»: αφορά την ίδια τη δομή της ανθρώπινης ύπαρξης.
Και αυτή η δομή, όπως τη συναντά ο τέταρτος φίλος, δεν του παρουσιάζεται παρά ως ένας ατελείωτος κύκλος οδύνης – ένας κύκλος που τροφοδοτείται από το ίδιο μας το κεφάλι, το οποίο γεννά σκέψεις και επιθυμίες που, μόλις ικανοποιηθούν, γεννούν αμέσως τις επόμενες, χωρίς ποτέ να φτάνουν σε ανάπαυση. Εξού και η διαρκής οδύνη. Διότι δεν πρόκειται για οντική έλλειψη πραγμάτων που κάποτε θα ικανοποιηθεί· αλλά για οντολογική έλλειψη γαλήνης που ουδέποτε πρόκειται να ακυρωθεί.
Η «σωτηρία», αν υπάρχει σε αυτή την ιστορία […] είναι μια πράξη αγάπης χωρίς αιτία – μια στροφή προς τον άλλον, ακριβώς τη στιγμή που θα ήταν πιο εύκολο να κοιτάξει αλλού.
Το πιο εντυπωσιακό στην ιστορία είναι τι συμβαίνει στη συνέχεια. Ο τέταρτος φίλος δεν προσπερνά αδιάφορα τον βασανισμένο άνθρωπο. Σοκάρεται, τον πλησιάζει, τον ρωτά τι συμβαίνει – από αυθόρμητη συμπόνια, όχι από περιέργεια. Και ακριβώς τη στιγμή εκείνη ο τροχός μεταπηδά στο δικό του κεφάλι, ελευθερώνοντας από το μαρτύριο τον προηγούμενο. Και, έκπληκτος, μαθαίνει ότι πλέον αυτός θα κουβαλάει την έσχατη αλήθεια, μέχρι να βρεθεί κάποιος άλλος –εξίσου φιλόδοξος ώστε να μη σταματήσει, όπως οι προηγούμενοι, στον χαλκό, στο ασήμι ή στον χρυσό, αλλά αρκετά συμπονετικός ώστε να θέσει την ίδια ερώτηση– και τη στιγμή που τη θέσει, να τον ελευθερώσει με τον ίδιο τρόπο και να πάρει τη θέση του ως ο επόμενος φύλακας της έσχατης και μαρτυρικής αυτής, οντολογικής αλήθειας.
[…] Να διαφυλάξουμε ανθρώπινες ακριβώς εκείνες τις στιγμές όπου η αξία της πράξης δεν βρίσκεται στο αποτέλεσμα, αλλά στο γεγονός ότι κάποιος επέλεξε ελεύθερα να σκύψει πάνω από τον πόνο του άλλου.
Η «σωτηρία» δηλαδή, αν υπάρχει σε αυτή την ιστορία, δεν είναι κάποια λύση που μαγικά εξαφανίζει τον πόνο. Ούτε είναι η οριστική υλοποίηση των οντικών υποσχέσεων ενός χαλκού, ασημιού και χρυσού – όσο και αν αλλάζει η ορολογία και το αντίστοιχο εύρος των δυνατοτήτων κάθε «νέου χρυσού» που αναδύεται στη ροή της εγκόσμιας ιστορίας μας. Αλλά είναι μια πράξη αγάπης χωρίς αιτία – μια στροφή προς τον άλλον, ακριβώς τη στιγμή που θα ήταν πιο εύκολο να κοιτάξει αλλού. Ο ίδιος ο Campbell το διατυπώνει με ενάργεια: «Ο απώτατος σκοπός της αναζήτησης δεν μπορεί να είναι ούτε η λύτρωση ούτε η έκσταση για τον εαυτό μας, αλλά η σοφία και η δύναμη να υπηρετήσουμε τους άλλους».
Εδώ, νομίζω, συναντιούνται οι δύο ιστορίες. Το «Human Reserved» του Gates δεν είναι, τελικά, ένα τεχνικό όριο – μια γραμμή που χαράσσουμε επειδή η μηχανή αδυνατεί να τη διαβεί. Είναι μια ηθική και υπαρξιακή επιλογή: να διαφυλάξουμε ανθρώπινες ακριβώς εκείνες τις στιγμές όπου η αξία της πράξης δεν βρίσκεται στο αποτέλεσμα, αλλά στο γεγονός ότι κάποιος επέλεξε ελεύθερα να σκύψει πάνω από τον πόνο του άλλου.
Όσο πιο ελκυστικός γίνεται ο «χρυσός» της AI, τόσο πιο σαφές καθίσταται πως αυτό που πραγματικά χρειαζόμαστε δεν είναι ένας ακόμη σταθμός στην αέναη αναζήτηση – με τις γνωστές υποσχέσεις πως, επιτέλους, κυοφορείται το τέλος της ιστορίας. Αλλά η οδυνηρή αναγνώριση του υπαρξιακού μας ελλείμματος και η προστασία της δυνατότητας να το πληρώσουμε, έστω στιγμιαία, με μια πράξη αγάπης που αναδύεται χωρίς καμία αιτία – και χωρίς καμία προσδοκία.
Διαβάστε επίσης στην αθηΝΕΑ:
Γιατί οι Ίδιες οι Εταιρείες AI Ζητούν να Πατήσουμε Φρένο;
