Ο δρ Geoffrey Hinton ανακοίνωσε σε συνέντευξή του στους NewYork Times πως παραιτείται από την Google. Άλλωστε είναι 75 χρόνων. Είναι καιρός να αποσυρθεί, είπε. H παραίτησή του έκανε τον γύρο του κόσμου. Τα μέσα ενημέρωσης έσπευσαν να αναμεταδώσουν το γεγονός, όχι τόσο γιατί ενδιαφέρει η προσωπική του ζωή όσο γιατί η δημοσιοποίηση αυτής της απόφασης συνοδεύτηκε και από δηλώσεις που αφορούν το μέλλον όλων μας.
Η έρευνα του Βρετανο-Καναδού γνωστικού ψυχολόγου και επιστήμονα υπολογιστών δρ Hinton για τα νευρωνικά δίκτυα ήταν εκείνη που άνοιξε τον δρόμο για τα τρέχοντα συστήματα AI, όπως το ChatGPT. Τα νευρωνικά δίκτυα στην AI είναι συστήματα που μοιάζουν με τον ανθρώπινο εγκέφαλο σχετικά με το πώς μαθαίνουν και επεξεργάζονται τις πληροφορίες.
Ο «νονός», λοιπόν, της τεχνητής νοημοσύνης, όπως αναφέρεται ο Hinton, ανησυχεί. Ανησυχεί για τα chatbots της τεχνητής νοημοσύνης, λέγοντας πως κρύβουν κινδύνους που μοιάζουν «αρκετά τρομακτικοί». Υπογραμμίζει πως τώρα «δεν είναι πιο έξυπνα από εμάς», αλλά ότι «σύντομα μπορεί να γίνουν».
Ανέφερε χαρακτηριστικά πως το GPT-4 μπορεί να υπερέχει γνωστικά από ένα μεμονωμένο άτομο, ωστόσο χωλαίνει στους συλλογισμούς. Όπως όλα δείχνουν, όμως, «αναμένουμε ότι τα πράγματα θα βελτιωθούν αρκετά γρήγορα. Επομένως, πρέπει να ανησυχούμε για αυτό».
Και συνέχισε: «Όλα αυτά τα ψηφιακά αντίγραφα μπορούν να μαθαίνουν χωριστά, αλλά να μοιράζονται τις γνώσεις τους αμέσως. Είναι σαν να έχουμε 10.000 άτομα και όποτε ένα άτομο μαθαίνει κάτι, να το γνωρίζουν όλα αυτόματα. Και έτσι, τα chatbots να γνωρίζουν πολύ περισσότερα από οποιοδήποτε άτομο».
Μια Ανοιχτή Επιστολή προς την Ανθρωπότητα
Υπό αυτό το πρίσμα, τον Μάρτιο, εξέχουσες προσωπικότητες της τεχνολογίας, μεταξύ αυτών και ο Hinton, υπέγραψαν μια ανοιχτή επιστολή καλώντας τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν την εκπαίδευση των πιο ισχυρών συστημάτων AI για τουλάχιστον έξι μήνες, αναφέροντας «κινδύνους για την κοινωνία και την ανθρωπότητα».
Tην επιστολή είχε υπογράψει και ο Yoshua Bengio, που επίσης αναφέρεται ως «νονός» της AI, ο οποίος μαζί με τον Hinton και τον Yann LeCun είχαν κερδίσει το βραβείο Turing 2018 για το έργο τους. Ο Yoshua μίλησε για «απροσδόκητη επιτάχυνση» στα συστήματα τεχνητής νοημοσύνης και προειδοποίησε ότι «πρέπει να κάνουμε ένα βήμα πίσω».
Η επιστολή είχε δημοσιευτεί στο Future of Life Institute, έναν μη κερδοσκοπικό οργανισμό που υποστηρίζεται από τον Elon Musk, μόλις δύο εβδομάδες αφότου το OpenAI ανακοίνωσε το GPT-4, μια ακόμη πιο ισχυρή έκδοση της τεχνολογίας που τροφοδοτεί το ChatGPT.
«Δεν Πρέπει να Σταματήσουμε…»
Αυτό δεν σημαίνει ότι ο Hinton δαιμονοποιεί τη συγκεκριμένη τεχνολογική εξέλιξη, αντίθετα, πιστεύει πως «δεν πρέπει να σταματήσουμε να αναπτύσσουμε αυτό το υλικό».
Αναγνωρίζει επίσης πως, καθώς ο διεθνής ανταγωνισμός έχει πάρει φωτιά, η παύση αυτή είναι τουλάχιστον δύσκολη, αν όχι αδύνατη. «Ακόμα κι αν όλοι στις ΗΠΑ σταματούσαν να το αναπτύσσουν, η Κίνα θα έπαιρνε απλώς ένα μεγάλο προβάδισμα», ανέφερε.
Αναφέρθηκε επίσης στην Google λέγοντας πως ο τεχνολογικός γίγαντας υπήρξε «πολύ υπεύθυνος», συμπληρώνοντας «Θέλω πραγματικά να πω μερικά καλά πράγματα για την Google. Και είναι πιο αξιόπιστα αν δεν εργάζομαι για την Google».
Τέλος, δήλωσε πως ο ίδιος είναι ειδικός στην επιστήμη, όχι στην πολιτική κι ότι είναι ευθύνη της κυβέρνησης να διασφαλίσει ότι η τεχνητή νοημοσύνη θα αναπτυχθεί με τρόπο που δεν θα την καταστήσει «αδίστακτη».
Έχει Ηθικό Πρόσημο η Επιστήμη;
Δεν μπορεί παρά να μας προβληματίσουν όλα όσα αναφέρει ο Hinton. Αυτόματα, το μυαλό μας πηγαίνει πίσω, στην ιστορία, όπως πάντα, άλλωστε.
Φέρνουμε στο μνήμη μας, λοιπόν, τις δύο επιστολές που είχε συντάξει ο Einstein προς τον πρόεδρο Roosevelt, συστήνοντας «επαγρύπνηση» σε σχέση με την κατασκευή των ατομικών όπλων από τους εχθρούς. Οι Αμερικανοί, για να απαντήσουν σε τυχόν πρόκληση των χιτλερικών, ανέπτυξαν με μεγαλύτερη ταχύτητα το ερευνητικό πρόγραμμα «Μανχάταν», που θα κατέληγε στην κατασκευή της πρώτης ατομικής βόμβας.
Το όνομα του Einstein συνδέθηκε με μια πολύ μελανή σελίδα της σύγχρονης ιστορίας μας, τον τραγικό αφανισμό της Χιροσίμα και του Ναγκασάκι, αν και ο ίδιος δεν πήρε ποτέ μέρος στις έρευνες για την κατασκευή βόμβας πυρηνικής σχάσης. Η εφαρμογή της Ε=mc2, ωστόσο, ήταν γεγονός.
Στη δεκαετία του ’30, σε μια προφητική επιστολή του προς τον Sigmund Freud, στην οποία δήλωνε την απογοήτευσή του για τα ένστικτα του κόσμου που ρέπουν στην καταστροφή, ο Freud είχε απαντήσει πως «η ειρήνη σχετίζεται με τον υψηλό βαθμό πολιτιστικής ανάπτυξης και ο πόλεμος με σύνδρομα που εκπορεύονται από τα ένστικτα».
Δεν ξέρω αν η αναλογία είναι ταιριαστή, ωστόσο οι καιροί της καταστροφής παραμονεύουν πάντα, ξεπηδούν ακμαίοι μέσα από στάχτες, φορώντας άλλους μανδύες, χρησιμοποιώντας άλλες διαλέκτους. Ας επαγρυπνούμε, το λιγότερο.
Διαβάστε επίσης στην αθηΝΕΑ:
11.500 Συγγραφείς του Χόλιγουντ Γράφουν το Δικό τους Σενάριο: Απεργία
48 Ώρες στη Βαρκελώνη | Τροφή για Σκέψη Γυρίζοντας στις Πόλεις μας
Μήπως Πρέπει να Ντύσουμε τα Αγάλματα;
