Οι εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της AI αρχίζουν να μιλούν για ανεξάρτητη εποπτεία και όρια, ανοίγοντας ένα κρίσιμο ερώτημα: μπορούν εκείνοι που οδηγούν την κούρσα της AI να είναι και εκείνοι που θα πατήσουν φρένο;
Οι κορυφαίες εταιρείες ΑΙ συμφώνησαν στο πρώτο βήμα για την επιβράδυνση της τεχνητής νοημοσύνης. Πριν από λίγες ώρες ο Dario Amodei, επικεφαλής της Anthropic, που διαθέτει το ισχυρότερο πιθανώς μοντέλο τεχνητής νοημοσύνης στον κόσμο (Claude), δεσμεύτηκε ότι θα πάρει μονομερώς το πρώτο μέτρο για την επιβράδυνση της ανάπτυξής της.
Δύο ώρες αργότερα, ο Sam Altman (ChatGPT) συμφώνησε για τη λήψη μονομερών μέτρων, με ανάρτησή του στο X. Το μέτρο στο οποίο από κοινού συμφώνησαν (και ο Musk είπε ότι ο Amodei έχει δίκιο, αλλά δεν ξέρουμε τι θα κάνει) είναι η εγκατάσταση ανεξάρτητων εμπειρογνωμόνων στις εταιρείες τους, οι οποίοι θα παρακολουθούν και θα πιστοποιούν την εξέλιξη των ίδιων των μοντέλων.
Ταυτόχρονα ο Amodei, σε κείμενό του, περιγράφει τα βήματα που πρέπει να γίνουν για να προστατευτεί η ανθρωπότητα από τους κινδύνους της ανεξέλεγκτης ανάπτυξης της ΑΙ (ανεξάρτητοι εκτιμητές εγκατεστημένοι στις εταιρείες, συντονισμός των δημοκρατιών για τον έλεγχο ανάπτυξης της ΑΙ και αντίστοιχος παγκόσμιος συντονισμός).
Είναι η Εξέλιξη Σημαντική;
Η εξέλιξη αυτή αιφνιδιάζει, καθώς είναι εξαιρετικά σπάνιο οι ίδιες οι κορυφαίες επιχειρήσεις ενός κλάδου να ζητούν την κρατική ρύθμιση για να επιβραδύνουν την τεχνολογία που οι ίδιοι αναπτύσσουν και να δεσμεύονται με δική τους πρωτοβουλία σε αυτορρύθμιση. Ιδίως με δεδομένο ότι ο βαθύς αλτρουισμός και η διοίκηση εταιρειών αξίας πιθανότατα της τάξεως του τρισεκατομμυρίου δολαρίων δεν είναι συνήθως συμβατές έννοιες.
Δεν θα έπρεπε. Η ΑΙ είναι η πιο σημαντική τεχνολογία στην ιστορία της ανθρωπότητας, καθώς προχωρά στην ανάπτυξη οντοτήτων νοητικά ικανότερων από τον άνθρωπο. Αυτό εννοούν όταν μιλούν για AGI που είναι το πρώτο βήμα και Artificial Superintelligence, που πιθανώς έπεται.
Οι φόβοι είναι δικαιολογημένοι, με δεδομένους τους υπαρξιακούς κινδύνους που έχουν πραγματική βάση. Θυμίζω τη δήλωση του Evan Hubinger, επικεφαλής του τμήματος alignment της Anthropic, πριν από μερικές μέρες για 10% και άνω πιθανότητα η ΑΙ να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Κινδύνους που υιοθετούν πολλοί επιστήμονες που δουλεύουν σε αυτές τις εταιρείες, αλλά και πολλοί ακόμα ειδικοί που γνωρίζουν από πρώτο χέρι τις δυνατότητες και τη δυναμική των μοντέλων. Ακόμα και μια πιθανότητα του 1% θα έπρεπε να μας κάνει όλους να ξυπνάμε κάθιδροι τις νύχτες.
Γιατί Τώρα
Ο χρόνος δεν είναι τυχαίος. Οι αμερικανικές ενδιάμεσες εκλογές απέχουν μόλις 7 εβδομάδες και το θέμα των κινδύνων της ΑΙ ενδέχεται να κυριαρχήσει στην εκεί πολιτική agenda, οδηγώντας πιθανότατα τους υποψηφίους των δύο κομμάτων σε ένα αντί-ΑΙ πολιτικό αφήγημα. Ταυτόχρονα, σε 11 μέρες επίκειται συνάντηση του Trump με τον ηγέτη της Κίνας Xi Jinping, στην οποία με βεβαιότητα θα συζητηθεί η ΑΙ. Μια δύσκολη εγγενώς συζήτηση, μια που μονομερής ουσιαστική επιβράδυνση από οποιαδήποτε πλευρά θεωρείται εξαιρετικά κρίσιμο θέμα εθνικής ασφάλειας και γεωπολιτικού ανταγωνισμού.
Ταυτόχρονα, οι δύο εταιρείες –πρώτα η Anthropic– σχεδιάζουν την είσοδο στο αμερικανικό χρηματιστήριο με εκτιμήσεις αξίας άνω του ενός τρισεκατομμυρίου δολαρίων. Είναι συνεπώς παράδοξο να ζητούν χρήματα από τους επενδυτές για κάτι που οι ίδιοι λένε ότι αν μείνει ανεξέλεγκτο, μπορεί να καταστρέψει την ανθρωπότητα.
Οι Βαθύτεροι Οικονομικοί Λόγοι
Τα μοντέλα AI σήμερα έχουν πολύ μεγαλύτερες δυνατότητες από αυτές που αξιοποιούν άνθρωποι, επιχειρήσεις και κράτη. Πριν από μερικούς μήνες, η Anthropic δημοσίευσε μια σχετική εκτίμηση (που αναφέρω και στο βιβλίο μου «ΑΙ: Η Εκτόπιση της Εργασίας») που μετρά τη διαφορά μεταξύ των θεωρητικών δυνατοτήτων των τότε υφιστάμενων μοντέλων και της πραγματικής χρήσης, η οποία δείχνει κατά μέσο όρο μια πολύ χαμηλή αξιοποίηση – εκτιμώ της τάξεως του 10-20%.
Στους έξι μήνες που μεσολάβησαν, τα μοντέλα έχουν γίνει θεαματικά ικανότερα, όχι όμως και ο βαθμός αξιοποίησης. Συνεπώς, αν δεν υπήρχε ο τρελός ανταγωνισμός με την Κίνα και εκείνος μεταξύ τους, οι εταιρείες μια χαρά μπορούν να κερδίσουν ατελείωτα χρήματα από τα υφιστάμενα μοντέλα και μια λογική βελτίωσή τους κατά την επόμενη πενταετία, χωρίς να πρέπει να φτάσουν στη «δημιουργία νέων μοντέλων από τα ίδια τα μοντέλα» («Recursive Self Improvement»). Μια εξέλιξη που βρίσκεται προ των θυρών, σύμφωνα με τον Amodei («Since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI»), και θα οδηγήσει σε μοντέλα αφάνταστα πιο ισχυρά από εμάς, τα οποία κυριολεκτικά δεν θα καταλαβαίνουμε τι και πώς σκέπτονται.
Όπως αναφέρει ο Amodei στο νέο κείμενό του, ήδη ξέρουμε ελάχιστα για το πώς και τι πράγματι σκέπτονται τα υφιστάμενα μοντέλα («We still only understand a tiny fraction of what goes on inside these models»). Πόσο μάλλον μελλοντικά μοντέλα με γεννήτορες προηγούμενες γενιές μοντέλων, έπειτα από χιλιάδες loops.
Έλα Μωρέ, Είναι Marketing…
Θα προλάβω τους καχύποπτους που θεωρούν ότι όλα αυτά είναι marketing και, όπως έλεγε σε άλλη ανάρτησή μου ένας σχολιαστής, η ΑΙ είναι μια «παπάντζα». Κάθε κίνηση εταιρειών τέτοιου μεγέθους έχει και πτυχή marketing, αλλά τα πραγματικά στοιχεία που έχουμε για τις ικανότητες των μοντέλων ίναι πλέον συντριπτικά. Οι πιο σοβαροί αρνητές ήδη έχουν αρχίσει να αλλάζουν αφήγημα και, για να ελαφρύνω λίγο το κλίμα, εκατοντάδες δισεκατομμύρια δολάρια δεν επενδύονται ταυτόχρονα σε Αμερική και Κίνα στον «ακάλυπτο» – για να θυμηθώ την παλιά καλή ελληνική τηλεόραση. Στην Ελλάδα μπορεί σε πολλές περιπτώσεις να σκεφτόμαστε ακόμα έτσι, ο κόσμος όμως δουλεύει αλλιώς…
Και Τώρα τι θα Γίνει;
Είναι θετικό ότι άρχισε μια διεθνής συζήτηση για την επιβράδυνση, από δύο πλευρές:
Η μια είναι ότι οι κίνδυνοι είναι υπαρκτοί και η συζήτηση θα μπορούσε να καταλήξει σε διεθνή συμφωνία που να προβλέπει θέματα ασφάλειας της ΑΙ, όπως αυτή που προτείνω στο βιβλίο μου. Μια συμφωνία που θα έπρεπε να περιλαμβάνει και την προσπάθεια να αποτραπεί η δημιουργία –στο προβλεπτό μέλλον– ΑΙ με συνείδηση, για την οποία η ανθρωπότητα δεν είναι με κανένα τρόπο έτοιμη.
Η δεύτερη είναι ότι μπορεί τα πολιτικά συστήματα ανά τον κόσμο (και το δικό μας) να ξυπνήσουν και να αρχίσουν να συζητούν τις τεράστιες αλλαγές που θα επιφέρει η επανάσταση αυτή (ΑΙ, ρομποτική, έκρηξη επιστημονικών ανακαλύψεων). Να συνειδητοποιήσουν ότι μπαίνουμε βίαια σε μια περίοδο μετάβασης που θα τα αλλάξει όλα. Να καταλάβουν ότι χρειαζόμαστε ενεργές πολιτικές για να διαχειριστούμε μια κοινωνικά και οικονομικά εξαιρετικά σύνθετη και δύσκολη μετάβαση. Κάτι που θεωρώ και δική μου αποστολή στα επόμενα χρόνια, για αυτό και έχω ανοίξει αυτή τη συζήτηση στην Ελλάδα.
Αλλιώς η ανθρωπότητα κινδυνεύει να οδηγηθεί προς το όποιο μέλλον ως υπνοβάτης καθοδηγούμενος από κοπάδι στρουθοκαμήλων.
Διαβάστε επίσης στην αθηΝΕΑ:
Η Αγορά Εργασίας στη Σκιά του AI Bubble
