Καθώς η AI περνά από τη σύνθεση υπάρχουσας γνώσης στην παραγωγή νέας, τα όρια ανάμεσα στον ερευνητή, το εργαλείο και τον δημιουργό αρχίζουν να θολώνουν. Ένα Νόμπελ που δεν υπάρχει γίνεται έτσι το ιδανικό thought experiment για ένα πολύ πραγματικό ερώτημα: τι σημαίνει επιστημονική ανακάλυψη στην εποχή της AI;
Ένα από τα πολλά συναρπαστικά πράγματα που συμβαίνουν αυτή την περίοδο είναι ότι η αντίστροφη μέτρηση για τα φετινά βραβεία Νόμπελ συμπίπτει χρονικά με μια εξέλιξη που, αν επιβεβαιωθεί, μοιάζει με το τέλειο thought experiment για την εποχή της τεχνητής νοημοσύνης.
Πριν από λίγες ημέρες, η OpenAI ανακοίνωσε ότι ένα σύστημα με περίπου 10.000 AI agents, δουλεύοντας για 88 ώρες, κατέληξε σε μια προτεινόμενη λύση για ένα από τα περίφημα Millennium Prize Problems: το πρόβλημα ύπαρξης και ομαλότητας των εξισώσεων Navier-Stokes.
Οι εξισώσεις αυτές περιγράφουν την κίνηση των ρευστών – από τον αέρα γύρω από ένα αεροπλάνο μέχρι τα θαλάσσια ρεύματα και τη ροή του αίματος. Γνωρίζουμε εδώ και σχεδόν δύο αιώνες ότι δουλεύουν εξαιρετικά καλά. Αυτό που δεν γνωρίζουμε είναι αν οι λύσεις τους παραμένουν πάντοτε «ομαλές» ή αν, υπό ορισμένες συνθήκες, μπορούν να οδηγηθούν σε μαθηματικές ανωμαλίες, στα λεγόμενα singularities. Το Clay Mathematics Institute έχει προσφέρει από το 2000 ένα εκατομμύριο δολάρια σε όποιον καταφέρει να το αποδείξει.
Η OpenAI, λοιπόν, ισχυρίζεται ότι τα κατάφερε. Η λύση θα πρέπει, φυσικά, να ελεγχθεί εξονυχιστικά από τη μαθηματική κοινότητα. Αλλά ας υποθέσουμε, για τις ανάγκες της συζήτησής μας, ότι στέκει. Έχω ένα κάπως εικονοκλαστικό ερώτημα για εσάς σήμερα: ποιος θα έπρεπε να πάρει το Νόμπελ;
***
Ναι, γνωρίζω ότι δεν υπάρχει Νόμπελ Μαθηματικών. Και σίγουρα δεν έχω το προνόμιο να αξιολογήσω το αν η λύση του προβλήματος θα ήταν ικανή για να χαρίσει σε όποιον το έλυσε το Νόμπελ, αν αυτό υπήρχε. Αλλά ας μην αφήσουμε αυτές τις μικρές λεπτομέρειες να μας χαλάσουν έναν πολύ καλό υπαρξιακό προβληματισμό.
Γιατί η υπόθεση είναι ακόμη πιο ενδιαφέρουσα απ’ ό,τι ίσως έχετε διαβάσει μέχρι στιγμής (the plot thickens αγγλιστί!).
Βλέπετε, ο Tristan Buckmaster, μαθηματικός στο NYU, και ο Levent Alpöge, μαθηματικός που εργάζεται στην Anthropic, δούλευαν εδώ και περίπου έναν χρόνο πάνω σε συγγενή προβλήματα της δυναμικής των ρευστών. Στο πλαίσιο της δουλειάς τους χρησιμοποιούσαν και εργαλεία τεχνητής νοημοσύνης, μεταξύ των οποίων το Codex της OpenAI.
Στις αρχές Σεπτεμβρίου, η OpenAI πληροφορήθηκε ότι υπήρχε σοβαρή πρόοδος σε δύο από τα Millennium Problems και έστρεψε το δικό της, πολύ ισχυρότερο σύστημα προς αυτά. Λίγες ημέρες αργότερα βγήκε η ανακοίνωση του ισχυρισμού ότι η λύση είχε βρεθεί.
Όπως ήταν αναμενόμενο, ο Buckmaster δεν πέταξε τη σκούφια του με το νέο.
***
Από την πλευρά της, η OpenAI υποστηρίζει ότι ούτε οι ερευνητές της ούτε οι agents είχαν πρόσβαση στη συγκεκριμένη μη δημοσιευμένη δουλειά των δύο μαθηματικών. Παραδέχεται, όμως, κάτι ενδιαφέρον: ότι δεν μπορεί να αποκλείσει το ενδεχόμενο αποταυτοποιημένα (de-identified) δεδομένα που προέκυψαν κατά τη χρήση των προϊόντων της από τους ερευνητές να είχαν αξιοποιηθεί για τη βελτίωση των μοντέλων της.
Και κάπου εδώ αρχίζει το μπέρδεμα. Αν η λύση αποδειχθεί σωστή, σε ποιον αξίζουν τα εύσημα; Με ακόμη πιο απλά λόγια: ποιος ακριβώς την ανακάλυψε; Οι μαθηματικοί που ανέπτυξαν μια θεωρητική διαδρομή προς την απάντηση; Οι άνθρωποι που έθεσαν το σωστό πρόβλημα στην τεχνητή νοημοσύνη; Οι ερευνητές που σχεδίασαν τον τρόπο με τον οποίο θα συνεργαστούν 10.000 agents; Οι μηχανικοί που κατασκεύασαν το μοντέλο; Η εταιρεία που πλήρωσε το compute και κατέχει την υποδομή;
Ή μήπως το ίδιο το μοντέλο;
Μπορεί να σας φαίνεται κάπως πρόωρο το τελευταίο. Να παίρνει Νόμπελ –έστω ένα ανύπαρκτο Νόμπελ– «μία μηχανή»; Πιθανότατα είναι. Φοβάμαι, όμως, ότι δεν θα είναι για πολύ.
Γιατί, καθώς τα μοντέλα μετακινούν το πεδίο δράσης τους από το να ανασύρουν και να συνθέτουν υπάρχουσα πληροφορία και γνώση στο να παράγουν νέα γνώση –γνώση δηλαδή που δεν είχε προηγουμένως ανακαλυφθεί από ανθρώπους– τόσο μια σειρά από διαχωριστικές γραμμές που μέχρι χθες θεωρούσαμε σχετικά αυτονόητες αρχίζουν να θολώνουν.
Πώς θα απαντούμε τώρα ερωτήματα όπως το ποιος έκανε την ανακάλυψη; Ποιος δικαιούται την αναγνώριση; Και ποιος κατέχει τη γνώση που προκύπτει από την ανακάλυψη αυτή;
***
Πριν παρασυρθούμε όμως και θεωρήσουμε ότι τα ερωτήματα αυτά είναι καινοφανή ή αφορούν αποκλειστικά την παραγωγή γνώσης από μη ανθρώπινες νοημοσύνες, μια ματιά στην (ανθρώπινη) ιστορία αρκεί για να θυμηθούμε ότι δεν θα είναι η πρώτη φορά που οι άνθρωποι τσακώνονται για ένα τέτοιο θέμα.
Οι διαφωνίες γύρω από την πατρότητα της γνώσης δεν είναι καθόλου καινούργιες. Η τεχνητή νοημοσύνη απλώς τις κάνει εκρηκτικά πιο περίπλοκες.
Οι Newton και Leibniz ενεπλάκησαν σε μια από τις διασημότερες διαμάχες στην ιστορία της επιστήμης για το ποιος ανακάλυψε πρώτος τον απειροστικό λογισμό – παρότι σήμερα θεωρούμε ότι πιθανότατα έφτασαν σε αυτόν ανεξάρτητα ο ένας από τον άλλο.
Η συμβολή της Rosalind Franklin στην ανακάλυψη της δομής του DNA παραμένει ένα από τα χαρακτηριστικότερα παραδείγματα του πόσο δύσκολα αποδίδεται εκ των υστέρων η επιστημονική πατρότητα.
Αλλά και ο Grigori Perelman, όταν έλυσε ένα άλλο Millennium Problem, την εικασία του Poincaré, αρνήθηκε τόσο το Fields Medal όσο και το ένα εκατομμύριο δολάρια του Clay Institute, αμφισβητώντας, μεταξύ άλλων, την ίδια την κουλτούρα που μετατρέπει μια συλλογική επιστημονική προσπάθεια σε ατομικό θρίαμβο.
Οι διαφωνίες γύρω από την πατρότητα της γνώσης, με άλλα λόγια, δεν είναι καθόλου καινούργιες. Η τεχνητή νοημοσύνη απλώς τις κάνει εκρηκτικά πιο περίπλοκες.
Κι εδώ νομίζω ότι υπάρχει ένας σημαντικός και γόνιμος παραλληλισμός με μια άλλη συζήτηση που ήδη κάνουμε γύρω από την τεχνητή νοημοσύνη: εκείνη της δημιουργικότητας.
Υπάρχει, άραγε, ποτέ πραγματικά παρθένα δημιουργία;
Ένας συγγραφέας έχει διαβάσει εκατοντάδες άλλους συγγραφείς. Ένας ζωγράφος έχει δει χιλιάδες εικόνες. Ένας επιστήμονας έχει περάσει τη ζωή του διαβάζοντας τη δουλειά ανθρώπων που προηγήθηκαν. Καμία ιδέα δεν γεννιέται στο απόλυτο κενό. Ακόμη και οι μεγαλύτερες ανθρώπινες ιδιοφυΐες στέκονται, για να δανειστώ την πασίγνωστη ρήση του Newton, «στους ώμους γιγάντων».
Αν λοιπόν δεν απαιτούμε από τον άνθρωπο να δημιουργεί γνώση εκ του μηδενός, γιατί αυτή γίνεται ξαφνικά προϋπόθεση όταν ο δημιουργός της γνώσης δεν είναι άνθρωπος;
***
Υπάρχουν, ασφαλώς, πολύ σοβαρές απαντήσεις σε αυτό το ερώτημα. Υπάρχουν ζητήματα συναίνεσης. Αποζημίωσης. Πρόσβασης. Ισχύος. Και, φυσικά, ιδιοκτησίας.
Γιατί τα μοντέλα αυτά δεν φύτρωσαν από το πουθενά. Έχουν εκπαιδευτεί πάνω σε ένα τεράστιο κομμάτι της καταγεγραμμένης ανθρώπινης γνώσης: στα βιβλία μας, στις επιστημονικές μας εργασίες, στον κώδικά μας, στις εικόνες μας, στα tweets μας, στις εξισώσεις μας, στις αποτυχίες και στις ανακαλύψεις ανθρώπων που έζησαν πολύ πριν κάποιος φανταστεί ότι όλα αυτά θα μπορούσαν κάποτε να αποτελέσουν το υλικό εκπαίδευσης μιας μη ανθρώπινης νοημοσύνης.
Και όσο τα μοντέλα γίνονται ικανότερα, όχι απλώς στο να αναπαράγουν αυτήν τη γνώση αλλά να χτίζουν πάνω της, τόσο δυσκολότερο γίνεται το φαινομενικά απλό ερώτημα: σε ποιον ανήκει αυτό που θα ανακαλύψουν;
Αν η αναζήτηση της γνώσης είναι πράγματι αυτό που μας ενδιαφέρει, τότε ίσως το πώς αποκτήθηκε θα έπρεπε να μας απασχολεί λιγότερο από το τι ανακαλύφθηκε.
Θα μπορούσαμε, φυσικά, να μπούμε εδώ στη μεγάλη συζήτηση περί συνείδησης. Αν ένα AI «καταλαβαίνει» τι ανακάλυψε. Αν μπορεί να έχει πρόθεση. Αν «δικαιούται» να θεωρείται δημιουργός.
Ας αφήσουμε αυτό το κάπως απαιτητικό φιλοσοφικό πρόβλημα για μιαν άλλη μέρα. Όπως και το άλλο –λιγότερο φιλοσοφικό, ανατριχιαστικά πρακτικό και κάθε μέρα πιο επίκαιρο– ερώτημα του τι μπορεί να συμβεί όταν μια τέτοια νοημοσύνη αρχίσει να ξεπερνά κατά πολύ τους δημιουργούς της.
Έχουμε μπροστά μας ένα απλούστερο –και επείγον– πρόβλημα ιδιοκτησίας.
Γιατί, αν η αναζήτηση της γνώσης είναι πράγματι αυτό που μας ενδιαφέρει, τότε ίσως το πώς αποκτήθηκε θα έπρεπε να μας απασχολεί λιγότερο από το τι ανακαλύφθηκε.
Μια θεραπεία για το Alzheimer δεν γίνεται λιγότερο πολύτιμη επειδή την ανακάλυψε ένα μηχάνημα. Μια απόδειξη δεν γίνεται λιγότερο αληθινή επειδή κανένας ανθρώπινος εγκέφαλος δεν σκέφτηκε πρώτος τα βήματά της.
Αν λοιπόν ο σκοπός της επιστήμης είναι η πρόοδος της γνώσης, ίσως θα έπρεπε απλώς να πανηγυρίσουμε.
Αλλά υπάρχει και ένα τρίτο ερώτημα.
Όχι το τι. Ούτε το πώς. Το γιατί.
Άλλωστε η επιστήμη δεν υπήρξε ποτέ μόνο ένας μηχανισμός παραγωγής σωστών απαντήσεων. Οι άνθρωποι κοιτάξαμε τα άστρα επειδή θέλαμε να μάθουμε τι υπάρχει εκεί πάνω. Περάσαμε αιώνες προσπαθώντας να λύσουμε μαθηματικά προβλήματα χωρίς καμία προφανή πρακτική εφαρμογή. Αναζητήσαμε σωματίδια που δεν μπορούσαμε να δούμε και γεγονότα που συνέβησαν δισεκατομμύρια χρόνια πριν περπατήσουμε στη Γη.
Βέβαια, η επιστημονική πρόοδος άλλαξε τη ζωή μας σε βαθμό που δύσκολα θα μπορούσε να υπερεκτιμηθεί. Αλλά υπήρχε πάντα και κάτι άλλο. Η καθαρή χαρά της ανακάλυψης; Η επιθυμία ενός ανθρώπινου μυαλού να καταλάβει κάτι που μέχρι εκείνη τη στιγμή κανένα ανθρώπινο μυαλό δεν είχε καταλάβει; Πείτε το όπως θέλετε – ακόμη κι ένα μικρό παιδί ξέρει, ενστικτωδώς, τι εννοώ.
***
Αφήνοντας στην άκρη –όλο και δυσκολότερα, ακόμη και για τις ανάγκες ενός thought experiment– τους πολύ πραγματικούς κινδύνους της κακής ευθυγράμμισης ή της συγκέντρωσης υπερβολικά ισχυρών συστημάτων σε λάθος χέρια, ας κάνουμε την πιο αισιόδοξη δυνατή υπόθεση: ότι όλα πάνε καλά.
Ότι αποκτούμε συστήματα τεχνητής νοημοσύνης ικανά να επιταχύνουν δραματικά την επιστημονική πρόοδο. Να λύνουν προβλήματα που μας βασάνιζαν για αιώνες. Να ανακαλύπτουν νέα φάρμακα, νέα υλικά, νέα μαθηματικά. Και ότι, κάποια στιγμή, η πλειονότητα των σημαντικότερων επιστημονικών ανακαλύψεων δεν θα γίνεται πια από εμάς.
Θα ήταν παράλογο να παραπονεθούμε. Θα ήταν όμως εξίσου παράλογο να υποκριθούμε ότι τίποτα σημαντικό δεν έχει αλλάξει.
Ίσως λοιπόν το πραγματικό ερώτημα για τα Νόμπελ στην εποχή της AGI να μην είναι αν δικαιούται ένα AI να τα κερδίσει. Αν το κριτήριο είναι ποιος προήγαγε περισσότερο την επιστήμη – μπορεί κάποια στιγμή να μοιάζει σχεδόν παράλογο να μην τα κερδίζει.
Το δυσκολότερο ερώτημα είναι τι ακριβώς θα γιορτάζουμε τότε. Γιατί η επιστήμη υπήρξε πάντα δύο πράγματα μαζί: η συσσώρευση γνώσης και η ανθρώπινη περιπέτεια της ανακάλυψής της.
Πολύ σύντομα θα χρειαστεί να ανακαλύψουμε πόσο από το δεύτερο είμαστε διατεθειμένοι να θυσιάσουμε για να αποκτήσουμε ασύλληπτα περισσότερο από το πρώτο.
Διαβάστε επίσης στην αθηΝΕΑ:
Big Zag: Η AI Επιταχύνει τις Θεραπείες. Τι Μπορεί να τις Σταματήσει;
