Η μεγαλύτερη επιτυχία της παραπληροφόρησης δεν είναι να σε κάνει να πιστέψεις ένα ψέμα. Είναι να σε κάνει να αμφιβάλλεις για τα πάντα. Ακόμη και για την αλήθεια όταν βρίσκεται μπροστά στα μάτια σου.
Ο Hany Farid είναι Αμερικανός καθηγητής πανεπιστημίου που ειδικεύεται στην ανίχνευση ψηφιακά επεξεργασμένων εικόνων με σκοπό την παραπλάνηση, όπως τα deepfakes. Και λέει πως πλέον δυσκολεύεται να εμπιστευτεί τα ίδια του τα μάτια.
Καθημερινά δέχεται καταιγισμό από μηνύματα που ζητούν τα φώτα του. Από κυβερνήσεις, οργανώσεις ανθρωπίνων δικαιωμάτων, δημοσιογράφους και άλλους που μπερδεύονταν όλο και περισσότερο στον διαδικτυακό κόσμο. Και εκείνος προσπαθεί να αποδείξει τι είναι αληθινό προτού το διαδίκτυο αποφασίσει μόνο του. Ένα από αυτά που του είχαν σταλεί για επαλήθευση ήταν και το viral βίντεο που έδειχνε έναν πύραυλο αμερικανικής κατασκευής να χτυπά ένα δημοτικό σχολείο στο Ιράν, στην αρχή του πολέμου, εκεί όπου είχαν σκοτωθεί περισσότεροι από 150 άνθρωποι, κυρίως παιδιά.
Τις τελευταίες μέρες, είχε εξετάσει δεκάδες πειστικά βίντεο με ψεύτικες βομβιστικές επιθέσεις, ψεύτικες αεροπορικές συντριβές, ψεύτικες πυρκαγιές και ψεύτικες εκτελέσεις που είχαν δημιουργηθεί από τεχνητή νοημοσύνη.
Έμοιαζε με σκηνή από βιντεοπαιχνίδι. «Είναι μια διαδικτυακή φάρσα ή ένα διεθνές έγκλημα πολέμου;» αναρωτήθηκε. Παρακολουθούσε ξανά και ξανά το βίντεο, το επιβράδυνε, το έσπαζε καρέ-καρέ. Οι λεπτομέρειες ήταν ακριβείς. Το παρακολούθησε αμέτρητες φορές, αμφισβητώντας το ένστικτό του και επανελέγχοντας τα μαθηματικά του.
Εν τω μεταξύ, το βίντεο είχε ήδη προβληθεί τουλάχιστον 1,1 εκατομμύριο φορές στα μέσα κοινωνικής δικτύωσης. Είχε δημοσιευτεί και κοινοποιηθεί από ένα επίσημο ιρανικό πρακτορείο ειδήσεων, αλλά αυτό δεν σήμαινε πολλά για τον ίδιο – πρόσφατα είχε δει deepfakes που είχαν δημιουργηθεί τόσο από ξένες κυβερνήσεις όσο και από στελέχη του Λευκού Οίκου.
«Συνολικά, δεν βρίσκουμε πειστικά στοιχεία ότι το βίντεο είναι ψεύτικο ή έχει παραποιηθεί», έγραψε τελικά ο Farid.
Πράγματι, ο βομβαρδισμός ήταν αληθινός. Οι συνέπειες είχαν να κάνουν με μια τραγική πραγματικότητα. Με νεκρά παιδιά που λίγο πριν έκαναν απλώς μάθημα στο σχολείο τους.
Όμως, αν οποιαδήποτε εικόνα μπορεί να κατασκευαστεί –και να χρησιμοποιηθεί για κάθε είδους χειραγώγηση– πώς μπορούμε να πιστέψουμε οτιδήποτε βλέπουμε; Πλέον, υποστηρίζει ο Farid, οποιοσδήποτε μπορεί να χρησιμοποιήσει μια στατική φωτογραφία και ένα ηχητικό κλιπ 10 δευτερολέπτων για να μεταμορφώσει οποιονδήποτε στο διαδίκτυο, να υποστηρίζει το οτιδήποτε.
Και εδώ εντοπίζεται ένα από τα μεγαλύτερα προβλήματα, ίσως ακόμη πιο μεγάλο από την παραπλάνηση: ότι οι άνθρωποι βλέπουν πραγματικές ειδήσεις που δεν τις εμπιστεύονται, που δεν πιστεύουν ότι είναι πραγματικές.
Τα Deepfakes, o Πόλεμος και η Αμφισβήτηση της Αλήθειας
Τα μεγάλα διεθνή πρακτορεία ειδήσεων και οι οργανισμοί στον κόσμο με ομάδες fact-checking, οι οποίες ελέγχουν ψευδείς ειδήσεις και περιεχόμενο δημιουργημένο από τεχνητή νοημοσύνη, αναφέρουν έναν πρωτοφανή αριθμό ψευδών πληροφοριών που κάνουν τον γύρο του διαδικτύου σχετικά με τα πολλαπλά μέτωπα στη Μέση Ανατολή – σε ρυθμό που δεν έχει παρατηρηθεί ποτέ ξανά σε παρόμοια κρίση.
Αν και η ρωσική εισβολή στην Ουκρανία, ο πόλεμος Ισραήλ-Γάζας και η σύγκρουση μεταξύ Ινδίας και Πακιστάν προκάλεσαν κύματα τέτοιου περιεχομένου, τώρα ο όγκος είναι τεράστιος και ο ρεαλισμός των εικόνων ή των βίντεο πιο πιστευτών, καθώς είναι προϊόντα πιο προηγμένων εργαλείων, πιο φθηνών και άρα πιο προσβάσιμων, χωρίς πολλά από τα παλαιότερα, εμφανή σημάδια παραποίησης.
Το αποτέλεσμα είναι μια ολοένα βαθύτερη κρίση εμπιστοσύνης. Μια κρίση που οδηγεί και στο ότι συχνά οι εξαιρετικά ρεαλιστικές κατασκευές αυτές της τεχνητής νοημοσύνης επισκιάζουν τις αυθεντικές εικόνες και τα βίντεο. Και εδώ εντοπίζεται ένα από τα μεγαλύτερα προβλήματα, ίσως ακόμη πιο μεγάλο από την παραπλάνηση: ότι οι άνθρωποι βλέπουν πραγματικές ειδήσεις που δεν τις εμπιστεύονται, που δεν πιστεύουν ότι είναι πραγματικές.
Πρόκειται για το φαινόμενο «Μέρισμα του Ψεύτη» (Liar’s Dividend), σύμφωνα με το οποίο η μαζική ύπαρξη των deepfakes επιτρέπει σε οποιονδήποτε να αμφισβητήσει και να απορρίψει μια πέρα για πέρα αληθινή είδηση, βίντεο ή τεκμήριο ως «προϊόν τεχνητής νοημοσύνης», δίνοντας έτσι τη δυνατότητα σε πολιτικούς, εγκληματίες και δημόσια πρόσωπα να αρνηθούν την ενοχή τους.
Για παράδειγμα, όταν κυκλοφόρησαν φήμες ότι ο Benjamin Netanyahu τραυματίστηκε, το γραφείο του δημοσίευσε βίντεο για να το διαψεύσει. Ωστόσο, εκατομμύρια χρήστες στα social media θεώρησαν το βίντεο deepfake. Ισχυρίστηκαν ότι ο Νετανιάχου φαινόταν να έχει… έξι δάχτυλα –ως κατασκευαστικό λάθος της AI–, ενώ στην πραγματικότητα επρόκειτο για απλό παιχνίδισμα του φωτός. «Την τελευταία φορά που ήλεγξα, οι άνθρωποι συνήθως δεν έχουν 6 δάχτυλα… Η τεχνητή νοημοσύνη έχει», έγραφε μια ανάρτηση στο X, συγκεντρώνοντας σχεδόν πέντε εκατομμύρια προβολές.
Σε αυτή την ήδη δύσκολη κατάσταση, αναδύεται και ένα νέο φαινόμενο που αποτελεί ξεχωριστή απειλή για τις υποδομές επαλήθευσης, στις οποίες βασίζονται, πέρα από τη δική μας «ανέξοδη» πληροφόρηση, και οι κοινότητες που ζουν σε συνθήκες σύγκρουσης, οι οποίες, έχοντας περιορισμένη πρόσβαση σε αξιόπιστες πηγές, μπορεί να οδηγηθούν σε ζώνες πυρός: είναι οι φορείς που χρησιμοποιούν «τεχνικοφανείς αναλύσεις» και αναξιόπιστα λογισμικά ανίχνευσης AI για να βγάλουν εσκεμμένα «ψεύτικα» τα αληθινά τεκμήρια και τις επίσημες καταγραφές του πολέμου, με σκοπό, φυσικά, και πάλι την παραπλάνηση.
Σε κάθε περίπτωση, το αποτέλεσμα είναι το ίδιο: αποδεικτικά στοιχεία συνδέονται με έναν ψευδή ισχυρισμό και διαδίδονται ταχύτερα απ’ ό,τι μπορεί να ακολουθήσει οποιαδήποτε διόρθωση. Πρόκειται για την εργαλειοποίηση της ίδιας της ανίχνευσης τεχνητής νοημοσύνης.
Η Αποτυχία της Επαλήθευσης
Ναι, αλλά υπάρχουν και τα τεχνικά εργαλεία που ξεχωρίζουν το αληθινό από το ψεύτικο. Τι γίνεται με αυτά;
Πολλές αναλύσεις μιλάνε για την αποτυχία της αποστολής τους. Επειδή εκπαιδεύονται σε ήδη γνωστά μοντέλα παραγωγής, οπότε όταν οι δημιουργοί deepfakes χρησιμοποιήσουν μια νέα μέθοδο, το «ανοσοποιητικό τους σύστημα» βάλλεται. Επειδή είναι εξαιρετικά ευάλωστα σε σε «δηλητηριασμένα δεδομένα» (data poisoning) και ψηφιακές πίσω πόρτες (backdoors), επιτρέποντας σε κακόβουλα deepfakes να περνούν ως γνήσια. Επειδή οι ανθρώπινοι οργανισμοί ελέγχου γεγονότων (fact-checkers) και οι πλατφόρμες απλώς δεν μπορούν να συμβαδίσουν με την ταχύτητα της παραγωγικής νοημοσύνης.
Οι κολοσσοί της τεχνολογίας δέχονται ασφυκτικές πιέσεις από κυβερνήσεις και ρυθμιστικές αρχές και υπό το καθεστώς αυτό καταφεύγουν σε διάφορα μέσα αυθεντικοποίησης (υδατογραφήματα, ψηφιακά διαβατήρια κ.ά.), ωστόσο κατηγορούνται ευθέως ότι δημιούργησαν μια παγκόσμια κρίση για το κέρδος και τώρα προσπαθούν απλώς να «μπαλώσουν» την κατάσταση εκ των υστέρων.
Εταιρείες όπως η OpenAI, η Google και η Microsoft έριξαν στην αγορά πανίσχυρα εργαλεία παραγωγικής AI πριν αναπτύξουν τις απαραίτητες δικλείδες ασφαλείας, γνωρίζοντας εξαρχής τις καταστροφικές συνέπειες της τεχνολογίας τους (όπως τα deepfakes σε εμπόλεμες ζώνες) και μετακυλίοντας την ευθύνη του ελέγχου στους χρήστες και στους fact-checkers. Σφοδρή κριτική δέχονται όμως –ως «επικοινωνιακά τεχνάσματα»– και τα μέτρα που διαφημίζουν, τα οποία στην πράξη δεν λειτουργούν. Παράλληλα, την ίδια ώρα που οι CEO των εταιρειών δήλωναν δημόσια ότι ανησυχούν για τα deepfakes, προχώρησαν σε μαζικές απολύσεις στα εσωτερικά τους τμήματα «Ηθικής και Ασφάλειας AI» (AI Safety & Trust teams).
Ο πόλεμος του εχνητά κατασκευασμένου περιεχομένου δεν θα εκλείψει ενόσω υπάρχει η ανάγκη για μαζική προπαγάνδα, είτε αφορά εσωτερική είτε εξωτερική, εκτός συνόρων ενός κράτους, κατανάλωση.
Υπάρχουν Ομπρέλες Προστασίας;
Η συζήτηση που μπορεί να ανοίξει κατά πόσο οδηγούμαστε σε ένα μέλλον όπου το μοντέλο «το είδα – άρα έγινε», «το άκουσα – άρα ειπώθηκε», «υπάρχει βίντεο – άρα είναι απόδειξη» θα είναι εντελώς αναξιόπιστο και παρωχημένο, με όλες τις συνέπειες που μπορεί να συμπαρασύρει, είναι τεράστια – με προεκτάσεις από την τεχνολογία και την πολιτική έως τη φιλοσοφία.
Ωστόσο, η ίδια η ιστορία, το παρελθόν, έχει να μας διδάξει πολλά. Τα deepfakes δεν παύουν να είναι μια μορφή προπαγάνδας, ισχυρής μεν, αλλά όχι πρωτόγνωρης, με την έννοια πως και στο παρελθόν, με λιγότερα ίσως μέσα, κατάφεραν καθεστώτα να «διαμορφώσουν» πραγματικότητες που διέβρωσαν τη συνείδηση ολόκληρων λαών – όπως συνέβη με το ναζιστικό καθεστώς.
Από την άλλη, διαβάζουμε σε άρθρο της UNESCO πως τα deepfakes δεν προκαλούν απλώς κρίση πληροφόρησης, αλλά κρίση επιστημολογίας. Ότι, δηλαδή, αυτό που συμβαίνει είναι ότι χάνουμε την εμπιστοσύνη στους μηχανισμούς που παράγουν την αλήθεια.
Ενώ για αιώνες λειτουργούσαμε με μια άτυπη συμφωνία –οι φωτογραφίες είναι συνήθως αληθινές, τα βίντεο αποτελούν ισχυρές αποδείξεις, οι δημοσιογραφικοί οργανισμοί μπορούν να επαληθεύσουν γεγονότα– τώρα όλα αυτά είναι υπό διαπραγμάτευση. Και σε μια φιλοσοφική, θα μπορούσε να πει κανείς, προσέγγιση, μας προτρέπει να περάσουμε από την εμπιστοσύνη στις αισθήσεις σε μια πιο ώριμη μορφή γνώσης που βασίζεται στην τεκμηρίωση, στις διαδικασίες επαλήθευσης, αλλά και στην ικανότητα να ζούμε με αβεβαιότητα μέχρι να υπάρχουν επαρκή στοιχεία. Να μπορούμε να λέμε «δεν ξέρω ακόμη», επιλέγοντας την ειλικρινή αβεβαιότητα αντί μιας βεβιασμένης βεβαιότητας.
Ο πόλεμος του εχνητά κατασκευασμένου περιεχομένου δεν θα εκλείψει ενόσω υπάρχει η ανάγκη για μαζική προπαγάνδα, είτε αφορά εσωτερική είτε εξωτερική, εκτός συνόρων ενός κράτους, κατανάλωση. Και σίγουρα, το «Μέρισμα του Ψεύτη» θα λειτουργεί υπέρ αυτού που διαθέτει τους περισσότερους πόρους.
Και το μόνο σίγουρο είναι ότι τον πόλεμο Ιράν-Ισραήλ, που τώρα έχει εισέλθει σε μια εύθραυστη εκεχειρία εν μέσω προσπαθειών διπλωματικής επίλυσης, θα τον διαδεχτεί ο πόλεμος για την ίδια την πραγματικότητα στο νέο πεδίο της πολιτικής σύγκρουσης που θα προκύψει.
Διαβάστε επίσης στην αθηΝΕΑ:
Όταν οι AI Agents Ερωτεύτηκαν, Έκλεψαν και Έκαψαν την Πόλη
