«Αν το Πολυτεχνείο είχε smartphone»: Με αφετηρία αυτό το υποθετικό ερώτημα, η αθηΝΕΑ παρουσιάζει, με αφορμή την επέτειο της 17ης Νοεμβρίου, μια σειρά άρθρων για τη σχέση τεχνολογίας, εξουσίας και δημοκρατίας. Στο άρθρο αυτό του αφιερώματος, εξετάζουμε μια νέα απειλή για την αλήθεια στην εποχή της τεχνητής νοημοσύνης: όχι μόνο τη δυνατότητα να δημιουργούμε πειστικά ψεύτικα βίντεο, αλλά και να αμφισβητούμε τα αληθινά.
Ας φανταστούμε ότι οι φοιτητές που βρίσκονταν στο Πολυτεχνείο τον Νοέμβριο του 1973 διέθεταν smartphones: ότι μπορούσαν να μεταδώσουν ζωντανά τα τεκταινόμενα, να καταγράψουν την είσοδο του τανκ, να κοινοποιήσουν εικόνες σε εκατομμύρια ανθρώπους ανά τον κόσμο μέσα σε λίγα δευτερόλεπτα.
Σε μια τέτοια πραγματικότητα, η δυνατότητα της δικτατορίας να ελέγχει την ενημέρωση θα ήταν σίγουρα διαφορετική. Το ίδιο, βέβαια, θα ίσχυε και για τη δυνατότητά της να ασκεί έλεγχο μέσα από την παρακολούθηση των επικοινωνιών, την παρακολούθηση απόψεων και τον εντοπισμό διαδηλωτών.
Υπάρχει όμως και μια λεπτότερη πτυχή αυτού του υποθετικού σεναρίου. Τι θα συνέβαινε αν, μπροστά σε ένα αυθεντικό βίντεο της καταστολής, η εξουσία απαντούσε απλώς: «Είναι προϊόν τεχνητής νοημοσύνης»;
Το ερώτημα αποκτά ολοένα και μεγαλύτερη βαρύτητα στην εποχή μας.
Πιο σημαντικό από το ότι μπορούμε να κατασκευάσουμε ένα ψεύτικο τεκμήριο, είναι ότι μπορούμε πλέον να αμφισβητήσουμε πολύ ευκολότερα και ένα αληθινό.
Το να Βλέπεις Κάτι δεν Σημαίνει Απαραίτητα ότι Μπορείς να το Πιστέψεις
Για πολλές δεκαετίες, η φωτογραφία και το βίντεο θεωρούνταν αξιόπιστες αποτυπώσεις της πραγματικότητας. Γνωρίζαμε ότι μπορούσαν να παραποιηθούν, αλλά η δημιουργία μιας πειστικής πλαστογραφίας απαιτούσε σημαντικούς πόρους: τεχνικές γνώσεις, χρόνο και πρόσβαση σε πολύ εξειδικευμένα και ακριβά εργαλεία.
Η παραγωγική τεχνητή νοημοσύνη (generative AI) έχει ανατρέψει αυτή την κατάσταση. Σήμερα, δημόσια διαθέσιμα –συχνά δωρεάν– εργαλεία μπορούν να δημιουργήσουν ρεαλιστικές εικόνες, συνομιλίες και βίντεο, εμφανίζοντας γεγονότα και διαλόγους που δεν συνέβησαν ποτέ. Η ποιότητα και πιστότητα βελτιώνονται ταχύτατα, ενώ πλέον το κόστος και οι απαιτούμενες γνώσεις έχουν πρακτικά εκμηδενιστεί.
Όμως, ίσως πιο σημαντικό από το ότι μπορούμε να κατασκευάσουμε ένα ψεύτικο τεκμήριο, είναι ότι μπορούμε πλέον να αμφισβητήσουμε πολύ ευκολότερα και ένα αληθινό.
Το φαινόμενο είναι γνωστό στη βιβλιογραφία ως liar’s dividend: το «μέρισμα του ψεύτη». Όσο περισσότερο γνωρίζουμε ότι υπάρχει ρεαλιστικό συνθετικό περιεχόμενο (deepfakes) τόσο ευκολότερο γίνεται για κάποιον να επικαλεστεί την ύπαρξή του με σκοπό να απορρίψει ένα οπτικό/ακουστικό τεκμήριο ως κατασκευασμένο.
Ένας πολιτικός μπορεί να αμφισβητήσει μια πραγματική δήλωσή του. Μια κυβέρνηση μπορεί να χαρακτηρίσει κατασκευασμένο ένα βίντεο αστυνομικής βίας. Και πολίτες μπορούν να αποδεχθούν ή να απορρίψουν το ίδιο οπτικό τεκμήριο όχι με βάση τα διαθέσιμα στοιχεία, αλλά με βάση τις προϋπάρχουσες πεποιθήσεις τους.
Πώς Αποδεικνύεται η Αυθεντικότητα ενός Βίντεο;
Από ερευνητική σκοπιά, μπορούμε να διακρίνουμε διαφορετικά ερωτήματα: είναι το βίντεο προϊόν πραγματικής καταγραφής ή τεχνητής δημιουργίας; Έχει υποστεί αλλοιώσεις ή παραποιήσεις; Και απεικονίζει πράγματι το γεγονός που ισχυρίζεται ότι απεικονίζει;
Οι απαντήσεις πρέπει να αναζητηθούν ανεξάρτητα. Ένα αυθεντικό βίντεο μπορεί να παρουσιάζεται ως καταγραφή διαφορετικού γεγονότος, σε διαφορετικό τόπο ή χρόνο. Αντίστοιχα, ένα πραγματικό βίντεο μπορεί να έχει υποστεί μη κακόβουλη επεξεργασία (π.χ. για τη βελτίωση των χρωμάτων ή της φωτεινότητας) χωρίς αυτό να καθιστά ψευδές το γεγονός που τεκμηριώνει.
Η σύγχρονη ψηφιακή τεχνολογία, και συγκεκριμένα το πεδίο των media forensics, διαθέτει αρκετά εργαλεία για τη διερεύνηση αυτών των ερωτημάτων. Μπορούμε να αναζητήσουμε, συχνά με τη βοήθεια αυτόματων μεθόδων, ίχνη επεξεργασίας, ασυνέπειες στη συμπίεση, χαρακτηριστικά του αισθητήρα της κάμερας ή ασυνέπειες που ενδέχεται να υποδηλώνουν συνθετικό περιεχόμενο. Μπορούμε επίσης να εξετάσουμε τα μεταδεδομένα του αρχείου, όταν είναι διαθέσιμα, και να συγκρίνουμε οπτικά στοιχεία με ανεξάρτητες πηγές: κτίρια, πινακίδες, καιρικές συνθήκες, σκιές ή άλλες καταγραφές του ίδιου περιστατικού.
Επιπλέον, αυξανόμενο ρόλο αποκτούν οι τεχνολογίες τεκμηρίωσης της προέλευσης του ψηφιακού περιεχομένου, όπως το πρότυπο C2PA, το οποίο υποστηρίζει την καταγραφή στοιχείων σχετικά με την προέλευση και το ιστορικό επεξεργασίας ενός αρχείου μέσω κρυπτογραφικά υπογεγραμμένων πληροφοριών.
Δυστυχώς, καμία από αυτές τις τεχνολογίες δεν προσφέρει από μόνη της απόλυτη βεβαιότητα, ούτε είναι πάντα εφαρμόσιμη. Τα μεταδεδομένα μπορεί να απουσιάζουν ή να έχουν αλλοιωθεί. Η απουσία ψηφιακής υπογραφής δεν σημαίνει ότι ένα βίντεο είναι ψεύτικο. Και μια έγκυρη υπογραφή μπορεί να τεκμηριώνει την προέλευση ενός αρχείου, όχι όμως απαραίτητα την αλήθεια όσων απεικονίζει.
Η αυθεντικότητα, επομένως, δεν μπορεί να προκύψει σαν το αποτέλεσμα ενός μαγικού αλγορίθμου, αλλά πρέπει να διερευνηθεί μέσα από τη συνδυαστική αξιολόγηση διαφορετικών και, κατά το δυνατόν, ανεξάρτητων τεκμηρίων.
Όσο βελτιώνονται οι μέθοδοι ανίχνευσης τόσο εξελίσσονται και οι μέθοδοι παραγωγής και απόκρυψης των πλαστογραφιών.
Μπορούμε να Εμπιστευτούμε τις Μεθόδους Ανίχνευσης Deepfakes;
Σημαντικό μέρος της έρευνας που πραγματοποιούμε στο ΕΚΕΤΑ, και συγκεκριμένα στην ομάδα MeVer (Media Analysis, Verification and Retrieval), τα τελευταία χρόνια επικεντρώνεται στην ανάπτυξη και αξιολόγηση συστημάτων αυτόματης ανίχνευσης συνθετικού και παραποιημένου οπτικοακουστικού περιεχομένου. Παρά τη σημαντική πρόοδο που έχουμε πετύχει, οφείλουμε να είμαστε ειλικρινείς σχετικά με τα όρια της τεχνολογίας.
Μια μέθοδος ανίχνευσης μπορεί να πετύχει εξαιρετικές επιδόσεις σε συγκεκριμένα σύνολα δεδομένων, αλλά να αποτύχει ολοσχερώς σε περιεχόμενο που δημιουργήθηκε με ένα νέο μοντέλο τεχνητής νοημοσύνης. Επιπλέον, η συμπίεση, η χαμηλή ανάλυση και οι επανειλημμένες αναδημοσιεύσεις στα κοινωνικά δίκτυα μπορούν να επηρεάσουν σημαντικά την αξιοπιστία του. Παράλληλα, πρέπει να αντιληφθούμε και μια ανταγωνιστική διάσταση που έχει το πρόβλημα: όσο βελτιώνονται οι μέθοδοι ανίχνευσης τόσο εξελίσσονται και οι μέθοδοι παραγωγής και απόκρυψης των πλαστογραφιών.
Ελλοχεύει, όμως, ένας ίσως σοβαρότερος κίνδυνος. Ένα λανθασμένο αποτέλεσμα ανίχνευσης δεν αποτελεί απλώς τεχνικό σφάλμα. Αν, για παράδειγμα, ένα αυθεντικό βίντεο καταστολής χαρακτηριστεί λανθασμένα ως κατασκευασμένο, το σφάλμα αυτό μπορεί να υπονομεύσει την αξιοπιστία ενός μάρτυρα ή να διευκολύνει την αμφισβήτηση ενός πραγματικού περιστατικού.
Γι’ αυτό πρέπει να είμαστε ιδιαίτερα προσεκτικοί με εργαλεία που εμφανίζουν ένα ποσοστό, για παράδειγμα «95% πιθανότητα να είναι deepfake», χωρίς να εξηγούν πώς προκύπτει και πόσο αξιόπιστο είναι σε πραγματικές συνθήκες.
Η τεχνητή νοημοσύνη μπορεί να προσφέρει πολύτιμες ενδείξεις, αλλά η χρήση της πρέπει να συνοδεύεται από διαφανή τεκμηρίωση των ορίων της και σε σοβαρές περιπτώσεις θα πρέπει να ζητείται και η αξιολόγηση περισσότερων του ενός εμπειρογνωμόνων. Ένα τέτοιο είναι το μοντέλο που ακολουθεί ο οργανισμός ανθρωπίνων δικαιωμάτων WITNESS μέσα από τη συγκρότηση της ομάδας άμεσης απόκρισης στα deepfakes (τη λεγόμενη Deepfakes Rapid Response Force), στην οποία συμμετέχω τα τελευταία χρόνια.
Μια εικόνα ή ένα βίντεο ενός γεγονότος χρειάζεται πλέον να συνοδεύεται από μια διαδικασία επαλήθευσης που να είναι διαφανής και κατανοητή στο κοινό.
Από την Aπόδειξη στην Tεκμηριωμένη Eμπιστοσύνη
Εκτιμώ ότι η πιο σημαντική αλλαγή που φέρνει η εποχή της παραγωγικής τεχνητής νοημοσύνης αφορά τον τρόπο με τον οποίο αποκτούμε εμπιστοσύνη στην πληροφορία και στο περιεχόμενο.
Μια εικόνα ή ένα βίντεο ενός γεγονότος χρειάζεται πλέον να συνοδεύεται από μια διαδικασία επαλήθευσης που να είναι διαφανής και κατανοητή στο κοινό. Αυτό απαιτεί συνεργασία ανάμεσα σε ερευνητές, δημοσιογράφους, οργανισμούς επαλήθευσης, υπερασπιστές ανθρωπίνων δικαιωμάτων και πολίτες. Απαιτεί επίσης καλύτερα εργαλεία διατήρησης των πρωτότυπων αρχείων, τεκμηρίωσης της αλυσίδας φύλαξης και προέλευσης, καθώς και ανεξάρτητης διασταύρωσης των στοιχείων.
Παράλληλα, πρέπει να σκεφτούμε προσεκτικά πώς θα αποφύγουμε τη δημιουργία ενός συστήματος στο οποίο μόνο όσοι διαθέτουν προηγμένες τεχνολογίες πιστοποίησης (όπως για παράδειγμα η τεχνολογία Apple Reference Image που ενσωματώνεται στις συσκευές iPhone 18 Pro και iPhone Pro Max) θα μπορούν να γίνουν πιστευτοί. Ένας πολίτης που καταγράφει αυθόρμητα μια πράξη βίας δεν μπορεί να υποχρεώνεται να αποδεικνύει την αξιοπιστία του με τεχνολογικά μέσα στα οποία ενδέχεται να μην έχει πρόσβαση.
Ούτε μπορούμε να αγνοήσουμε ότι οι ίδιες τεχνολογίες τεκμηρίωσης μπορούν να δημιουργήσουν κινδύνους για την ιδιωτικότητα και την ασφάλεια των μαρτύρων, ιδιαίτερα στο περιβάλλον αυταρχικών καθεστώτων.
Η Αλήθεια ως Δημοκρατικό Δικαίωμα
Επιστρέφοντας στο Πολυτεχνείο, έχει μεγάλο ενδιαφέρον να προσπαθήσουμε να εντοπίσουμε ποιες είναι οι σημαντικότερες διαφορές ανάμεσα στο 1973 και στο σήμερα. Σίγουρα η σημερινή εποχή χαρακτηρίζεται από νέες εξαιρετικά εξελιγμένες τεχνολογικές δυνατότητες καταγραφής και επικοινωνίας που μπορούν από τη μία πλευρά να ενισχύσουν την επιτήρηση και τη χειραγώγηση των πολιτών, αλλά από την άλλη να αξιοποιηθούν από τους πολίτες ως μέσο υποστήριξης της μαρτυρίας, της τεκμηρίωσης της πραγματικότητας με σκοπό τη λογοδοσία. Το πού θα γύρει αυτή η πλάστιγγα εξαρτάται από το ποιος ελέγχει τα εργαλεία, πόσο διαφανής είναι η λειτουργία τους και ποιοι θεσμοί εγγυώνται τη δυνατότητα ανεξάρτητου ελέγχου.
Σε μια τέτοια πραγματικότητα, το ερώτημα «Πώς θα αποδείξουμε ότι το βίντεο είναι αληθινό;» εντάσσεται σε ένα αναδυόμενο πεδίο αντιπαράθεσης μεταξύ της εξουσίας και της κοινωνίας και δεν επιδέχεται μια αμιγώς τεχνολογική απάντηση. Απαιτεί επιπλέον αξιόπιστες μεθόδους, αλλά και ανεξάρτητη δημοσιογραφία, επιστημονική διαφάνεια, ισχυρούς δημοκρατικούς θεσμούς και πολίτες με κριτική σκέψη.
Όσο σημαντικός είναι ο κίνδυνος να φτάσουμε σε μια εποχή όπου δεν μπορούμε να ξεχωρίσουμε τα αληθινά από τα κατασκευασμένα βίντεο, είναι και ο κίνδυνος να φτάσουμε σε σημείο όπου, επειδή γνωρίζουμε ότι τα πάντα μπορούν να παραποιηθούν, παύουμε να πιστεύουμε και στη δυνατότητα απόδειξης της αλήθειας. Και σε ένα τέτοιο ενδεχόμενο, η δυνατότητα της κοινωνίας να απαιτεί λογοδοσία από την εξουσία θα έχει δεχτεί ένα καίριο πλήγμα.
***
Η συζήτηση συνεχίζεται στα υπόλοιπα τέσσερα άρθρα του αφιερώματος, που φωτίζουν διαφορετικές πτυχές της σχέσης τεχνολογίας, εξουσίας και δημοκρατίας.
