«Αν το Πολυτεχνείο είχε smartphone»: Με αφετηρία αυτό το υποθετικό ερώτημα, η αθηΝΕΑ παρουσιάζει, με αφορμή την επέτειο της 17ης Νοεμβρίου, μια σειρά άρθρων για τη σχέση τεχνολογίας, εξουσίας και δημοκρατίας. Στο σημερινό άρθρο του αφιερώματος, εξετάζουμε πώς θα μπορούσε να λειτουργεί μια δικτατορία στην εποχή των αλγορίθμων. Οι νέες τεχνολογίες προσφέρουν στην αυταρχική εξουσία πρωτοφανείς δυνατότητες ελέγχου. Μπορούν, όμως, τα ίδια εργαλεία να γίνουν μέσα αντίστασης και υπεράσπισης της δημοκρατίας;
Το 1971, στα επτά μου χρόνια, σε ένα πάρτι γενεθλίων διαμόρφωσα μια πρώτη αντίληψη της καταπίεσης και της αυτολογοκρισίας, καθώς κανείς δεν τολμούσε να κλείσει την τηλεόραση που μετέδιδε ένα ατέρμονο «διάγγελμα» του δικτάτορα Γ. Παπαδόπουλου, παρόλο που θυμάμαι έως σήμερα την αμηχανία ή και τη δυσφορία στην ομήγυρη. Στις 17 Νοέμβρη 1973, λόγω και της γειτνίασης του σπιτιού μου με το Πολυτεχνείο, απέκτησα, δυστυχώς, μια σαφέστερη και ωμή εικόνα της καταστολής.
Σήμερα, πενήντα και πλέον χρόνια μετά, και με τη δημοκρατία, τις αξίες και τις αρχές της να υφίστανται πλήγματα και αμφισβήτηση σε πολλές περιοχές του πλανήτη, της Ευρώπης συμπεριλαμβανομένης, μου ετέθη το ερώτημα τι θα σήμαινε στις μέρες μας, στην εποχή των αλγορίθμων, μια δικτατορία και η αντίσταση σε αυτή. Πώς μεταβάλλονται τόσο οι μηχανισμοί της καταπίεσης όσο και οι δυνατότητες της αντίστασης. όταν η αυταρχική εξουσία ασκείται (και) με την υποστήριξη της ψηφιακής τεχνολογίας.
Η παραδοσιακή δικτατορία έθετε σε περιορισμό ή και εξάλειφε τους αντιπάλους της, απαγόρευε το «συνέρχεσθαι» και «συνεταιρίζεσθαι», λογόκρινε βιβλία και τραγούδια, έκλεινε εφημερίδες και ήλεγχε το ραδιόφωνο και την τηλεόραση. Αν τα αυταρχικά καθεστώτα εξακολουθούν να βασίζονται στο «φακέλωμα» «υπόπτων» και «αντιφρονούντων» και σε μηχανισμούς πληροφοριοδοτών και αλληλεπιτήρησης, οι τεχνολογικές εξελίξεις κατέστησαν δυνατή την –γεωμετρική, αν όχι εκθετική– ενίσχυση των δυνατοτήτων ιδιαίτερα διεισδυτικών μορφών επιτήρησης, επιβολής και περιορισμού θεμελιωδών δικαιωμάτων και ελευθεριών.
Ο αυταρχισμός εκδηλώνεται και ενισχύεται από την πανταχού και πανταχόθεν επιτήρηση.
Μια πρώτη κρίσιμη διαπίστωση αφορά τις επιπτώσεις που μπορεί να έχει στη δημοκρατία η χρήση εργαλείων χειραγώγησης της κοινής γνώμης και επηρεασμού των δημοκρατικών διαδικασιών, ιδίως των εκλογών. Οι δημοκρατίες δεν απειλούνται και δεν καταλύονται μόνο από τα τανκς.
Ο έλεγχος του περιεχομένου, στο οποίο αποκτά πρόσβαση ή/και στο οποίο εκτίθεται κάποιος, η κατάρτιση προφίλ (profiling) βάσει των αναζητήσεων, των αναρτήσεων, των likes και των prompts, η (μικρο)στόχευση κάθε χρήστη ώστε να του προσφερθεί συγκεκριμένο περιεχόμενο.
Δεν συνιστούν υποθετικές δυνατότητες αλλά, ήδη, την καθημερινότητα (της οικονομίας) του διαδικτύου, με τη S. Zuboff να αναφέρεται στον «καπιταλισμό της επιτήρησης». Προφανώς, οι πρακτικές αυτές προσφέρονται και αξιοποιούνται και από αυταρχικά και δικτατορικά καθεστώτα.
Η συγκέντρωση τεχνολογικών δυνατοτήτων, ιδίως όταν συνδυάζεται με τον έλεγχο κρίσιμων υποδομών επικοινωνίας, μπορεί να οδηγήσει σε ενίσχυση της πληροφοριακής ασυμμετρίας ισχύος και σε νέες μορφές εξουσίας επί της ίδιας της κυκλοφορίας της πληροφορίας.
Η αξιοποίηση αλγοριθμικών συστημάτων για τη συλλογή και ανάλυση μεγάλων όγκων δεδομένων επιτρέπει τη λεπτομερή σκιαγράφηση του προφίλ των πολιτών, την εξαγωγή συμπερασμάτων για τις πολιτικές προτιμήσεις, τις πεποιθήσεις, τις ευαισθησίες και τα τρωτά σημεία τους, τη στοχευμένη αποστολή εξατομικευμένων πολιτικών μηνυμάτων συχνά ακραίου και αντιδημοκρατικού λόγου.
Αυτές οι πρακτικές επιλεκτικής πληροφόρησης, διέγερσης και εκμετάλλευσης συναισθημάτων και προκαταλήψεων διαμορφώνουν και μεταβάλλουν την πολιτική και εκλογική συμπεριφορά. Συνοδεύονται συχνά από τη μαζική δημιουργία και διάδοση παραπλανητικού ή κατασκευασμένου περιεχομένου (όπως τα γνωστά μας deepfakes) και τη χρήση αυτοματοποιημένων λογαριασμών (bots) που δεν αντιστοιχούν σε πραγματικά πρόσωπα και συντονισμένων δικτύων που οδηγούν στην τεχνητή ενίσχυση συγκεκριμένων πολιτικών αντιλήψεων και αφηγημάτων και τη δημιουργία ψευδούς εντύπωσης συναίνεσης και πλειοψηφιών.
Η αντίληψη της διαρκούς παρακολούθησης θα μπορούσε να οδηγήσει σε αυτολογοκρισία, κοινωνική απομόνωση και αποχή από συλλογικές δραστηριότητες.
Το αποτέλεσμα δεν είναι μόνο η χειραγώγηση της δημόσιας συζήτησης, αλλά και σοβαρές επιπτώσεις στην ακεραιότητα των εκλογικών διαδικασιών και –εν τέλει– στη δημοκρατία. Ο αυταρχισμός εκδηλώνεται και ενισχύεται από την πανταχού και πανταχόθεν επιτήρηση.
Το Panopticon του Jeremy Bentham, σύμβολο της μη ορατής παρακολούθησης που αποσκοπεί στην αβεβαιότητα και την αυτοπειθαρχία, ενισχύεται από μορφές επιτήρησης, ελέγχου και καταγραφής της συμπεριφοράς στον πραγματικό και ψηφιακό κόσμο που μπορεί –κατ’ αρχάς και καταρχήν– να οδηγήσουν τους πολίτες σε αυτοπεριορισμό.
Δέκα χρόνια μετά την εξέγερση του Πολυτεχνείου, μια εμβληματική απόφαση του Ομοσπονδιακού Συνταγματικού Δικαστηρίου της Γερμανίας αναδείκνυε τη σημασία της προστασίας των προσωπικών πληροφοριών για την ίδια την ουσία της δημοκρατικής συμμετοχής και διαδικασίας, καθώς εάν δεν υφίσταται βεβαιότητα για την απουσία επιτήρησης κάποιος μπορεί να φοβηθεί και να επιλέξει να μη μιλήσει, να μη συμμετάσχει σε μια εκδήλωση ή διαδήλωση, να μην επικοινωνήσει με ορισμένους ανθρώπους ή να μην αναζητήσει ορισμένες πληροφορίες.
Και όταν πλήττεται η ελευθερία της έκφρασης, έστω και διά του λεγόμενου chilling effect, απειλείται ο πυρήνας της δημοκρατίας, καθώς οι άνθρωποι δεν μπορούν να επικοινωνούν, να διαφωνούν, ακόμη ακόμη και να σκέφτονται, χωρίς φόβο. Η αντίληψη της διαρκούς παρακολούθησης θα μπορούσε να οδηγήσει σε αυτολογοκρισία, κοινωνική απομόνωση και αποχή από συλλογικές δραστηριότητες.
Δεν πρέπει να μας διαφεύγει ότι το πλέγμα της επιτήρησης πυκνώνει: το Panopticon δίνει τη θέση του στο Omniopticon καθώς, ιδίως οι πλατφόρμες κοινωνικής δικτύωσης, καθίστανται ένας «τόπος» συμμετοχικού Πανοπτικού, όπου όλοι «βλέπουν» όλους και μπορούν να ανακατασκευάσουν ευαίσθητες πληροφορίες από φαινομενικά ουδέτερο περιεχόμενο.
Η επιτήρηση δεν περιορίζεται πλέον στην οπτική παρατήρηση, αλλά συγκροτείται μέσα από ένα ευρύ φάσμα τεχνολογικών μέσων και μεθόδων που υπερβαίνουν το πεδίο του ορατού. Η δυνατότητα παρακολούθησης μπορεί να συμπληρώνεται από τη δυνατότητα επιλεκτικού περιορισμού, παρεμπόδισης ή χειραγώγησης της επικοινωνίας.
Με δεδομένο ότι –πλέον– οι άνθρωποι –όταν εργάζονται, επικοινωνούν, αλληλοεπιδρούν, ζουν– αφήνουν συχνότατα «ψηφιακά ίχνη», οι κινήσεις, οι επικοινωνίες, οι κοινωνικές σχέσεις και τα αντίστοιχα δίκτυα, οι αναζητήσεις και οι εκφράσεις των πολιτών μετατρέπονται ευχερώς σε δεδομένα, διαθέσιμα προς καταγραφή, συσχέτιση και αλγοριθμική ανάλυση. Η μαζική συλλογή, τήρηση και ανάλυση των μεταδεδομένων επικοινωνίας, αναζήτησης και κίνησης μπορεί να χαρτογραφήσει και να αναδείξει σχέσεις και συσχετίσεις προσώπων και ενεργειών.
Η δυνατότητα αντίστασης προϋποθέτει την ύπαρξη χώρων επικοινωνίας, σκέψης και συλλογικής δράσης που παραμένουν εκτός του ολοκληρωτικού ελέγχου της εξουσίας ή μπορούν να τον παρακάμπτουν.
Τα συστήματα αναγνώρισης προσώπου με χρήση βιομετρίας και τεχνητής νοημοσύνης στον δημόσιο χώρο για σκοπούς επιβολής του νόμου συνιστούν μεν απαγορευμένες πρακτικές σύμφωνα με την Πράξη για την Τεχνητή Νοημοσύνη, υφίστανται ωστόσο ως τεχνολογίες και στα χέρια μιας αυταρχικής, δικτατορικής εξουσίας θα μπορούσαν να καταλύσουν την ανωνυμία και κατ’ αποτέλεσμα την ελευθερία στον δημόσιο χώρο.
Περαιτέρω, η τεχνολογία δεν προσφέρει μόνο τη δυνατότητα επηρεασμού των συμπεριφορών μέσω της ανάλυσης δεδομένων, της αναγνώρισης συσχετίσεων και της διαμόρφωσης των συνθηκών υπό τις οποίες οι άνθρωποι λαμβάνουν αποφάσεις. Μετατρέπει αυτές τις δυνατότητες σε εργαλείο πρόβλεψης και προληπτικής χειραγώγησης και δράσης, καθώς μια αυταρχική κυβέρνηση –μέσω της συσχέτισης δεδομένων, της αναγνώρισης τάσεων και προτύπων– μπορεί να εκτιμά, να προβλέπει και να επιχειρεί να προλαμβάνει μελλοντικές συμπεριφορές και πράξεις (ή και σκέψεις) αντίστασης.
Είναι μια «ψηφιακή δικτατορία» ανίκητη ή μπορεί κανείς να αντισταθεί;
Η δυνατότητα αντίστασης προϋποθέτει την ύπαρξη χώρων επικοινωνίας, σκέψης και συλλογικής δράσης που παραμένουν εκτός του ολοκληρωτικού ελέγχου της εξουσίας ή μπορούν να τον παρακάμπτουν.
Μπορούν τα ίδια τεχνολογικά εργαλεία επιτήρησης και ελέγχου να χρησιμοποιηθούν για την αποκάλυψη του αυταρχισμού και της αυθαιρεσίας, την προστασία της επικοινωνίας, τη διάδοση απαγορευμένων πληροφοριών και την οργάνωση της –προσωπικής και συλλογικής– προστασίας και αντίστασης;
Χωρίς αμφιβολία, η τεχνολογία προσφέρει, αντίστοιχα, δυνατότητες αντίστασης. Η κρυπτογράφηση, εργαλεία προστασίας της ανωνυμίας, ελαχιστοποίησης των ψηφιακών ιχνών και δίοδοι ασφαλούς επικοινωνίας μπορούν να δημιουργούν χώρους ελευθερίας απέναντι στην ολοκληρωτική επιτήρηση.
Η χρήση τεχνολογιών προστασίας της ιδιωτικότητας δεν θα εξυπηρετούσε, εν προκειμένω, απλώς την ατομική θωράκιση του ιδιωτικού βίου, αλλά θα μπορούσε να συντελέσει στη δημιουργία των προυποθέσεων για την πρόσβαση στην πληροφορία, την πληροφόρηση των άλλων και την ελευθερία της έκφρασης. Οι Finn Brunton και Helen Nissenbaum, στο βιβλίο τους «Obfuscation: A User’s Guide for Privacy and Protest» πρότειναν τη «συσκότιση» ως μια ιδιαίτερη πρακτική πληροφοριακής αυτοάμυνας και διαμαρτυρίας.
Ταυτόχρονα η ανάπτυξη εναλλακτικών δικτύων πληροφόρησης μπορεί να περιορίζει την ικανότητα μιας αυταρχικής εξουσίας να μονοπωλεί την ψευδή αναπαράσταση της πραγματικότητας και να εμποδίζει τη διάδοση ειδήσεων για τους περιορισμούς των δικαιωμάτων, τις απειλές και τους κινδύνους στους οποίους εκτίθενται όσοι δεν συμπαρατάσσονται μαζί της.
Η ψηφιακή κινητοποίηση κινδυνεύει να εξαντληθεί σε μια επιφανειακή συμμετοχή, περιορισμένη σε αναρτήσεις, κοινοποιήσεις και διαδικτυακές δηλώσεις.
Σήμερα, οι κασέτες που διοχετεύονταν κρυφά στο εξωτερικό με τα πολιτικά μηνύματα, τις πληροφορίες για απάνθρωπες πρακτικές και βασανιστήρια και απαγορευμένα τραγούδια έχουν δώσει τη θέση τους σε νέες τεχνολογίες. Υπό τις νέες συνθήκες επικοινωνίας μπορεί να επιχειρηθεί η διάδοση πληροφοριών μηνυμάτων αντίστασης, ιδίως στον «έξω κόσμο», αλλά και συγκρότησης δικτύων αλληλεγγύης, συλλογικής κινητοποίησης και διαμαρτυρίας. Φτάνει αυτό;
Ένα «ψηφιακό Πολυτεχνείο» ή, πολύ περισσότερο, η –έστω και περιορισμένη– χρήση των νέων δικτύων επικοινωνίας για την ενημέρωση της κοινής γνώμης για γεγονότα αντίστασης, βίας και καταστολής θα προσέλκυε, πιθανότατα, την προσοχή της διεθνούς κοινότητας, με δημοσιογράφους, οργανώσεις ανθρωπίνων δικαιωμάτων, επιστημονικές κοινότητες και πολίτες άλλων χωρών να συμβάλλουν στη διάδοση πληροφοριών, στην προστασία διωκομένων και απειλούμενων προσώπων και στην ανάδειξη παραβιάσεων.
Για να μην τρέφουμε βέβαια αυταπάτες: το μήνυμα θα «έφτανε» σε περιορισμένους κύκλους, καθώς τα φαινόμενα των echo chambers και των filter bubbles περιχαρακώνουν τα δυνητικά ακροατήρια και περιορίζουν την απήχηση των φωνών διαμαρτυρίας.
Περαιτέρω, τέτοιες πρακτικές εκθέτουν τα αυταρχικά καθεστώτα, αλλά δεν επιλύουν καθαυτές το επίμαχο ζήτημα. Η ψηφιακή κινητοποίηση κινδυνεύει να εξαντληθεί σε μια επιφανειακή συμμετοχή, περιορισμένη σε αναρτήσεις, κοινοποιήσεις και διαδικτυακές δηλώσεις. Η θέση του emoticon «λυπάμαι» ή «οργίζομαι» και η αναπαραγωγή των αναρτήσεων δεν φαίνεται να ανακόπτει τις εκτελέσεις νέων ανθρώπων στο Ιράν.
Το κρίσιμο ερώτημα στην ψηφιακή εποχή μας δεν είναι μόνο εάν και πώς θα μπορούσε να υπάρξει ένα νέο (ψηφιακό) «Πολυτεχνείο». Είναι εάν οι πολίτες της κοινωνίας της ψηφιακής εποχής θα (ανακτήσουν και θα) διατηρήσουν την ελευθερία της –μη χειραγωγούμενης– πληροφόρησης, της έκφρασης και της σκέψης. Ό,τι προαπαιτείται δηλαδή για την αυτονομία, την αμφισβήτηση της εξουσίας, την άσκηση της ελευθερίας και την προάσπιση της δημοκρατίας.
***
Η συζήτηση συνεχίζεται στα υπόλοιπα τέσσερα άρθρα του αφιερώματος, που φωτίζουν διαφορετικές πτυχές της σχέσης τεχνολογίας, εξουσίας και δημοκρατίας.
Αν το Πολυτεχνείο Είχε Smartphone
«Εδώ Πολυτεχνείο»: Ποιος μας Ακούει Σήμερα;
