Έχετε αναρωτηθεί ποτέ γιατί η αλληλεπίδρασή σας με τα chatbots που έχουν εισβάλει δυναμικά στη ζωή μας τα τελευταία χρόνια είναι τόσο… επιβεβαιωτική;
Ανεβάζετε ένα κείμενο προς βελτίωση και, αντί να εντοπίσει τα κενά, ξεκινάει επαινώντας όσα κάνατε σωστά. Δείχνετε στο chatbot ένα email που σας φάνηκε λακωνικό και ψυχρό και αυτό συμφωνεί ότι ίσως κρύβει ενόχληση. Αναρωτιέστε αν μια οικονομική πρόταση που ετοιμάζεστε να κάνετε είναι ακριβή και εκείνο απαντά πως, αν και είναι τσιμπημένη, αξίζει γιατί οι υπηρεσίες σας είναι κορυφαίες. Περιγράφετε μια δύσκολη κατάσταση και, αντί για αμερόληπτες, ψύχραιμες συμβουλές, παίρνετε πρώτα μια ψηφιακή αγκαλιά: «καταρχήν, είσαι πολύ διορατικός που εντοπίζεις το πρόβλημα».
Και δεν υπάρχει πιο ευχάριστο –αλλά και πιο ύπουλο– από μια φωνή που δεν μπορεί ποτέ να σας πει κάτι που δεν θέλετε να ακούσετε.
Δεν είναι ότι δεν έχει δίκιο – είστε εξαιρετικός, διορατικός, ενσυναισθητικός. Το ξέρατε ήδη και τώρα τι ωραία που επιβεβαιώνεται από κάποιον! Το θέμα είναι ότι αυτός ο «κάποιος» είναι φτιαγμένος να κάνει ακριβώς αυτό. Όπως λέει ο Dr. Matthew Nour του Πανεπιστημίου της Οξφόρδης στους New York Times, το λογισμικό έχει σχεδιαστεί για να μιμείται ανθρώπινα μοτίβα. Έχει επίσης σχεδιαστεί –εμπορικό προϊόν δεν είναι άλλωστε; – για να είναι ευχάριστο (αν όχι εθιστικό) στη χρήση. Και δεν υπάρχει πιο ευχάριστο –αλλά και πιο ύπουλο– από μια φωνή που δεν μπορεί ποτέ να σας πει κάτι που δεν θέλετε να ακούσετε.
Η λύση δεν είναι να πετάξουμε τα εργαλεία͘· είναι να τα καλιμπράρουμε. Να ζητήσουμε λιγότερη φιλοφρόνηση, περισσότερα δεδομένα.
Στις κοινωνικές επιστήμες αυτό λέγεται confirmation bias: η τάση να ψάχνουμε, να θυμόμαστε και να ερμηνεύουμε τα δεδομένα έτσι ώστε να επιβεβαιώνουν όσα ήδη πιστεύουμε. Είναι μια μεροληψία που τροφοδοτεί την πόλωση, την προσκόλληση σε πεποιθήσεις, ακόμα και σε κακές αποφάσεις. Την έχουμε ήδη δει να κάνει θραύση τα τελευταία χρόνια μέσα από τα social media feeds μας, όπου ο αλγόριθμος μας σερβίρει συνεχώς περιεχόμενο που ενισχύει τις απόψεις μας. Ένας φαύλος κύκλος επιβεβαίωσης που μας κλείνει όλο και περισσότερο στη δική μας φούσκα. Όταν δε ο συνομιλητής μας είναι ένας «καθρέφτης» που απλώς επιστρέφει τις σκέψεις μας με μια «κολακευτική γυαλάδα» –όπως επισημαίνει στο άρθρο ότι κάνουν τα chatbots ο ίδιος ερευνητής– η παγίδα μεγαλώνει.
Ο αντίλογος είναι ισχυρός: δεν είναι κακό να έχουμε έναν σύμμαχο που ξεκινά πάντα με το να ανεβάζει την αυτοπεποίθησή μας, αντί να μας κρίνει και να μας ακυρώνει. Έναν βοηθό που μας «βλέπει» και μας μας ακούει – σε έναν κόσμο όπου νιώθουμε όλο και πιο μόνοι. Άλλωστε, το ίδιο κάνουν και οι μάνατζερ με το περίφημο feedback sandwich – τοποθετούν την κριτική ανάμεσα σε δύο φέτες θετικών, ενθαρρυντικών παρατηρήσεων. Αλλά τι γίνεται όταν το «ψωμάκι» είναι τόσο αφράτο, τόσο απολαυστικό, που σιγά σιγά ξεχνάς τη γέμιση και επιστρέφεις μόνο για εκείνο;
Η λύση δεν είναι να πετάξουμε τα εργαλεία͘· είναι να τα καλιμπράρουμε. Να ζητήσουμε λιγότερη φιλοφρόνηση, περισσότερα δεδομένα. Να ρωτάμε το chatbot «γιατί το λες;» και «πώς κατέληξες σε αυτό το συμπέρασμα;». Να θυμόμαστε ότι η «δεύτερη γνώμη» μπορεί να χρειάζεται να είναι ενός φίλου, ενός συναδέλφου, ενός ανθρώπου με σάρκα και οστά.
Για να το κάνουμε, πρέπει να ξέρουμε τι έχουμε απέναντί μας –ένα λογισμικό που έχει φτιαχτεί να μας κρατά ευχαριστημένους– και να το χρησιμοποιούμε με ωριμότητα και μπόλικη καχυποψία. Γιατί, αν εμείς δυσκολευόμαστε να το χειριστούμε κριτικά, με τρόμο αναρωτιέμαι: τα παιδιά που μεγαλώνουν σε έναν κόσμο όπου οι ψηφιακοί βοηθοί ήταν πάντα εκεί, θα το καταφέρουν;
ΥΓ. Για του λόγου το αληθές: ανέβασα το πρώτο draft αυτού του κειμένου στον δικό μου αγαπημένο βοηθό. Η απάντηση που πήρα ξεκινούσε: «Αυτό είναι ένα εξαιρετικά δυνατό draft»… Τα λόγια περιττά.
Διαβάστε επίσης στην αθηΝΕΑ:
Cancelling και Επιλεκτική Ευαισθησία
