Η 8η Μαρτίου. Παγκόσμια Ημέρα της Γυναίκας. Ημέρα προβληματισμού και ημέρα γιορτής ταυτόχρονα. Προβληματισμού, γιατί ακόμη και σήμερα απέχουμε αρκετά από την ισότιμη συμμετοχή ανδρών και γυναικών σε πολλούς τομείς της κοινωνικής και της οικονομικής ζωής.
Γιορτής, γιατί καλό είναι να αναγνωρίζουμε την αντικειμενική πρόοδο –όπου συμβαίνει– που επιτυγχάνουμε στην προσπάθεια για ισότητα ευκαιριών και προοπτικών.
Πριν από λίγα χρόνια, σε μια εκδήλωση για την ισότητα στον τομέα των νέων τεχνολογιών, στο μέσο μιας ζωηρής συζήτησης γύρω από την ισότητα σε εκπροσώπηση, αμοιβές, ευκαιρίες, ο συντονιστής μου απηύθυνε την ακόλουθη ερώτηση:
«Πιστεύετε ότι η τεχνητή νοημοσύνη, όταν χρησιμοποιείται ως εργαλείο για τη λήψη επιχειρηματικών αποφάσεων, μπορεί να προσφέρει μια δεύτερη ευκαιρία στο να εξαλείψει τις προκαταλήψεις και τις διακρίσεις κατά των γυναικών;».
Ωραία ερώτηση, δεν νομίζετε;
Γυναίκες και Τεχνολογία Σήμερα
Ας δούμε πρώτα τα στοιχεία. Η Ευρωπαϊκή Επιτροπή εκδίδει κάθε χρόνο πολύ ενδιαφέροντα στατιστικά στοιχεία στην ενότητα Women in Digital (WiD) Scoreboard. Η έκθεση περιλαμβάνει πολύ αναλυτικά στοιχεία συνολικά για την Ευρωπαϊκή Ένωση και για κάθε χώρα ξεχωριστά.
Στοιχεία που εξηγούν γιατί η πρόοδος στην ισότιμη συμμετοχή στον κλάδο των νέων τεχνολογιών είναι πολύ αργή και γιατί άνθρωποι σαν εμένα, μιας γυναίκας που εργάζεται στον κλάδο της τεχνολογίας, εξακολουθούν ακόμη να αποτελούν, δυστυχώς, μειοψηφία.
Σήμερα στην Ευρώπη, σπουδάζουν σε νέες τεχνολογίες τέσσερις φορές περισσότεροι άνδρες απ’ ό,τι γυναίκες – αντίστοιχα, είναι και τα στοιχεία για την Ελλάδα.
Στη χώρα μας, οι γυναίκες επιστήμονες στον κλάδο αυτό αποτελούν μόνο το 1,5% του συνολικού εργατικού δυναμικού, ενώ η διαφορά στις αμοιβές βάσει φύλου είναι 24%!
Τα στοιχεία δείχνουν ότι τόσο σε ευρωπαϊκό όσο και σε εθνικό επίπεδο έχουμε ακόμη πολύ δρόμο να διανύσουμε προκειμένου να πετύχουμε περισσότερη συμμετοχή και εκπροσώπηση των γυναικών στην ψηφιακή οικονομία – ένα χώρο με συνεχώς αυξανόμενες προοπτικές για οικονομική ευημερία, προσωπική και επαγγελματική ανάπτυξη.
Το ενδιαφέρον εδώ είναι ότι, για τις βασικές ψηφιακές δεξιότητες, δεν υπάρχει σημαντικό χάσμα μεταξύ ανδρών και γυναικών. Οι μεγαλύτερες διαφορές προκύπτουν στις δεξιότητες που αφορούν τον προγραμματισμό και την υλοποίηση τεχνολογικών πλατφορμών και συστημάτων.
Σύμφωνα με έρευνα του 2022, μόνο το 5% της παγκόσμιας κοινότητας προγραμματιστών στο Stack Overflow είναι γυναίκες!
Αυτό συμβαίνει ενόσω παράλληλα τρεις στις τέσσερις ευρωπαϊκές επιχειρήσεις αναφέρουν δυσκολίες στην εξεύρεση εργαζομένων με τις κατάλληλες τεχνολογικές δεξιότητες και θεωρούν τη διαθεσιμότητα εξειδικευμένου προσωπικού το σημαντικότερο πρόβλημα για την ανάπτυξή τους.
Επιπλέον, το 3% όλων των διαθέσιμων θέσεων εργασίας παραμένουν κενές, αποδεικνύοντας την αναντιστοιχία μεταξύ των δεξιοτήτων των εργαζομένων και της ζήτησης της αγοράς.
Τεχνητή Νοημοσύνη και Στερεότυπα
Τώρα που εξετάσαμε τα δεδομένα, επιτρέψτε μου να μοιραστώ μαζί σας μια ιστορία. Μια ιστορία που επικεντρώνεται στην τεχνολογία που συζητείται περισσότερο σήμερα, την τεχνητή νοημοσύνη.
Έτσι, το σύστημα έμαθε ότι οι άνδρες υποψήφιοι ήταν προτιμότεροι και πιο αξιόλογοι για περαιτέρω συζήτηση, αντίθετα «τιμωρούσε» τα βιογραφικά που περιλάμβαναν λέξεις που σχετίζονται με τις γυναίκες.
Μια παγκόσμια εταιρεία ηλεκτρονικού εμπορίου στοχεύει στην αυτοματοποίηση της αναζήτησης ταλέντου, αναπτύσσοντας ένα bot που θα μελετήσει τα βιογραφικά των υποψηφίων και θα τα αξιολογήσει ενάντια σε προκαθορισμένα κριτήρια.
Ωστόσο, σε κάποιο σημείο η εταιρεία συνειδητοποίησε ότι η τεχνολογία που αξιοποιούσε αλγόριθμους μηχανικής μάθησης δεν αξιολογούσε με αντικειμενικό τρόπο τα βιογραφικά των γυναικών. Ιδιαίτερα για τεχνικούς ρόλους, τα γυναικεία προφίλ έπαιρναν χαμηλότερη βαθμολογία και επομένως είχαν λιγότερες πιθανότητες να προχωρήσουν στο επόμενο στάδιο της διαδικασίας πρόσληψης.
Πώς Έγινε Αυτό;
Ένας αλγόριθμος μηχανικής μάθησης (Machine Learning) εκπαιδεύεται με βάση ένα σύνολο διαθέσιμων δεδομένων. Όπως προέκυψε, ο αλγόριθμος σε αυτή την περίπτωση εκπαιδεύτηκε για να αξιολογεί τους υποψήφιους παρατηρώντας πρότυπα σε βιογραφικά που υποβλήθηκαν στην εταιρεία μέσα σε περίοδο 10 ετών.
Τα περισσότερα από αυτά τα βιογραφικά που χρησιμοποιήθηκαν για να μάθει η μηχανή να αναγνωρίζει και να αξιολογεί τα κατάλληλα προφίλ προήλθαν από άνδρες, δεδομένης της κυριαρχίας των ανδρών σε ολόκληρη τη βιομηχανία τεχνολογίας.
Έτσι, το σύστημα έμαθε ότι οι άνδρες υποψήφιοι ήταν προτιμότεροι και πιο αξιόλογοι για περαιτέρω συζήτηση, αντίθετα «τιμωρούσε» τα βιογραφικά που περιλάμβαναν λέξεις που σχετίζονται με τις γυναίκες.
Αυτό το παράδειγμα είναι μια περίπτωση συστήματος τεχνητής νοημοσύνης που βασίστηκε σε περιορισμένα σύνολα δεδομένων που αντανακλούσαν μια ιστορική προκατάληψη.
Το αποτέλεσμα; Μοντέλα μηχανικής μάθησης που ενσωμάτωσαν τις προκαταλήψεις που είναι εγγενείς στα δεδομένα εκπαίδευσης. Στην πραγματικότητα, το μοντέλο όχι απλώς συνέχισε, αλλά ενίσχυσε αυτές τις προκαταλήψεις.
Πιο πρόσφατα, η έλευση της τεχνολογίας Generative AI και ο παγκόσμιος ενθουσιασμός για τις πλατφόρμες Chat GPT, DALL-E και Midjourney συνοδεύτηκαν επίσης από συζητήσεις για πιθανές προκαταλήψεις που οι μηχανές αυτές ενσωματώνουν στις απαντήσεις τους.
Το ίδιο το ChatGPT εκπαιδεύτηκε σε 300 δισεκατομμύρια λέξεις ή 570 GB δεδομένων από το διαδίκτυο. Το ζήτημα είναι ότι το ίδιο το διαδίκτυο είναι γεμάτο προκαταλήψεις. […] Επειδή συλλέγονται δεδομένα από το παρελθόν, υπάρχει το ενδεχόμενο να αναπαράγονται προκαταλήψεις που δεν αντικατοπτρίζουν την πρόοδο των κοινωνικών κινημάτων.
Και παρότι οι δημιουργοί τους προσπάθησαν να δώσουν στις μηχανές το περιθώριο να αρνηθούν να απαντήσουν σε ερωτήσεις με προσβλητικό ή κακόβουλο περιεχόμενο, υπάρχουν ακόμη πολλά περιθώρια βελτίωσης της τεχνολογίας αυτής προκειμένου να μην κάνει διακρίσεις και να μην αναπαράγει τα στερεότυπα.
Το ίδιο το ChatGPT εκπαιδεύτηκε σε 300 δισεκατομμύρια λέξεις ή 570 GB δεδομένων από το διαδίκτυο. Το ζήτημα είναι ότι το ίδιο το διαδίκτυο είναι γεμάτο προκαταλήψεις. Οι ερευνητές χρησιμοποιούν φίλτρα για να βοηθήσουν τα μοντέλα να αξιολογήσουν τις απαντήσεις μετά τη συλλογή δεδομένων, αλλά αυτά τα φίλτρα δεν είναι 100% ακριβή.
Επιπλέον, επειδή συλλέγονται δεδομένα από το παρελθόν, υπάρχει το ενδεχόμενο να αναπαράγονται προκαταλήψεις που δεν αντικατοπτρίζουν την πρόοδο των κοινωνικών κινημάτων.
Λοιπόν, τι Μπορεί να Γίνει;
Συζητήσαμε για το πώς η τεχνητή νοημοσύνη μπορεί να εισαγάγει διακρίσεις λόγω αλγόριθμων μηχανικής μάθησης που εκπαιδεύονται με ιστορικά δεδομένα τα οποία έχουν εγγενείς προκαταλήψεις. Υπάρχει όμως και μιαν άλλη διάσταση. Εκείνη της έλλειψης διαφορετικών ταλέντων στον τομέα της ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης.
Το πεδίο της τεχνητής νοημοσύνης παραμένει εξαιρετικά ομοιογενές και ανδροκρατούμενο. Εκείνοι που αποφασίζουν για το ποια δεδομένα θα τροφοδοτήσουν και θα εκπαιδεύσουν τα μοντέλα τους είναι άνδρες.
Ο ρόλος της βιομηχανίας πληροφορικής είναι να αντιμετωπίσει αυτό το ζήτημα και να εξασφαλίσει ίσες ευκαιρίες για όλους. Και αυτό θα συμβεί με ένα νέο ηθικό συμβόλαιο, που θα εξασφαλίσει εμπιστοσύνη γύρω από την τεχνητή νοημοσύνη. Πώς;
Διαφορετικότητα: Τα συστήματα τεχνητής νοημοσύνης πρέπει να εκπαιδεύονται με βάση συμπεριληπτικά δεδομένα. Ωστόσο, γνωρίζουμε ότι η κοινωνία είναι γεμάτη με προκαταλήψεις και αυτό αντανακλάται στα διαθέσιμα δεδομένα.
Έτσι, τα συστήματα τεχνητής νοημοσύνης πρέπει να κατασκευαστούν και να δοκιμάζονται από ομάδες που θα έχουν υψηλό επίπεδο διαφορετικότητας. Όπως αναφέραμε παραπάνω, πολύ λίγες γυναίκες μηχανικοί εργάζονται με τον προγραμματισμό συστημάτων τεχνητής νοημοσύνης.
Η ισχυρότερη εκπροσώπηση των φύλων στη δημιουργία και στις δοκιμές αυτών των τεχνολογιών θα δημιουργήσει πιο συμπεριληπτικούς αλγόριθμους και θα εξαλείψει τις προκαταλήψεις.
Το πεδίο της τεχνητής νοημοσύνης παραμένει εξαιρετικά ομοιογενές και ανδροκρατούμενο. Εκείνοι που αποφασίζουν για το ποια δεδομένα θα τροφοδοτήσουν και θα εκπαιδεύσουν τα μοντέλα τους είναι άνδρες.
Συμπερίληψη. Οι προηγμένες τεχνολογίες, όπως η τεχνητή νοημοσύνη, έχουν τη δυνατότητα να δημιουργήσουν ένα μεγάλο ψηφιακό χάσμα. Οι γυναίκες είναι πιο ευάλωτες εδώ, καθώς δεν πιστεύουν ότι έχουν τις δυνατότητες να ακολουθήσουν αυτή την επαγγελματική πορεία.
Τα κορίτσια κατά τη διάρκεια των σχολικών ετών, αλλά και οι γυναίκες στα πανεπιστήμια, πρέπει να ενθαρρύνονται για σταδιοδρομία στον τομέα της τεχνολογίας. Περισσότερες γυναίκες προγραμματίστριες μπορούν να βοηθήσουν στη δημιουργία καλύτερων συστημάτων χωρίς αποκλεισμούς.
Διαφάνεια. Τα συστήματα τεχνητής νοημοσύνης πρέπει να είναι κατανοητά. Σήμερα είναι επιθυμητό να γίνεται γνωστή η σύνθεση των δεδομένων από τα οποία μαθαίνουν τα μοντέλα μηχανικής μάθησης και να επισημαίνεται ότι οι προτάσεις των συστημάτων είναι πιθανές συστάσεις που μπορεί να εμπεριέχουν και λάθη.
Ευθύνη. Οι σχεδιαστές και οι προγραμματιστές συστημάτων τεχνητής νοημοσύνης φέρουν ευθύνη για την εφαρμογή των λύσεων που δημιουργούν και σε μεγάλο βαθμό για τη χρήση τους.
Οι επιχειρήσεις θα πρέπει να διαθέτουν τόσο την κουλτούρα όσο και τους μηχανισμούς για να διασφαλίζουν ότι οι εφαρμογές τεχνητής νοημοσύνης δημιουργούνται λαμβάνοντας υπόψη τα άτομα που επηρεάζονται από αυτά τα συστήματα.
Τεχνητή Νοημοσύνη από την Αρχή
Tα προβλήματα στα συστήματα τεχνητής νοημοσύνης δεν οφείλονται απλώς σε περιορισμούς στα δεδομένα ή σε «τυφλά σημεία» των προγραμματιστών, αλλά μάλλον προέρχονται από τη συνολική προσέγγισή μας στον τρόπο ανάπτυξής τους.
Έχουμε προσεγγίσει την ανάπτυξη τεχνητής νοημοσύνης όπως κάθε άλλη διαδικασία δημιουργίας πληροφοριακών συστημάτων. Τώρα όμως καλούμαστε να επιστρέψουμε στα βασικά. Στις ηθικές αρχές που θέλουμε να υποστηρίξουμε.
Μπορεί η τεχνητή νοημοσύνη να είναι μια ευκαιρία; Σίγουρα μπορεί να είναι. Μόνο στην Ευρώπη, η IDC προβλέπει ότι το δυναμικό της αγοράς για τεχνητή νοημοσύνη θα φτάσει τα 196 δισεκατομμύρια μέχρι το 2026. Γιατί πρέπει οι γυναίκες να στερηθούν την ευκαιρία να «ανθίσουν» στην ψηφιακή εποχή;
Διαβάστε επίσης στην αθηΝΕΑ και στο μηνιαίο newsletter No Man’s Land – στο οποίο μπορείτε να κάνετε την εγγραφή σας εδώ:
Η Επιχειρηματίας Ζήνα Μαυροειδή «Γράφει» τους Δικούς της Κανόνες
Από την Αρχαία Φιλοσοφική Σκέψη στη Γυναικεία Ψήφο
ChatGPT, DALL-E και… Πες το κι Έγινε!
