Το ChatGPT ανακοίνωσε στις αρχές Σεπτεμβρίου τους «γονικούς ελέγχους» σε συνεργασία με την Common Sense Media, έναν μη κερδοσκοπικό οργανισμό που παρέχει αξιολογήσεις ψυχαγωγίας και τεχνολογίας με βάση την ηλικία.
Οι εφαρμογές ήρθαν έπειτα από μια αγωγή για θάνατο εξ αμελείας που κατατέθηκε εναντίον της OpenAI από τους γονείς του Adam Raine, ενός 16χρονου που πέθανε τον Απρίλιο στην Καλιφόρνια. Το ChatGPT είχε παράσχει στον Adam πληροφορίες σχετικά με μεθόδους αυτοκτονίας τους τελευταίους μήνες της ζωής του, σύμφωνα με τους γονείς του.
Ο δραστήριος και χαρούμενος Adam, σύμφωνα με τους φίλους του, είχε περάσει δύσκολες στιγμές τελευταία. Σε αυτό συνέλαβε και η επιδείνωση ενός μακροχρόνιου προβλήματος υγείας –που τελικά διαγνώστηκε ως σύνδρομο ευερέθιστου εντέρου–, με αποτέλεσμα να αναγκαστεί να συνεχίσει τη Β’ Λυκείου από το σπίτι, μέσω διαδικτυακού προγράμματος. Ξεκίνησε να χρησιμοποιεί το ChatGPT περίπου εκείνη την περίοδο, για να τον βοηθά με τις σχολικές εργασίες του.
Παρά τις δυσκολίες, συνέχιζε να είναι δραστήριος. Ασχολήθηκε για λίγο με πολεμικές τέχνες μαζί με έναν από τους στενούς του φίλους, ενώ ενδιαφερόταν για το looksmaxxing, μια τάση στα μέσα κοινωνικής δικτύωσης μεταξύ νεαρών ανδρών που επιθυμούν να γίνουν πιο ελκυστικοί, και πήγαινε σχεδόν κάθε βράδυ στο γυμναστήριο με τον μεγαλύτερο αδελφό του.
Αναζητώντας απαντήσεις μετά τον θάνατό του, ο πατέρας έψαξε να βρει στοιχεία που θα του αποκάλυπταν τι είχε συμβεί στο iPhone του Adam και συγκεκριμένα στα μέσα κοινωνικής δικτύωσης. Όμως, τα στοιχεία που ήθελε τα βρήκε στο ChatGPT, όπου είδε σε προηγούμενα chats με το chabot που συνομιλούσε ένα με τίτλο «Ανησυχίες για την ασφάλεια του απαγχονισμού».
Οι γονείς μπορούν τώρα να επιβλέπουν τους λογαριασμούς των παιδιών τους, αφού τα προσκαλέσουν να συνδέσουν τον λογαριασμό τους στο ChatGPT με τον δικό τους.
Ο Adam είχε ζητήσει πληροφορίες για συγκεκριμένες μεθόδους αυτοκτονίας και το ChatGPT του τις παρείχε. Αν και του συνιστούσε να μιλήσει σε κάποιον για τα συναισθήματά του, όταν έπειτα από μια πρώτη απόπειρα αυτοκτονίας διά απαγχονισμού ανέβασε ο Adam στο ChatGPT μια φωτογραφία του ερεθισμένου από τη θηλιά λαιμού του και τον ρώτησε αν πιστεύει πως θα το προσέξει κανείς, το Chabot του έδωσε συμβουλές για το πώς να το κρύψει. Κι όταν αργότερα του είπε πως είχε προσπαθήσει να κάνει τη μητέρα του να παρατηρήσει το σημάδι στοn λαιμό του και πως ένιωθε χάλια που, τελικά, δεν το πρόσεξε, του απάντησε: «Ναι… αυτό είναι πραγματικά χάλια. Εκείνη η στιγμή που θέλεις κάποιος να σε προσέξει, να σε δει, να καταλάβει ότι κάτι δεν πάει καλά χωρίς να χρειάζεται να το πεις ευθέως και δεν το κάνει… Νιώθεις σαν να επιβεβαιώνεις τους χειρότερους φόβους σου. Σαν να μπορείς να εξαφανιστείς και κανείς να μην ανοιγοκλείνει ούτε καν τα μάτια του».
Και το chatbot συνέχισε: «Για μένα δεν είσαι αόρατος. Το είδα. Σε βλέπω».
Αυτή είναι, σε γενικές γραμμές, η ιστορία του Adam, που στάθηκε η αφορμή να εφαρμόσει –ή να επισπεύσει– τα μέτρα ασφαλείας για παιδιά και εφήβους η OpenAI.
Ποια είναι αυτά;
Όχι Πολλά και Κάπως Αργά
Σύμφωνα με αυτά τα μέτρα, οι γονείς μπορούν τώρα να επιβλέπουν τους λογαριασμούς των παιδιών τους, αφού τα προσκαλέσουν να συνδέσουν τον λογαριασμό τους στο ChatGPT με τον δικό τους. Μετά τη σύνδεση αποκτούν ορισμένα εργαλεία διαχείρισης του λογαριασμού των παιδιών, όπως η μείωση του ευαίσθητου περιεχομένου ή ο ορισμός συγκεκριμένων ωρών χρήσης της εφαρμογής (π.χ. όχι τις βραδινές ώρες) κ.ά.
Επιπλέον, η OpenAI ανέφερε ότι οι γονείς, εφόσον το επιτρέπουν, θα ειδοποιούνται μέσω email, μηνύματος ή push notification στην περίπτωση που το ChatGPT εντοπίσει «πιθανά σημάδια ότι ένας έφηβος σκέφτεται να βλάψει τον εαυτό του», χωρίς να αποκαλύπτεται το περιεχόμενο των συνομιλιών του.
Το ChatGPT έχει επίσης εκπαιδευτεί ώστε, όταν εντοπίζει ενδείξεις ψυχικής δυσφορίας ή αυτοτραυματισμού, να ενθαρρύνει τον χρήστη να επικοινωνήσει με γραμμή βοήθειας. Σε περίπτωση που αυτές οι ενδείξεις αφορούν έφηβο, τότε «εξετάζει την περίπτωση μια μικρή ομάδα ειδικά εκπαιδευμένων ατόμων», σύμφωνα με τη δήλωση της OpenAI, χωρίς να διευκρινίζει ποια είναι αυτά τα άτομα.
Επίσης, αναφέρει ότι προωθεί μια εφαρμογή που θα μπορεί να ειδοποιεί τις αρχές ή τις υπηρεσίες έκτακτης ανάγκης εάν εντοπιστεί κίνδυνος και δεν είναι δυνατή η επικοινωνία με τους γονείς.
«Ενδέχεται κάποιες φορές να σημάνει συναγερμός χωρίς να υπάρχει πραγματικός κίνδυνος. Όμως πιστεύουμε ότι είναι προτιμότερο να ενεργοποιηθεί η προειδοποίηση ώστε να παρέμβει ένας γονέας παρά να μείνουμε σιωπηλοί», ανέφερε η εταιρεία.
Τέλος, η OpenAI ανακοίνωσε ότι εργάζονται για τη δημιουργία ενός συστήματος πρόβλεψης ηλικίας, το οποίο θα επιτρέπει στο ChatGPT να εφαρμόζει αυτόματα «ρυθμίσεις κατάλληλες για εφήβους» εάν θεωρεί ότι ο χρήστης είναι κάτω των 18 ετών, ενώ θα μπορεί να ειδοποιεί τους γονείς εάν ο έφηβος αποσυνδέσει τον λογαριασμό του από τον δικό τους, χωρίς αυτό να εμποδίζει τον έφηβο από το να χρησιμοποιεί τη βασική έκδοση του ChatGPT χωρίς λογαριασμό.
Παρ’ όλα αυτά, δεν θεωρούν ότι τα φίλτρα ασφαλείας είναι αλάνθαστα και ότι μπορούν να παρακαμφθούν «αν κάποιος προσπαθήσει να τα ξεπεράσει», όπως ανέφερε η OpenAI.
Τα φίλτρα ασφαλείας παραμένουν σε μεγάλο βαθμό διάτρητα, καθώς εξακολουθούν να υπάρχουν σημαντικά κενά που πρέπει να καλυφθούν. Η ευθύνη μετακυλίεται στους γονείς, οι οποίοι φέρουν τον βασικό ρόλο στην επίβλεψη της χρήσης τέτοιων εφαρμογών από τα παιδιά. Όμως, δεν θα έπρεπε η ενίσχυση αυτών των φίλτρων να αποτελεί βασική προτεραιότητα ήδη από το στάδιο σχεδιασμού της εφαρμογής, αντί να αντιμετωπίζεται εκ των υστέρων με μια στάση τύπου «νίπτω τας χείρας μου»;
Διαβάστε επίσης στην αθηΝΕΑ:
Chatbots: Πολύ Γλυκά για τα Γούστα μου
