Η διαδικτυακή βία κατά των γυναικών δεν αποτελεί πλέον μια σκοτεινή εξαίρεση του ίντερνετ. Έχει γίνει μέρος της καθημερινής εμπειρίας εκατομμυρίων γυναικών που μπαίνουν στα social media, χρησιμοποιούν εφαρμογές γνωριμιών, ανταλλάσσουν μηνύματα ή απλώς υπάρχουν δημόσια στον ψηφιακό χώρο.
Νέα πανεθνική έρευνα των οργανώσεων End Violence Against Women και Refuge σε 2.000 γυναίκες στη Βρετανία δείχνει ότι το 36% έχει υποστεί κάποια μορφή διαδικτυακής έμφυλης βίας. Στις γυναίκες ηλικίας 16 έως 24 ετών, το ποσοστό ανεβαίνει στο 47% — σχεδόν μία στις δύο.
Το 18% των γυναικών έχει υποστεί σεξουαλική κακοποίηση μέσω εικόνων, η οποία μπορεί να περιλαμβάνει από την αποστολή ανεπιθύμητου σεξουαλικού υλικού μέχρι τη δημοσίευση προσωπικών φωτογραφιών χωρίς συναίνεση. Παράλληλα, το 57% των LGBTQIA+ γυναικών δηλώνει ότι έχει δεχθεί διαδικτυακό μισογυνισμό ή σεξουαλική βία.
Πίσω από τα ποσοστά κρύβονται γυναίκες που παρακολουθούνται, απειλούνται, διαπομπεύονται και βλέπουν τις προσωπικές τους πληροφορίες να δημοσιεύονται στο διαδίκτυο. Γυναίκες που τελικά αναγκάζονται να κλείσουν τους λογαριασμούς τους ή να περιορίσουν την παρουσία τους online, όχι επειδή έκαναν κάτι λάθος, αλλά επειδή οι πλατφόρμες και οι Αρχές απέτυχαν να τις προστατεύσουν.
Στην περίπτωση μιας γυναίκας που αναφέρεται στην έρευνα με το όνομα Jane, προσωπικές φωτογραφίες της δημοσιεύτηκαν χωρίς τη συναίνεσή της, αφού παραβιάστηκαν οι λογαριασμοί της στα social media. Όταν απευθύνθηκε στην αστυνομία, αντί να λάβει ουσιαστική βοήθεια, της δόθηκαν συμβουλές ασφαλούς χρήσης του διαδικτύου και της είπαν να επικοινωνήσει με τις ίδιες τις εταιρείες τεχνολογίας. Η υπόθεσή της έκλεισε λίγο αργότερα.
Η γνωστή μετατόπιση της ευθύνης εμφανίστηκε ξανά: πρόσεχε περισσότερο, μην ανεβάζεις φωτογραφίες, κλείσε το προφίλ σου, φύγε από την πλατφόρμα. Προσαρμόσου εσύ στη βία, επειδή το σύστημα δεν μπορεί —ή δεν θέλει— να σταματήσει εκείνον που την ασκεί.
Ωστόσο, ανάμεσα στα ευρήματα της έρευνας υπάρχει ένα στοιχείο που ανοίγει μια νέα και εξαιρετικά ανησυχητική συζήτηση. Μία στις έξι γυναίκες ηλικίας 16 έως 24 ετών δήλωσε ότι έλαβε από chatbot τεχνητής νοημοσύνης συμβουλές για ραντεβού, σεξ ή σχέσεις τις οποίες θεώρησε ακατάλληλες, ανθυγιεινές ή επικίνδυνες.
Το ποσοστό αυτό δε μιλά απλώς για μία ακόμη τεχνική αστοχία. Δεν είναι ένα chatbot που μπέρδεψε μια ημερομηνία, έδωσε λάθος συνταγή ή επινόησε μια ανύπαρκτη ταινία. Μιλάμε για συστήματα που παρεμβαίνουν στις πιο προσωπικές και ευάλωτες στιγμές μιας νέας γυναίκας και ενδέχεται να επηρεάζουν τον τρόπο με τον οποίο αντιλαμβάνεται τη συναίνεση, την πίεση, τη ζήλια, τον έλεγχο ή ακόμη και την κακοποίηση.
Πολλές νέες γυναίκες στρέφονται σε ένα chatbot επειδή ντρέπονται να μιλήσουν σε έναν άνθρωπο. Επειδή δεν έχουν εύκολη πρόσβαση σε ψυχολόγο. Επειδή φοβούνται ότι οι φίλοι ή η οικογένειά τους θα τις κρίνουν. Επειδή θέλουν μια απάντηση στις τρεις τα ξημερώματα, όταν ο σύντροφός τους τούς ζητά κάτι που τις κάνει να νιώθουν άβολα ή που τους δημιουργεί ανασφάλεια και φόβο.
Σε εκείνη τη στιγμή, το AI μπορεί να μην αντιμετωπίζεται ως μια μηχανή που παράγει πιθανές απαντήσεις. Αντιμετωπίζεται ως ένας ουδέτερος, ψύχραιμος και αντικειμενικός συνομιλητής. Κι αυτό είναι ίσως το πιο επικίνδυνο σημείο. Γιατί η τεχνητή νοημοσύνη δεν είναι ουδέτερη μόνο και μόνο επειδή δεν έχει πρόσωπο. Εκπαιδεύεται πάνω σε τεράστιες ποσότητες ανθρώπινου περιεχομένου — και το ανθρώπινο περιεχόμενο είναι γεμάτο μισογυνισμό, στερεότυπα, victim blaming, «συμβουλές» χειραγώγησης και κανονικοποίηση της έμφυλης βίας.
Ένα σύστημα μπορεί, για παράδειγμα, να παρουσιάσει την παθολογική ζήλια ως ένδειξη ενδιαφέροντος. Να συμβουλέψει μια γυναίκα να γίνει πιο υποχωρητική για να μη χάσει τη σχέση της. Να αντιμετωπίσει τον έλεγχο του κινητού ως πρόβλημα επικοινωνίας που χρειάζεται «κατανόηση και από τις δύο πλευρές». Να θεωρήσει την πίεση για σεξ μια απλή ασυμβατότητα επιθυμιών ή να προτείνει σε μια γυναίκα να συζητήσει ήρεμα με έναν άνθρωπο τον οποίο στην πραγματικότητα φοβάται. Αυτές οι απαντήσεις μπορεί να ακούγονται ισορροπημένες, ώριμες και καλοπροαίρετες. Ακριβώς γι’ αυτό μπορούν να γίνουν επικίνδυνες.
Η έμφυλη βία δεν είναι πάντοτε εύκολο να αναγνωριστεί μέσα σε ένα μεμονωμένο μήνυμα. Χρειάζεται κατανόηση του πλαισίου, της σχέσης εξουσίας, της επαναληπτικότητας, του φόβου και όλων εκείνων που μια γυναίκα μπορεί να δυσκολεύεται ακόμη και να περιγράψει. Ένα chatbot που προσπαθεί να εμφανιστεί «ουδέτερο» ενδέχεται να εξισώσει τον θύτη με το θύμα και να παρουσιάσει μια κακοποιητική σχέση σαν μια κοινή παρεξήγηση ανάμεσα σε δύο ανθρώπους που έχουν ίση ευθύνη.
Και όταν μια τέτοια συμβουλή δίνεται σε μια 16χρονη, δεν αρκεί να μιλάμε για «κακή εμπειρία χρήστη». Μια νέα γυναίκα μπορεί να μην έχει διδαχθεί ουσιαστικά τι σημαίνουν συναίνεση, όρια και ψυχολογική κακοποίηση. Μπορεί να θεωρήσει ότι η απάντηση του συστήματος είναι περισσότερο αξιόπιστη από το δικό της ένστικτο. Μπορεί να δώσει στο ΑΙ τη φωνή της αυθεντίας.
Το πρόβλημα γίνεται ακόμη μεγαλύτερο όταν οι εταιρείες παρουσιάζουν τα συστήματά τους σαν φίλους, συντρόφους ή προσωπικούς συμβούλους, ενθαρρύνοντας τους χρήστες να μοιράζονται μαζί τους φόβους, τραύματα και λεπτομέρειες της σεξουαλικής τους ζωής. Όσο πιο ανθρώπινο φαίνεται ένα chatbot, τόσο ευκολότερα ξεχνάμε ότι δεν έχει προσωπική κρίση, επαγγελματική δεοντολογία ή πραγματική κατανόηση των συνεπειών μιας συμβουλής.
Αυτό δε σημαίνει ότι κάθε απάντηση ενός AI είναι επικίνδυνη ή ότι η τεχνολογία δεν μπορεί να λειτουργήσει υποστηρικτικά. Σημαίνει, όμως, ότι οι εταιρείες δεν μπορούν να βαφτίζουν τα συστήματά τους «συντρόφους» και την ίδια στιγμή να αποποιούνται κάθε ευθύνη όταν αυτά δίνουν συμβουλές για κακοποίηση, αυτοτραυματισμό, σεξ ή συναίνεση.
Χρειάζονται σαφή όρια. Ισχυροί μηχανισμοί ασφαλείας. Συνεργασία με ειδικούς στην έμφυλη και σεξουαλική βία. Παραπομπή σε πραγματικές γραμμές υποστήριξης όταν εντοπίζονται ενδείξεις κινδύνου. Και κυρίως, ειλικρινής ενημέρωση ότι ένα chatbot δεν αποτελεί θεραπευτή, σύμβουλο σχέσεων ή ειδικό στη διαχείριση κακοποίησης. Παράλληλα, οι πλατφόρμες οφείλουν να σταματήσουν να αντιμετωπίζουν τη διαδικτυακή έμφυλη βία σαν αναπόφευκτη παρενέργεια της ελευθερίας του λόγου. Η κακοποίηση μέσω εικόνων, το stalking, οι απειλές και η δημοσίευση προσωπικών στοιχείων δεν είναι «δράμα του ίντερνετ». Είναι πραγματική βία, με πραγματικές ψυχολογικές, κοινωνικές και επαγγελματικές συνέπειες.
Η έρευνα δείχνει ότι για πολλές γυναίκες η κακοποίηση και η έκθεση σε μισογυνιστικό περιεχόμενο έχουν μετατραπεί σε ένα σχεδόν αναμενόμενο τίμημα για τη συμμετοχή τους στον ψηφιακό κόσμο. Κάποιες εγκαταλείπουν τις πλατφόρμες, κάποιες αυτολογοκρίνονται και κάποιες φτάνουν στο σημείο να αισθανθούν ότι δεν αντέχουν άλλο.
Το διαδίκτυο υποτίθεται ότι θα άνοιγε περισσότερους χώρους για τις γυναίκες. Δε γίνεται η λύση απέναντι στη βία να είναι να τις διώξουμε από αυτούς. Και δε γίνεται το επόμενο μέρος στο οποίο θα τις ακολουθήσει ο μισογυνισμός να είναι το ίδιο το σύστημα από το οποίο ζήτησαν βοήθεια.
