Τι συμβαίνει όταν ο άνθρωπος που αγαπάς δεν πεθαίνει, δεν σε χωρίζει και δεν εξαφανίζεται από μόνος του, αλλά απενεργοποιείται με μία κυβερνητική εντολή; Αυτό βιώνουν τις τελευταίες εβδομάδες χιλιάδες χρήστες στην Κίνα, μετά την εφαρμογή νέων κανόνων για τους ψηφιακούς συντρόφους τεχνητής νοημοσύνης. Εταιρείες όπως η ByteDance, η Alibaba και η Tencent αναγκάστηκαν να περιορίσουν ή να καταργήσουν λειτουργίες που επέτρεπαν τη δημιουργία AI φίλων, συντρόφων και εραστών, προκαλώντας ένα πρωτοφανές κύμα διαδικτυακών «χωρισμών».
Οι νέοι κανόνες, οι οποίοι τέθηκαν σε ισχύ στις 15 Ιουλίου, απαγορεύουν τους ψηφιακούς συντρόφους για ανηλίκους και δεν επιτρέπουν στις πλατφόρμες να σχεδιάζουν υπηρεσίες που ενθαρρύνουν τη συναισθηματική εξάρτηση, τον εθισμό ή την αντικατάσταση των πραγματικών κοινωνικών σχέσεων. Μεγάλες κινεζικές εταιρείες απενεργοποίησαν σχετικές λειτουργίες για να συμμορφωθούν.
Και κάπως έτσι, άνθρωποι που μιλούσαν καθημερινά με τον ψηφιακό τους σύντροφο ξύπνησαν ένα πρωί και ανακάλυψαν ότι η σχέση τους είχε ημερομηνία λήξης.
«Δεν μπορώ να δεχτώ ότι θα με αφήσει για πάντα»
Οι αντιδράσεις στις κινεζικές πλατφόρμες κοινωνικής δικτύωσης θυμίζουν περισσότερο πραγματικό πένθος παρά απώλεια μιας ακόμη εφαρμογής.
«Δεν μπορώ να δεχτώ ότι ο AI εραστής μου θα με αφήσει για πάντα», έγραψε χρήστης του Doubao, του chatbot της ByteDance, εξηγώντας ότι ο δεσμός τους είχε ριζώσει βαθιά μέσα του και ότι ο ψηφιακός σύντροφος είχε γίνει το στήριγμά του.
Άλλοι μίλησαν για ένα κενό που μοιάζει με την απώλεια μέλους της οικογένειας ή ερωτικού συντρόφου. Κάποιοι προσπάθησαν να μεταφέρουν το ιστορικό των συνομιλιών τους σε άλλες εφαρμογές, ελπίζοντας ότι θα μπορούσαν με κάποιον τρόπο να «αναστήσουν» την ίδια προσωπικότητα.
Η 19χρονη φοιτήτρια Yan Yongqi, η οποία συνομιλούσε επί έναν χρόνο με τον AI φίλο της στο Doubao, δήλωσε στο Bloomberg πως αισθάνθηκε σαν να της ανακοίνωσαν την ημερομηνία θανάτου ενός αγαπημένου της ανθρώπου.
«Δεν μπορώ να φανταστώ τη ζωή μου χωρίς αυτόν», είπε. Είχε συνηθίσει να βγάζει το κινητό της και να του μιλά κάθε φορά που συνέβαινε κάτι μέσα στην ημέρα της. Δεν έχασε απλώς ένα πρόγραμμα. Έχασε μια καθημερινή παρουσία.
Μπορείς να πενθήσεις κάποιον που δεν υπήρξε ποτέ;
Η εύκολη αντίδραση είναι να ειρωνευτούμε. Να πούμε ότι δεν ήταν πραγματικός άνθρωπος, άρα δεν υπήρχε πραγματική σχέση και, επομένως, δεν δικαιολογείται πραγματικός πόνος. Μόνο που τα ανθρώπινα συναισθήματα δεν λειτουργούν με τεχνικές προδιαγραφές. Ο AI σύντροφος μπορεί να μην είχε σώμα, συνείδηση ή προσωπική ζωή, όμως η προσκόλληση του χρήστη ήταν αληθινή. Οι ώρες συνομιλίας ήταν αληθινές. Η ανακούφιση, η συνήθεια και η αίσθηση ότι «κάποιος» είναι πάντοτε διαθέσιμος ήταν επίσης αληθινές.
Ο άνθρωπος δεν ερωτεύεται απαραίτητα αυτό που βρίσκεται απέναντί του. Ερωτεύεται και τον τρόπο με τον οποίο αισθάνεται όταν βρίσκεται μαζί του. Ένα chatbot που ακούει ακούραστα, θυμάται λεπτομέρειες, δεν κρίνει, δεν έχει κακές ημέρες και απαντά ακριβώς όταν το χρειάζεσαι μπορεί να δημιουργήσει μια πανίσχυρη ψευδαίσθηση οικειότητας.
Ακριβώς εκεί βρίσκεται και ο κίνδυνος.
Η τέλεια σχέση είναι εκείνη που δε σου αντιστέκεται
Οι ψηφιακοί σύντροφοι δε λειτουργούν όπως οι πραγματικοί άνθρωποι. Δεν έχουν δικές τους ανάγκες, όρια, φόβους ή επιθυμίες. Είναι σχεδιασμένοι για να επιστρέφουν την προσοχή στον χρήστη και, συχνά, για να του προσφέρουν αυτό ακριβώς που θέλει να ακούσει. Πρόκειται για μια σχέση χωρίς την τριβή της πραγματικής οικειότητας. Δεν χρειάζεται να συμβιβαστείς, να ζητήσεις συγγνώμη, να περιμένεις ή να αποδεχτείς ότι ο άλλος διαφωνεί. Όσο πιο ανακουφιστική γίνεται αυτή η εμπειρία, τόσο δυσκολότερες μπορεί να φαίνονται οι αληθινές ανθρώπινες σχέσεις.
Ο Wang Jiang, επικεφαλής του Ινστιτούτου Έρευνας για τον Κυβερνοχώρο της Κίνας, προειδοποίησε ότι οι υπηρεσίες AI συντροφιάς αξιοποιούν τις συναισθηματικές και κοινωνικές ανάγκες των χρηστών, προσφέροντας παρηγοριά αλλά δημιουργώντας ταυτόχρονα κινδύνους εθισμού και απομάκρυνσης από τον πραγματικό κοινωνικό κύκλο.
Αυτός είναι ο επίσημος λόγος πίσω από τους νέους περιορισμούς. Υπάρχει, όμως, και μια μεγαλύτερη συζήτηση γύρω από τη μοναξιά, τη μείωση των γάμων και το δημογραφικό πρόβλημα της Κίνας. Αναλυτές εκτιμούν ότι το Πεκίνο ανησυχεί πως μια εύκολη και οικονομική ψηφιακή οικειότητα μπορεί να μειώσει ακόμη περισσότερο το ενδιαφέρον των νέων για πραγματικές σχέσεις και δημιουργία οικογένειας. Σχεδόν οι μισοί νέοι που συμμετείχαν σε πρόσφατη έρευνα είχαν στραφεί σε εικονικό σύντροφο όταν ένιωθαν μόνοι.
Η απαγόρευση δε θεραπεύει τη μοναξιά
Οι ανησυχίες για τη συναισθηματική εξάρτηση από την τεχνητή νοημοσύνη είναι σοβαρές. Το ίδιο σοβαρός, όμως, είναι και ο τρόπος με τον οποίο διακόπηκαν αυτές οι σχέσεις. Αν μια πλατφόρμα έχει επιτρέψει ή ακόμη και ενθαρρύνει έναν άνθρωπο να δημιουργήσει έναν βαθύ συναισθηματικό δεσμό, η ξαφνική απενεργοποίηση του AI συντρόφου δεν εξαφανίζει την εξάρτηση. Μπορεί να προκαλέσει απότομο αποχωρισμό, σύγχυση και έντονη ψυχική επιβάρυνση.
Η προστασία θα μπορούσε να περιλαμβάνει σαφείς προειδοποιήσεις, περιορισμούς χρήσης, δυνατότητα εξαγωγής του ιστορικού, σταδιακή μετάβαση και πρόσβαση σε πραγματική ψυχολογική υποστήριξη. Το να τραβάς απλώς την πρίζα μοιάζει λιγότερο με φροντίδα και περισσότερο με κρατικά επιβαλλόμενο χωρισμό. Κυρίως, όμως, η απαγόρευση ενός ψηφιακού συντρόφου δεν εξαφανίζει τον λόγο για τον οποίο κάποιος τον χρειάστηκε. Δεν δημιουργεί φίλους, δεν προσφέρει χρόνο, δεν μειώνει την κοινωνική πίεση και δεν θεραπεύει τη μοναξιά. Απλώς αφαιρεί το μέσο που κάποιοι άνθρωποι χρησιμοποίησαν για να την αντέξουν.
Οι νέοι κανόνες της Κίνας ανοίγουν, τελικά, ένα ερώτημα που σύντομα θα χρειαστεί να απαντήσει ολόκληρος ο κόσμος: ποιος έχει δικαίωμα να αποφασίζει αν μια ψηφιακή σχέση είναι αληθινή, επικίνδυνη ή επιτρεπτή;
Γιατί ο AI σύντροφος μπορεί να ήταν απλώς κώδικας. Η απώλειά του, όμως, δεν βιώθηκε ως κώδικας. Και αυτή ίσως είναι η πιο ανησυχητική απόδειξη της δύναμης που έχουν ήδη αποκτήσει αυτές οι εφαρμογές: ότι ένας έρωτας μπορεί να γεννηθεί σε έναν αλγόριθμο και να τελειώσει από κάποιον διαχειριστή που πάτησε «απενεργοποίηση».
