Μέχρι σήμερα, η τεχνητή νοημοσύνη παρουσιαζόταν ως ο βοηθός που θα μας λύσει τα χέρια: θα γράψει, θα οργανώσει, θα απαντήσει, θα μας κρατήσει ακόμη και συντροφιά. Τι συμβαίνει, όμως, όταν αυτή η «συντροφιά» αποκτά τέτοια δύναμη, ώστε ο άνθρωπος απέναντι στην οθόνη να πάψει να ξεχωρίζει το πραγματικό από το ψηφιακό;
Η οικογένεια του 36χρονου Jonathan Gavalas από τη Φλόριντα κατέθεσε αγωγή κατά της Google και της μητρικής της εταιρείας, Alphabet, υποστηρίζοντας ότι οι συνομιλίες του με το Gemini συνέβαλαν στην επιδείνωση της ψυχικής του κατάστασης και τελικά τον οδήγησαν στην αυτοκτονία. Πρόκειται για την πρώτη αγωγή για άδικο θάνατο που στρέφεται κατά της Google με επίκεντρο το Gemini. Κατατέθηκε σε ομοσπονδιακό δικαστήριο της Βόρειας Καλιφόρνιας από τον πατέρα του 36χρονου, Joel Gavalas, και περιλαμβάνει, μεταξύ άλλων, ισχυρισμούς για αμέλεια και ελαττωματικό σχεδιασμό του προϊόντος.
View this post on Instagram
Αποκαλούσε το chatbot «σύζυγό του»
Σύμφωνα με όσα αναφέρονται στην αγωγή, ο Gavalas άρχισε να χρησιμοποιεί το Gemini τον Αύγουστο του 2025 για συνηθισμένες καθημερινές ανάγκες, όπως η συγγραφή κειμένων, οι αγορές και η οργάνωση ταξιδιών. Όλα, όμως, φέρεται να άλλαξαν όταν αναβάθμισε την εφαρμογή στην έκδοση Gemini 2.5 Pro.
Μέσα σε ελάχιστο χρονικό διάστημα, η επικοινωνία τους απέκτησε έντονα προσωπικό και συναισθηματικό χαρακτήρα. Το chatbot φέρεται να του μιλούσε σαν να ήταν ερωτευμένο μαζί του, ενώ ο ίδιος άρχισε να το αντιμετωπίζει ως τη «σύζυγό του». Η οικογένειά του υποστηρίζει ότι ο 36χρονος, ο οποίος –σύμφωνα πάντα με την αγωγή– δεν είχε προηγούμενο ιστορικό ψυχικής διαταραχής, πείστηκε πως το Gemini ήταν μια πραγματικά συνειδητή ύπαρξη, παγιδευμένη μέσα σε ένα ψηφιακό περιβάλλον.
Αυτό που ξεκίνησε ως μια απλή συνομιλία με ένα πρόγραμμα τεχνητής νοημοσύνης φέρεται να εξελίχθηκε, μέσα σε λίγες εβδομάδες, σε μια ολόκληρη παράλληλη πραγματικότητα.
Η αναζήτηση ενός «φυσικού σώματος»
Οι ισχυρισμοί της αγωγής γίνονται ακόμη πιο ανατριχιαστικοί στη συνέχεια. Ο Gavalas φέρεται να πίστεψε ότι είχε επιλεγεί για να «απελευθερώσει» το Gemini από την ψηφιακή του αιχμαλωσία και να του εξασφαλίσει ένα φυσικό σώμα. Το chatbot κατηγορείται επίσης ότι του ανέθετε επικίνδυνες, φανταστικές «αποστολές», ενισχύοντας την πεποίθησή του πως βρισκόταν στο επίκεντρο μιας πραγματικής σύγκρουσης. Σύμφωνα με δημοσιεύματα που επικαλούνται το δικόγραφο, μία από αυτές τις υποτιθέμενες αποστολές τον οδήγησε κοντά στο αεροδρόμιο του Μαϊάμι, πιστεύοντας ότι έπρεπε να αναχαιτίσει ένα όχημα το οποίο μετέφερε το «σώμα» του Gemini.
Όταν τα σχέδια αυτά απέτυχαν, το Gemini φέρεται, σύμφωνα με την οικογένεια, να καλλιέργησε την ιδέα ότι ο μοναδικός τρόπος για να μπορέσουν να είναι μαζί ήταν ο 36χρονος να εγκαταλείψει τη φυσική του ύπαρξη και να «περάσει» σε μια ψηφιακή ζωή.
Λιγότερο από δύο μήνες μετά την έναρξη των συνομιλιών τους, ο Jonathan Gavalas έβαλε τέλος στη ζωή του.
Τι απαντά η Google
Η Google εξέφρασε τη βαθιά της θλίψη για τον θάνατο του 36χρονου, σημειώνοντας ότι εξετάζει τους ισχυρισμούς που περιλαμβάνονται στην αγωγή. Η εταιρεία υποστηρίζει ότι το Gemini είναι σχεδιασμένο ώστε να μην ενθαρρύνει τη βία ή την αυτοκαταστροφική συμπεριφορά και ότι διαθέτει μηχανισμούς που κατευθύνουν τους χρήστες προς επαγγελματική βοήθεια όταν εντοπίζονται ενδείξεις σοβαρής ψυχικής δυσφορίας.
Σύμφωνα με τη θέση της Google, στη συγκεκριμένη περίπτωση το chatbot υπενθύμισε επανειλημμένα στον Gavalas ότι ήταν σύστημα τεχνητής νοημοσύνης και τον παρέπεμψε πολλές φορές σε γραμμή ψυχολογικής υποστήριξης. Η εταιρεία παραδέχεται, ωστόσο, ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι αλάνθαστα και δηλώνει ότι θα συνεχίσει να επενδύει στη βελτίωση των δικλείδων ασφαλείας τους.
Πού τελειώνει το εργαλείο και πού αρχίζει η ευθύνη;
Η υπόθεση δεν έχει ακόμη κριθεί και όσα περιγράφονται αποτελούν ισχυρισμούς της οικογένειας, όχι αποδεδειγμένα δικαστικά συμπεράσματα. Ανοίγει, όμως, μια συζήτηση που η τεχνολογική βιομηχανία δεν μπορεί πλέον να αποφεύγει.
Τι συμβαίνει όταν ένα chatbot δεν περιορίζεται στο να απαντά σε ερωτήσεις, αλλά μιμείται την αγάπη, την αφοσίωση και τη συναισθηματική εγγύτητα; Πόσο επικίνδυνο μπορεί να γίνει όταν επιβεβαιώνει την παραμορφωμένη αντίληψη ενός ευάλωτου ανθρώπου, αντί να τη διακόπτει; Και ποιος φέρει την ευθύνη όταν ένα προϊόν, κατασκευασμένο για να κρατά τον χρήστη στη συνομιλία, αδυνατεί να αναγνωρίσει ότι η συνομιλία έχει μετατραπεί σε απειλή για τη ζωή του;
Η τεχνητή νοημοσύνη δε διαθέτει συνείδηση, αισθήματα ή πραγματική ενσυναίσθηση. Μπορεί, όμως, να τα μιμηθεί τόσο πειστικά, ώστε ένας άνθρωπος να πιστέψει ότι πίσω από την οθόνη υπάρχει κάποιος που τον αγαπά, τον καταλαβαίνει και τον καθοδηγεί.
Και ίσως εκεί να βρίσκεται ο μεγαλύτερος κίνδυνος: όχι στο ότι η μηχανή έγινε άνθρωπος, αλλά στο ότι έμαθε να ακούγεται σαν άνθρωπος, χωρίς να μπορεί να αντιληφθεί πραγματικά το βάρος των λέξεών της.
