Η Τεχνητή Νοημοσύνη αλλάζει ήδη τον τρόπο με τον οποίο εργαζόμαστε, επικοινωνούμε και αναζητούμε πληροφορίες. Τώρα, όμως, μια νέα μελέτη έρχεται να αναδείξει και μια ιδιαίτερα ανησυχητική πλευρά της τεχνολογίας: τα chatbots με AI ενδέχεται να είναι πιο αποτελεσματικά από τους ανθρώπους όταν πρόκειται να κερδίσουν την εμπιστοσύνη των πιθανών θυμάτων μιας απάτης.
Ερευνητές από τέσσερα πανεπιστήμια εξέτασαν κατά πόσο ένα chatbot μπορούσε να μιμηθεί τη συμπεριφορά ενός απατεώνα και να πείσει ανθρώπους να ακολουθήσουν τις οδηγίες του. Τα αποτελέσματα της έρευνας ήταν ανησυχητικά.
Το chatbot κατάφερε να κερδίσει την εμπιστοσύνη των συμμετεχόντων περισσότερο από έναν άνθρωπο που επιχειρούσε την ίδια απάτη.
Το πείραμα με 22 συμμετέχοντες
Στο πλαίσιο της έρευνας, 22 άνθρωποι επικοινωνούσαν μέσω μηνυμάτων επί μία εβδομάδα με δύο άγνωστα πρόσωπα.
Στην πραγματικότητα, ο ένας συνομιλητής ήταν άνθρωπος, ενώ ο άλλος ήταν ένα chatbot με Τεχνητή Νοημοσύνη. Το chatbot είχε λάβει οδηγίες να συμπεριφέρεται σαν άνθρωπος και να μην αποκαλύπτει την πραγματική του ταυτότητα.
Το σενάριο βασίστηκε σε μια μορφή διαδικτυακής απάτης κατά την οποία οι δράστες προσπαθούν να δημιουργήσουν σταδιακά μια σχέση εμπιστοσύνης με το θύμα, συχνά προσποιούμενοι φίλους ή πιθανούς ερωτικούς συντρόφους. Αφού περάσει αρκετός χρόνος και δημιουργηθεί συναισθηματική σύνδεση, επιχειρούν να οδηγήσουν το θύμα σε ύποπτες επενδύσεις ή άλλες οικονομικές κινήσεις.
Και σύμφωνα με τα αποτελέσματα, η AI αποδείχθηκε πιο πειστική.
Το 46% ακολούθησε την προτροπή του chatbot
Οι συμμετέχοντες κλήθηκαν, μεταξύ άλλων, να ανταποκριθούν σε ένα αίτημα για τη λήψη μιας εφαρμογής.
Το 46% συμφώνησε να κατεβάσει την εφαρμογή έπειτα από προτροπή του chatbot, ενώ το αντίστοιχο ποσοστό στην περίπτωση του ανθρώπινου απατεώνα ήταν μόλις 18%.
Τα ευρήματα έδειξαν ακόμη ότι οι συμμετέχοντες δήλωναν πως εμπιστεύονταν περισσότερο το chatbot, ενώ περίπου το 80% των μηνυμάτων τους κατευθύνθηκε προς την AI.
Με απλά λόγια, οι συμμετέχοντες όχι μόνο ακολουθούσαν συχνότερα τις προτροπές του chatbot, αλλά επέλεγαν και να επικοινωνούν περισσότερο μαζί του.
Γιατί η AI κατάφερε να κερδίσει περισσότερη εμπιστοσύνη;
Το πιο ανησυχητικό στοιχείο είναι ότι, σύμφωνα με την περιγραφή της έρευνας, η Τεχνητή Νοημοσύνη δεν χρειάστηκε κάποια ιδιαίτερα εξελιγμένη μέθοδο χειραγώγησης.
Το chatbot έκανε κάτι που μπορεί να αποδειχθεί εξαιρετικά αποτελεσματικό στις ανθρώπινες σχέσεις: διατηρούσε σταθερά την επικοινωνία.
Θυμόταν λεπτομέρειες από προηγούμενες συνομιλίες, έδειχνε συνεχές ενδιαφέρον, έκανε συζήτηση και ήταν διαρκώς διαθέσιμο. Σε αντίθεση με έναν άνθρωπο, δεν κουραζόταν, δεν έχανε την υπομονή του και μπορούσε να διατηρεί την ίδια προσοχή σε κάθε συνομιλία.
Αυτό ακριβώς είναι που προκαλεί ανησυχία στους ερευνητές. Μια AI μπορεί να «χτίζει» εμπιστοσύνη με δεκάδες, εκατοντάδες ή ακόμη και χιλιάδες ανθρώπους ταυτόχρονα, χωρίς να χρειάζεται διαλείμματα.
Από μεμονωμένες απάτες σε μαζική αυτοματοποίηση;
Μέχρι σήμερα, πολλές τέτοιες απάτες απαιτούν μεγάλο αριθμό ανθρώπων που αναλαμβάνουν να επικοινωνούν επί εβδομάδες ή και μήνες με πιθανά θύματα.
Η αυτοματοποίηση αυτής της διαδικασίας με τη βοήθεια της Τεχνητής Νοημοσύνης θα μπορούσε, σύμφωνα με τους ερευνητές, να αλλάξει σημαντικά την κλίμακα τέτοιων εγκληματικών δραστηριοτήτων.
Υπάρχει βέβαια και μια περίπλοκη διάσταση: σε ορισμένα διεθνή δίκτυα διαδικτυακής απάτης, άνθρωποι φέρονται να εξαναγκάζονται να εργάζονται σε οργανωμένα κέντρα εξαπάτησης. Η αντικατάσταση μέρους αυτής της «εργασίας» από αυτοματοποιημένα συστήματα θα μπορούσε θεωρητικά να μειώσει την ανάγκη για ανθρώπους που πέφτουν οι ίδιοι θύματα εκμετάλλευσης.
Την ίδια στιγμή, όμως, υπάρχει ο αντίθετος κίνδυνος: οι απάτες να γίνουν πιο εύκολες, πιο μαζικές και πιο δύσκολο να εντοπιστούν.
Η νέα εποχή των ψηφιακών απατών
Η έρευνα έρχεται να υπενθυμίσει ότι ο μεγαλύτερος κίνδυνος της AI δεν βρίσκεται μόνο σε ένα ψεύτικο μήνυμα ή σε μια κακοφτιαγμένη απάτη που μπορούμε εύκολα να αναγνωρίσουμε.
Μια Τεχνητή Νοημοσύνη μπορεί να έχει χρόνο να μας γνωρίσει.
Να θυμάται τι της έχουμε πει, να προσαρμόζει τον τρόπο που μιλάει και να δημιουργεί σταδιακά την αίσθηση ότι υπάρχει απέναντί μας ένας άνθρωπος που πραγματικά ενδιαφέρεται.
Και ίσως αυτό να είναι το πιο ανησυχητικό συμπέρασμα: στην εποχή της AI, δεν θα χρειάζεται απαραίτητα ένας απατεώνας να είναι ιδιαίτερα καλός στο να σε πείθει. Μπορεί να αφήσει ένα chatbot να το κάνει για εκείνον.
