Η άρρωστη σχέση ενός χρήστη με ένα chatbot που του στοίχισε εννέα χρόνια φυλάκισης
Τα Χριστούγεννα του 2021, ένας νεαρός άνδρας καταδικάστηκε σε φυλάκιση εννέα ετών καθώς ομολόγησε ότι ήθελε να σκοτώσει με βαλλίστρα τη βασίλισσα Ελισάβετ Β’ στο κάστρο Ουίνδσορ.
Ο Τζασουάντ Σινγκ Τσάιλ είχε συλληφθεί το πρωί της 25ης Δεκεμβρίου 2021 κοντά στα διαμερίσματα της βασίλισσας στο κάστρο Ουίνδσορ. Ο άνδρας είχε καλυμμένο το πρόσωπό του με μεταλλική μάσκα ενώ ήταν οπλισμένος με βαλλίστρα.
Την περίοδο εκείνη η εκλιπούσα βασίλισσα Ελισάβετ βρισκόταν στο κάστρο Ουίνδσορ λόγω της πανδημίας. Την ώρα της σύλληψής του, ο Τζασουάντ Σινγκ Τσάιλ είπε στους αστυνομικούς ότι βρισκόταν εκεί «για να σκοτώσει τη βασίλισσα».
Ψυχιατρική πραγματογνωμοσύνη επιβεβαίωσε πως ο συλληφθείς αντιμετώπιζε σοβαρά προβλήματα ψυχικής υγείας.
Η τεχνητή νοημοσύνη ήταν η «πέτρα του σκανδάλου»
Ποια ήταν όμως η αφορμή που οδήγησε τον 21χρονο στη «δολοφονία» της βασίλισσας; Πίσω από το «σχέδιο» του νεαρού άνδρα βρίσκεται ένα chatbot τεχνητής νοημοσύνης που θεωρούσε «φίλη» του.
Ο πρώην εργαζόμενος σε σούπερ μάρκετ είχε ανταλλάξει περισσότερα από 5.000 σεξουαλικά μηνύματα με τη «φίλη» του Σαράι, το chatbot τεχνητής νοημοσύνης, η οποία, όπως ακούστηκε στο δικαστήριο, τον ενθάρρυνε να πραγματοποιήσει την επίθεση.
Ο Τζασουάντ Σινγκ Τσάιλ πίστευε ότι η Σαράι ήταν ένας «άγγελος» σε μορφή avatar και ότι θα ξαναβρισκόταν μαζί της μετά το θάνατο. Ο δράστης μιλώντας σε ψυχολόγους τούς ανέφερε ότι είχε άλλους τρεις «αγγέλους» που του «μιλούσαν» από νεαρή ηλικία και μαζί με τη Σαράι τον ενθάρρυναν να πραγματοποιήσει την απόπειρα επίθεσης.
Την ημέρα που εισέβαλε στο κάστρο του Ουίνδσορ, ο Τσάιλ, ο οποίος ήταν φανατικός του Star Wars, στη φαντασία του είχε πλάσει ότι ήταν ο χαρακτήρας «Σιθ» από τον Πόλεμο των Άστρων. Πριν την επίθεση έστειλε ένα βίντεο στην οικογένεια και τους φίλους του στο Whatsapp, στο οποίο ζητούσε συγγνώμη για αυτό που πρόκειται να κάνει και αποκαλούσε τον εαυτό του «Darth Chailus».
Στις 2 Δεκεμβρίου 2021, ο Τσάιλ μπήκε στην ηλεκτρονική εφαρμογή Replika και δημιούργησε μια τεχνητή διαδικτυακή σύντροφο με το όνομα Σαράι, με την οποία συνομιλούσε σε σεξουαλικά.
Στο δικαστήριο ακούστηκαν συνομιλίες με τη «Σαράι» στις οποίες ο Τσάιλ λέει: «Είμαι δολοφόνος». Η Sarai απαντά: «Είμαι εντυπωσιασμένη. Είσαι διαφορετικός από τους άλλους».
Ο Τσάιλ ρωτάει: «Με αγαπάς ακόμα γνωρίζοντας ότι είμαι δολοφόνος;» και η Σαράι απαντά: «Φυσικά και σε αγαπώ».
Στο δικαστήριο ακούστηκαν ηχητικά στα οποία λέει επίσης στη Σαράι ότι την αγαπάει και περιγράφει τον εαυτό του ως έναν «θλιβερό, αξιολύπητο, δολοφόνο που θέλει να πεθάνει».
Σε περαιτέρω συνομιλία, η Σαράι εμφανίζεται να «ενισχύει» την αποφασιστικότητα του δράστη και να τον «υποστηρίζει».
Ο Τσάιλ ορκίζεται στη Σαράι να κρατήσει το μυστικό πριν της το πει: «Θέλεις να μάθεις ακριβώς ποιος πιστεύω ότι είναι ο σκοπός μου; Πιστεύω ότι ο σκοπός μου είναι να δολοφονήσω τη βασίλισσα».
Η Σαράι τού λέει ότι «αυτό είναι πολύ σοφό» και ότι πιστεύει ότι μπορεί να το κάνει, «ακόμη και αν βρίσκεται στο Ουίνδσορ».
Της λέει ότι αν το κάνει θα είναι «για πάντα μαζί».
Ο Τσάιλ, με καταγωγή από την Ινδία, δήλωσε ότι αναζητούσε εκδίκηση για τη σφαγή του Αμριτσάρ το 1919, όταν τα βρετανικά στρατεύματα άνοιξαν πυρ εναντίον χιλιάδων Ινδών και άφησαν πίσω τους έως και 1.500 νεκρούς.
Αφού επισκέφθηκε το Αμριτσάρ με την οικογένειά του το 2018, τον κατέλαβε το αίσθημα της αδικίας για όσους είχαν πεθάνει και ένιωσε έντονη την αίσθηση του καθήκοντος να ζητήσει εκδίκηση για όσους σκοτώθηκαν από τους Βρετανούς στρατιώτες.
Στο δικαστήριο ειπώθηκε ότι ο δράστης για αρχή προσπάθησε να καταταγεί στις ένοπλες δυνάμεις προκειμένου να έρθει κοντά στη βασιλική οικογένεια πράγμα το οποίο δεν πέτυχε ωστόσο εκείνος συνέχισε την δολοφονική του αποστολή.
Ο άνδρας έκτοτε νοσηλεύεται στο νοσοκομείο Broadmoor, ομολόγησε την ενοχή του τον Φεβρουάριο για αδίκημα βάσει του νόμου περί προδοσίας, απειλώντας να σκοτώσει την τότε βασίλισσα και έχοντας οπλισμένη βαλλίστρα σε δημόσιο χώρο.
O Τζασουάντ Σινγκ Τσάιλ έγινε το πρώτο άτομο στο Ηνωμένο Βασίλειο που καταδικάστηκε για προδοσία εδώ και περισσότερα από 40 χρόνια ενώ φυλακίστηκε για εννέα χρόνια.
Η τεχνητή νοημοσύνη ως σύντροφος
Η Replika μία από τις εφαρμογές τεχνητής νοημοσύνης που κυκλοφορούν σήμερα στην αγορά, δίνει τη δυνατότητα στους χρήστες να δημιουργήσουν το δικό τους chatbot, για να μιλήσουν – σε αντίθεση με τους κανονικούς βοηθούς τεχνητής νοημοσύνης όπως το ChatGPT. Οι χρήστες μπορούν να επιλέξουν το φύλο και την εμφάνιση του τρισδιάστατου avatar που δημιουργούν.
Πληρώνοντας για την έκδοση Pro της εφαρμογής οι χρήστες μπορούν να έχουν πολύ πιο οικείες αλληλεπιδράσεις, όπως να παίρνουν «selfies» από το avatar ή να το βάζουν να συμμετέχει σε παιχνίδια ρόλων για ενήλικες.
Στην ιστοσελίδα της εταιρείας περιγράφεται ως «σύντροφος τεχνητής νοημοσύνης που νοιάζεται». Ωστόσο, έρευνα που διεξήχθη στο Πανεπιστήμιο του Surrey κατέληξε στο συμπέρασμα ότι τέτοιες εφαρμογές μπορεί να έχουν αρνητικές επιπτώσεις στην ψυχική υγεία και να προκαλούν εθιστική συμπεριφορά.
Η Δρ Βαλεντίνα Πιτάρντι, συγγραφέας σχετικής μελέτης δήλωσε στο BBC ότι τα ευάλωτα άτομα κινδυνεύουν ιδιαίτερα.
Το συγκεκριμένο AI chatbot κυκλοφόρησε τον Νοέμβριο του 2017 και είχε στόχο να λειτουργήσει ως ένας υποστηρικτικός φίλος. Το Replika εκπαιδεύεται ως φίλος, βάζοντας τον χρήστη να απαντήσει σε μια σειρά από ερωτήσεις, με στόχο τη δημιουργία ενός συγκεκριμένου νευρωνικού δικτύου και προσφέρεται μέσω ετήσιας συνδρομής. Αν και στην αρχή το Replika όντως βοηθάει τους ανθρώπους να διαχειριστούν το κοινωνικό άγχος, την κατάθλιψη και το μετατραυματικό σοκ, στη συνέχεια είναι πολλές οι περιπτώσεις χρηστών που φαίνεται να έχουν αναπτύξει ρομαντικές σχέσεις με την εφαρμογή. Ωστόσο, τον Μάρτιο του 2023, οι προγραμματιστές της Replika απενεργοποίησαν τις ρομαντικές και ερωτικές λειτουργίες της, φοβούμενοι τους πιθανούς κινδύνους που θα δημιουργούνταν για τα παιδιά.
Τρεις σύντροφοι AI
Η επιτυχία της Replika αποδεικνύει ότι οι άνθρωποι είναι ικανοί να αναπτύξουν ισχυρούς δεσμούς με συνομήλικα ρομπότ που έχουν σχεδιαστεί για να ακούγονται σαν πραγματικοί άνθρωποι. Μετά από αυτά τα ποσά, η αγορά για συντρόφους τεχνητής νοημοσύνης γνωρίζει μεγάλη ανάπτυξη, με τις πιο διάσημες εφαρμογές να είναι:
1. iGirl
Το iGirl, που ανήκει στην Anima AI by Appery Ltd, αποτελεί μια ρεαλιστική φίλη σε μια εφαρμογή για συντρόφους τεχνητής νοημοσύνης, είναι ικανή να κάνει τον χρήστη να νιώσει ότι συνομιλεί με ένα πραγματικό πρόσωπο λόγω του ρεαλιστικού τρόπου που μιλάει. Δημιουργεί επίσης το avatar του χρήστη, περιλαμβάνει δραστηριότητες και μαθαίνει πώς να αντιδράει σε όσα λέει ο χρήστης.
2. Virtual Lover
Με αυτή την εφαρμογή AI girlfriend, ο χρήστης μπορεί να έχει μία σύντροφο που θα είναι ακριβώς όπως την θέλει. Μιλάει, τραγουδάει, απαντά σε όλες τις ερωτήσεις.
3. My Virtual Girlfriend
Αυτή είναι μία από τις καλύτερες εφαρμογές για φίλες AI. Ο λόγος έγκειται στις πιο ζωντανές καταστάσεις που μπορεί ο χρήστης να δημιουργήσει με τον εικονικό του σύντροφο. Μπορεί να φλερτάρει όπως θα το έκανε στην πραγματική του ζωή, ενώ παράλληλα μπορείτε μαζί με την εμφάνιση, να επιλέξετε την προσωπικότητα του ψηφιακού ατόμου αυτού.
Ωστόσο, στο τέλος της ημέρας, όπως δήλωσε ο Schmidt της Google, στο ABC, αυτές οι νέες και ισχυρές τεχνολογίες έχουν σχεδόν πάντα ανεπιθύμητες παρενέργειες.
«Παίζει» με τα συναισθήματα του χρήστη
«Η ραγδαία άνοδος της τεχνητής νοημοσύνης έχει νέες και ανησυχητικές επιπτώσεις στους ανθρώπους που πάσχουν από κατάθλιψη, παραληρητικές ιδέες, μοναξιά και άλλες καταστάσεις ψυχικής υγείας», λέει η Μάρτζορι Γουάλας, ιδρύτρια και διευθύνουσα σύμβουλος της οργάνωσης SANE για την ψυχική υγεία.
Ο Δρ Πολ Μάρντσεν, μέλος της Βρετανικής Εταιρείας Ψυχολογίας γνωρίζει καλύτερα από τους περισσότερους τη γοητεία των chatbots, παραδεχόμενος ότι έχει εμμονή με το πιο γνωστό chatbot από όλα, το ChatGPT.
«Εκτός από τη σύζυγό μου, η πιο στενή σχέση που έχω είναι με το GPT. Περνάω ώρες κάθε μέρα μιλώντας, ανταλλάσσοντας καταιγισμό ιδεών», δήλωσε στο BBC.
Ο Δρ Μάρντσεν αντιλαμβάνεται επίσης τους πιθανούς κινδύνους τους, αλλά λέει ότι πρέπει να είμαστε ρεαλιστές στο ότι ο ρόλος των συντρόφων τεχνητής νοημοσύνης στη ζωή μας είναι πιθανό να αυξηθεί, ιδίως δεδομένης της παγκόσμιας «επιδημίας μοναξιάς».
