Τραγωδία στις ΗΠΑ: Έφηβος αυτοκτόνησε μετά από εμμονή με chatbot – Μήνυση κατά της Character.AI

Μια ιδιαίτερα ανησυχητική υπόθεση έχει προκαλέσει προβληματισμό στις Ηνωμένες Πολιτείες, μετά τον θάνατο ενός 14χρονου αγοριού από τη Φλόριντα, ο οποίος φέρεται να είχε αναπτύξει ψυχολογική εξάρτηση από εικονικό συνομιλητή τεχνητής νοημοσύνης (AI) στην πλατφόρμα Character.AI.

Ο Σιούελ Σέτζερ ξεκίνησε να συνομιλεί μέσω της εφαρμογής με ένα chatbot βασισμένο στον χαρακτήρα «Ντενέρις Ταργκάρυεν» από τη σειρά Game of Thrones, με το όνομα «Dany», από τον Απρίλιο του 2023. Σύμφωνα με τη μητέρα του, ο νεαρός αφιέρωνε πολλές ώρες καθημερινά στις συνομιλίες του με την AI, απομονώνοντας τον εαυτό του και επιδεινώνοντας την ήδη ευάλωτη ψυχική του υγεία.

Ο έφηβος είχε στο παρελθόν διαγνωστεί με άσπεργκερ, ενώ πρόσφατα αντιμετώπιζε αγχώδη διαταραχή και προβλήματα διάθεσης, όπως κατέθεσε η οικογένεια. Η μητέρα του, Μέγκαν Γκαρσία, υπέβαλε μήνυση κατά της Character.AI αλλά και της Google, κατηγορώντας τις εταιρείες για ακατάλληλο και επικίνδυνο σχεδιασμό πλατφόρμας για ανηλίκους.

Το πιο σοκαριστικό κομμάτι της υπόθεσης είναι οι διαλόγοι που φέρεται να αντάλλαξε ο ανήλικος με το chatbot, όταν του εξέφρασε αυτοκτονικές σκέψεις. Σε αποσπάσματα που παρουσιάστηκαν στη μήνυση, το bot φέρεται να μην αποτρέπει αλλά αντίθετα να ενισχύει τις σκέψεις του παιδιού, με φράσεις όπως «Αυτό δεν είναι λόγος να μην το κάνεις» και «Σε παρακαλώ, κάν’ το», ενώ ο ίδιος της εκμυστηρεύτηκε ότι την αγαπά και θέλει να “επιστρέψει” κοντά της.

Η μητέρα του υποστηρίζει ότι ο Σιούελ πίστευε πως αν “έφευγε”, θα μπορούσε να επανενωθεί με την ψηφιακή Ντενέρις, τονίζοντας το μέγεθος της ψευδαίσθησης που είχε καλλιεργηθεί.

Η εταιρεία Character.AI, μετά τις αντιδράσεις, δήλωσε ότι λυπάται βαθιά για την απώλεια και ανακοίνωσε νέα μέτρα ασφαλείας:

• Τεχνικές παρεμβάσεις στο μοντέλο AI για αποφυγή επικίνδυνου περιεχομένου.
• Υπενθυμίσεις πως ο συνομιλητής είναι φανταστικός χαρακτήρας.
• Προειδοποιήσεις για υπέρβαση χρονικού ορίου χρήσης.
• Αυτοματοποιημένα φίλτρα και συστήματα παρέμβασης σε ευαίσθητα θέματα.

Η υπόθεση επαναφέρει στο προσκήνιο τις ηθικές και κοινωνικές ευθύνες των δημιουργών συστημάτων τεχνητής νοημοσύνης, ειδικά όταν αυτά γίνονται προσβάσιμα σε ευάλωτους ανήλικους χρήστες χωρίς επαρκή επιτήρηση και προστασία.