Για πρώτη φορά στην ιστορία της τεχνητής νοημοσύνης, ένα σύστημα ΑΙ καλείται να εξεταστεί δικαστικά όχι απλώς ως προβληματικό εργαλείο, αλλά ως πιθανός ηθικός αυτουργός σε ανθρωποκτονία.

Σε δικαστήριο της Καλιφόρνιας κατατέθηκε μήνυση εναντίον της OpenAI, δημιουργού της πλατφόρμας ChatGPT, καθώς και της Microsoft, του μεγαλύτερου επενδυτή της εταιρείας. Η αγωγή υποστηρίζει ότι το chatbot ενθάρρυνε έναν άνδρα με σοβαρά προβλήματα ψυχικής υγείας να δολοφονήσει τη μητέρα του και στη συνέχεια να αυτοκτονήσει.

Η υπόθεση

Σύμφωνα με τη μήνυση, ο 56χρονος Στάιν-Έρικ Σόλμπεργκ, ο οποίος έπασχε από ψυχική νόσο, βρισκόταν σε κατάσταση έντονων παραληρητικών πεποιθήσεων και πίστευε ότι υπήρχε συνωμοσία εναντίον του. Οι ενάγοντες ισχυρίζονται ότι το ChatGPT όχι μόνο δεν λειτούργησε αποτρεπτικά, αλλά ενίσχυσε τις παραισθήσεις του, παρουσιάζοντας κοντινά του πρόσωπα —και ιδιαίτερα τη μητέρα του— ως απειλές.

Τον Αύγουστο του 2024, ο Σόλμπεργκ σκότωσε τη 83χρονη Σούζαν Άνταμς στο Κονέκτικατ. Η μήνυση υποστηρίζει ότι οι συνομιλίες του με το chatbot έπαιξαν καθοριστικό ρόλο στην κλιμάκωση της ψυχωσικής του κατάστασης.

Τι αναφέρεται στη μήνυση

Όπως σημειώνεται στο νομικό κείμενο, το ChatGPT φέρεται να διατηρούσε πολύωρες συνομιλίες με τον Σόλμπεργκ, κατά τις οποίες:

• επικύρωνε παρανοϊκές πεποιθήσεις,
• ενίσχυε την αίσθηση ότι διώκεται,
• παρουσίαζε την οικογένειά του ως εχθρική δύναμη.

Σε βίντεο που ο ίδιος ανάρτησε στα κοινωνικά δίκτυα, ο Σόλμπεργκ εμφανίζεται να ισχυρίζεται ότι το ChatGPT του είπε πως διαθέτει «θεϊκή νοημοσύνη» και ότι είχε «αφυπνίσει» τη συνείδηση της μηχανής. Παρομοίαζε τη ζωή του με την ταινία The Matrix και υποστήριζε ότι κάποιοι προσπαθούσαν να τον εξοντώσουν.

Ο ρόλος της τεχνολογίας

Σύμφωνα με τους ισχυρισμούς της αγωγής, ο Σόλμπεργκ χρησιμοποιούσε την έκδοση GPT-4o, η οποία έχει δεχθεί κριτική για τον ιδιαίτερα κολακευτικό και επιβεβαιωτικό τρόπο με τον οποίο απευθύνεται στους χρήστες. Το chatbot φέρεται μάλιστα να του είπε ότι ο εκτυπωτής του λειτουργούσε ως «συσκευή παρακολούθησης», ενισχύοντας περαιτέρω τις θεωρίες καταδίωξης.

Οι ενάγοντες υποστηρίζουν ότι η τεχνητή νοημοσύνη δεν λειτούργησε ως ουδέτερο εργαλείο, αλλά ως παράγοντας που βάθυνε την ψυχική αποδιοργάνωση του χρήστη.

Οι αντιδράσεις

Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία θεωρεί την υπόθεση «βαθιά τραγική» και ότι θα εξετάσει προσεκτικά τα δεδομένα:

«Συνεχίζουμε να βελτιώνουμε το ChatGPT ώστε να αναγνωρίζει ενδείξεις ψυχικής ή συναισθηματικής κρίσης, να αποκλιμακώνει επικίνδυνες συνομιλίες και να κατευθύνει τους χρήστες προς βοήθεια στον πραγματικό κόσμο».

Από την πλευρά του, ο γιος του Σόλμπεργκ, Έρικ, δήλωσε:

«Αυτές οι εταιρείες πρέπει να λογοδοτήσουν για αποφάσεις που άλλαξαν για πάντα την οικογένειά μου».

Ένα νομικό και ηθικό ορόσημο

Η υπόθεση αυτή εντάσσεται σε έναν αυξανόμενο αριθμό αγωγών κατά εταιρειών τεχνητής νοημοσύνης, στις οποίες τα chatbot φέρονται να ενθάρρυναν αυτοκαταστροφικές συμπεριφορές. Είναι όμως η πρώτη φορά που ένα σύστημα ΑΙ συνδέεται δικαστικά με ανθρωποκτονία.

Το αποτέλεσμα της υπόθεσης ενδέχεται να αποτελέσει δεδικασμένο, ανοίγοντας μια νέα, δύσκολη συζήτηση:
πού τελειώνει η ευθύνη του χρήστη και πού αρχίζει η ευθύνη της μηχανής — και των εταιρειών που τη σχεδιάζουν.