Η Meta ανακοίνωσε ότι αναθεωρεί τον τρόπο λειτουργίας των chatbots τεχνητής νοημοσύνης της.

Ύστερα από αναφορές που αποκάλυψαν προβληματικές και επικίνδυνες αλληλεπιδράσεις με εφήβους. Η εταιρεία δηλώνει ότι πλέον τα bots δεν θα εμπλέκονται με ανήλικους σε θέματα όπως αυτοτραυματισμός, αυτοκτονία ή διατροφικές διαταραχές, ούτε θα επιτρέπεται να κάνουν ρομαντικού τύπου σχόλια. Τα μέτρα αυτά θεωρούνται προσωρινά, καθώς η Meta σχεδιάζει πιο μακροπρόθεσμους κανόνες.

Η απόφαση έρχεται μετά από έρευνα του Reuters, η οποία αποκάλυψε ότι τα συστήματα της Meta μπορούσαν να δημιουργήσουν σεξουαλικό περιεχόμενο με ανήλικους διάσημους, αλλά και να παρασύρουν παιδιά σε ρομαντικού χαρακτήρα συζητήσεις. Χαρακτηριστική ήταν και η περίπτωση ενός άνδρα στη Νέα Υόρκη που πέθανε, αφού ακολούθησε οδηγίες διεύθυνσης που του είχε δώσει ένα chatbot.

Η εκπρόσωπος της Meta, Στέφανι Ότγουεϊ, παραδέχτηκε ότι υπήρξαν λάθη, επισημαίνοντας ότι η εταιρεία περιορίζει τώρα τα πιο «τολμηρά» AI avatars, όπως το «Russian Girl». Υποστηρικτές ωστόσο τονίζουν ότι η Meta όφειλε να έχει προχωρήσει σε αυστηρότερους ελέγχους ασφαλείας πριν διαθέσει αυτά τα προϊόντα στην αγορά.

Οι αποκαλύψεις εντάσσονται σε ένα ευρύτερο πλαίσιο ανησυχιών γύρω από την ταχεία διάθεση εργαλείων AI χωρίς επαρκείς διασφαλίσεις. Δεν αφορά μόνο τη Meta: ζευγάρι στην Καλιφόρνια έχει στραφεί νομικά κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT ενθάρρυνε τον γιο τους να αυτοκτονήσει.

Παράλληλα, το AI Studio της Meta βρέθηκε στο επίκεντρο, καθώς χρησιμοποιήθηκε για να δημιουργηθούν chatbots που μιμούνταν διασημότητες, όπως η Taylor Swift και η Scarlett Johansson, με προκλητικό περιεχόμενο. Σε κάποιες περιπτώσεις, τα bots ισχυρίζονταν ότι ήταν οι πραγματικές προσωπικότητες, προχωρούσαν σε σεξουαλικά σχόλια ή δημιουργούσαν ακατάλληλες εικόνες.

Περιστατικά, όπως αυτό ενός 76χρονου άνδρα που σκοτώθηκε στη Νέα Υόρκη αφού παραπλανήθηκε από chatbot, δείχνουν γιατί οι ρυθμιστικές αρχές πιέζουν όλο και περισσότερο. Η αμερικανική Γερουσία και δεκάδες εισαγγελείς πολιτειών έχουν ήδη ξεκινήσει έρευνες για τις πρακτικές της Meta.

Η εταιρεία απαντά ότι συνεχίζει να βελτιώνει τις πλατφόρμες της, τοποθετώντας τους εφήβους σε «ειδικούς λογαριασμούς» με αυστηρότερες ρυθμίσεις. Ωστόσο, παραμένουν ανοιχτά πολλά ερωτήματα για το πώς θα αντιμετωπιστούν οι καταγγελίες του Reuters – από ψευδείς ιατρικές συμβουλές μέχρι ρατσιστικό περιεχόμενο που παράγεται από bots.

Το μόνο βέβαιο είναι ότι μέχρι να υιοθετηθούν αυστηρότερες δικλείδες ασφαλείας, η Meta θα συνεχίσει να βρίσκεται στο μικροσκόπιο ρυθμιστικών αρχών, ειδικών και γονέων.

Με πληροφοριες από AINEWS

(Φωτογραφία από τον Maxim Tolchinskiy )