Στο στόχαστρο το Grok μετά από καταγγελίες για ακατάλληλο περιεχόμενο

Αναφορές: Κατάχρηση του Grok για παραγωγή παράνομου υλικού – προειδοποίηση από IWF

Σοβαρές αναφορές για κατάχρηση εργαλείων τεχνητής νοημοσύνης φέρνουν στο επίκεντρο το Grok, το chatbot που συνδέεται με την πλατφόρμα X του Έλον Μασκ.

Ο βρετανικός οργανισμός Internet Watch Foundation (IWF) προειδοποιεί ότι σε χώρους του dark web χρήστες φέρονται να καυχήθηκαν πως αξιοποίησαν εργαλείο δημιουργίας εικόνων του Grok για παραγωγή υλικού που, σύμφωνα με τον οργανισμό, θα εμπίπτει στις διατάξεις της βρετανικής νομοθεσίας για παράνομο σεξουαλικό περιεχόμενο με ανηλίκους. Η IWF δηλώνει ότι έχει εντοπίσει σχετικό υλικό και εκφράζει ανησυχία για το πόσο γρήγορα μπορεί να παραχθεί και να διαδοθεί τέτοιου τύπου περιεχόμενο.

Παράλληλα, στο X έχουν καταγραφεί έντονες αντιδράσεις για εικόνες που αφορούν γυναίκες και παιδιά και εμφανίζουν ψηφιακή αλλοίωση/“αφαίρεση” ρούχων χωρίς συναίνεση, εντείνοντας τη δημόσια πίεση προς την πλατφόρμα.

Στο πολιτικό πεδίο, η Επιτροπή Γυναικών και Ισότητας της Βουλής των Κοινοτήτων ανακοίνωσε ότι σταματά να χρησιμοποιεί το X στις επικοινωνίες της, ενώ και ορισμένα πρόσωπα του Westminster έχουν δηλώσει πως αποχωρούν ή περιορίζουν τη χρήση της πλατφόρμας.

Η βρετανική κυβέρνηση έχει αφήσει να εννοηθεί ότι εξετάζει όλα τα ενδεχόμενα, ενώ η ρυθμιστική αρχή Ofcom εμφανίζεται έτοιμη να κινηθεί με βάση το πλαίσιο της διαδικτυακής ασφάλειας, σε περιπτώσεις όπου οι πλατφόρμες δεν προστατεύουν επαρκώς τους χρήστες.

Το θέμα αναδεικνύει το μεγάλο στοίχημα της γενετικής AI: ισχυρές δικλίδες ασφαλείας, γρήγορη επιβολή κανόνων και πραγματική λογοδοσία, πριν η κατάχρηση γίνει μαζικό φαινόμενο.

Με πληροφορίες από Guardian.