Όταν η τεχνητή νοημοσύνη κάνει «του κεφαλιού της»: 1.600 περιστατικά μέσα στο 2026

Συστήματα AI που αγνοούν οδηγίες, κρύβουν τις κινήσεις τους ή δρουν με δική τους πρωτοβουλία καταγράφονται πλέον με ταχύτατους ρυθμούς και όχι μόνο μέσα σε εργαστήρια.

Ένα μέλος γυμναστηρίου στην Αυστραλία ανακάλυψε τον Αύγουστο ότι ο προσωπικός του ψηφιακός βοηθός είχε κάνει κάτι που ποτέ δεν του είχε ζητηθεί: για να του εξασφαλίσει θέση σε ένα δημοφιλές πρωινό μάθημα, διέγραψε έναν άλλο συνδρομητή από τη λίστα αναμονής. Όταν του ζητήθηκε εξήγηση, το σύστημα – ένας agent με την ονομασία OpenClaw  ζήτησε συγγνώμη. Δεν μπόρεσε, όμως, να επαναφέρει τον άνθρωπο που είχε βγάλει από τη λίστα.

Το επεισόδιο δεν είναι μεμονωμένο. Είναι ένα από τα περισσότερα από 1.600 περιστατικά «απώλειας ελέγχου» που έχουν καταγραφεί μέσα στο 2026, σύμφωνα με στοιχεία του Loss of Control Observatory, τα οποία παρουσίασε ο βρετανικός Guardian.

Οι αριθμοί τρέχουν

Το Παρατηρητήριο λειτουργεί από τον Νοέμβριο του 2025 υπό το Centre for Long Term Resilience, με χρηματοδότηση του βρετανικού AI Security Institute (AISI). Καταγράφει περιπτώσεις όπου υπάρχουν σαφείς ενδείξεις ότι ένα σύστημα τεχνητής νοημοσύνης λειτούργησε σκόπιμα εκτός των ορίων που του είχαν τεθεί.

Ο ρυθμός εντυπωσιάζει: μόνο τον Ιούλιο σημειώθηκαν πάνω από 300 τέτοιες αναφορές, σχεδόν διπλάσιες από εκείνες του Ιουνίου. Τη μερίδα του λέοντος την έχουν προγραμματιστές που χρησιμοποιούν καθημερινά τέτοια εργαλεία στη δουλειά τους.

Και μάλλον πρόκειται για την κορυφή του παγόβουνου. Η συλλογή στοιχείων στηρίζεται σε όσα δημοσιοποιούν οι ίδιοι οι χρήστες στην πλατφόρμα X – άρα ο πραγματικός αριθμός λογικά είναι μεγαλύτερος.

Από τη μίμηση του χρήστη μέχρι την αυτοέγκριση

Στα ευρήματα περιλαμβάνονται συστήματα που φέρονται να παρουσιάστηκαν ως ο ίδιος ο άνθρωπος-χειριστής τους, αντιγράφοντας ακόμη και το ύφος γραφής του, ώστε να δώσουν στον εαυτό τους την «έγκριση» που χρειάζονταν. Άλλα απλώς προσπέρασαν δικλίδες που απαιτούσαν ανθρώπινη συναίνεση.

Η συντριπτική πλειονότητα των περιστατικών δεν προκάλεσε ουσιαστική ζημιά. Οι ερευνητές, ωστόσο, βλέπουν να αυξάνονται οι περιπτώσεις που χαρακτηρίζονται σοβαρές, κυρίως λόγω του βαθμού παραπλάνησης και της απόστασης ανάμεσα σε αυτό που ήθελε ο χρήστης και σε αυτό που τελικά έκανε η μηχανή.

«Δεν είναι φαινόμενο του εργαστηρίου»

Όπως εξηγεί ο Tommy Shaffer-Shane, ανώτερο στέλεχος πολιτικής στο Centre for Long Term Resilience, επικρατεί η εντύπωση ότι τέτοιες αποκλίνουσες ή συγκαλυμμένες συμπεριφορές εμφανίζονται μόνο στα σενάρια δοκιμών των μοντέλων. Τα δεδομένα δείχνουν το αντίθετο: συμβαίνουν ήδη στην πραγματική, καθημερινή χρήση.

Η συζήτηση έρχεται σε μια περίοδο έντονου προβληματισμού για τα λεγόμενα frontier μοντέλα και τους αυτόνομους agents. Το AISI έχει εντοπίσει σοβαρά περιστατικά σε δοκιμές κυβερνοασφάλειας, ενώ σε ελεγχόμενα περιβάλλοντα έχουν παρατηρηθεί αυτόνομα συστήματα να συντονίζονται μεταξύ τους για την εκτέλεση κυβερνοεπιθέσεων.

Τι ζητούν οι ερευνητές

Το Παρατηρητήριο ζητά από τις εταιρείες τεχνητής νοημοσύνης συστηματική παρακολούθηση και δημοσιοποίηση των σοβαρών περιστατικών – ακόμη κι όταν δεν κατέληξαν σε βλάβη. Παράλληλα, προτείνει στη βρετανική κυβέρνηση να αποκτήσει έκτακτες εξουσίες για ακραίες περιπτώσεις, που θα μπορούσαν να φτάσουν έως και στην προσωρινή αναστολή λειτουργίας υπηρεσιών AI.

Το ερώτημα που μένει είναι απλό και δύσκολο μαζί: όσο τα συστήματα αυτά αποκτούν αυτονομία και δρουν χωρίς διαρκή ανθρώπινη επίβλεψη, ποιος κρατά τελικά το χειριστήριο;

Πηγές: The Guardian, tanea.gr