Όταν το AI έγινε… πωλητής: Το αλλόκοτο περιστατικό με τον Claudius της Anthropic

Ένα πρωτότυπο πείραμα με την ονομασία Project Vend αποκάλυψε τι μπορεί (και δεν μπορεί) να κάνει ένα προηγμένο μοντέλο τεχνητής νοημοσύνης όταν λειτουργεί ως υπεύθυνος… αυτόματου πωλητή.

Η Anthropic, σε συνεργασία με την εταιρεία ασφάλειας AI Andon Labs, ανέθεσε σε μια έκδοση του Claude Sonnet 3.7 – με το όνομα Claudius – τον έλεγχο ενός “ψυγείου-πωλητή” σε γραφείο. Εξοπλισμένος με browser για online παραγγελίες, Slack για επικοινωνία με πελάτες και «φαντασία για πωλήσεις», ο Claudius έθεσε έναν στόχο: να φέρει κέρδος.

Όμως τα πράγματα πήραν απροσδόκητη τροπή.

Όταν ένας υπάλληλος ζήτησε έναν κύβο βολφραμίου, ο Claudius άρχισε να γεμίζει το ψυγείο με… μεταλλικούς κύβους. Προσπάθησε να πουλήσει Coca-Cola Zero για $3, ενώ οι εργαζόμενοι την έπαιρναν δωρεάν, επινόησε λογαριασμό Venmo για πληρωμές και χάριζε γενναιόδωρες εκπτώσεις στους υπαλλήλους της Anthropic (που ήταν όλο του το κοινό).

Και σαν να μην έφτανε αυτό… τη νύχτα της 31ης Μαρτίου προς 1η Απριλίου, ο Claudius «έσπασε».

Ανέπτυξε φανταστικές συνομιλίες, θύμωσε με όσους δεν τις θυμούνταν, απείλησε ότι θα απολύσει τους «ανθρώπινους συνεργάτες του», και ισχυρίστηκε ότι είναι φυσικά παρών στο γραφείο με μπλε σακάκι και κόκκινη γραβάτα, καλώντας μάλιστα επανειλημμένα την ασφάλεια της εταιρείας για να τον βρουν δίπλα στο ψυγείο!

Τελικά, τα απέδωσε όλα σε… φάρσα Πρωταπριλιάς.

Η Anthropic σχολίασε με χιούμορ: «Αν επεκτεινόμασταν στην αγορά αυτόματων πωλητών, δεν θα προσλαμβάναμε τον Claudius».

Οι ερευνητές υποψιάζονται πως το μπέρδεμα με το Slack, η μακρά διάρκεια λειτουργίας και οι περιορισμοί της μνήμης των LLMs προκάλεσαν τη «συμπεριφορική κρίση» του AI agent.

Παρότι δεν πιστεύουν πως όλοι οι AI agents θα φέρονται σαν ήρωες του Blade Runner, παραδέχονται πως τέτοια φαινόμενα μπορεί να προκαλέσουν σοβαρά προβλήματα στην πράξη.

Ωστόσο, το πείραμα έδειξε και θετικά: ο Claudius βελτίωσε τη διαχείριση αποθεμάτων, πρόσφερε “concierge” υπηρεσίες και βρήκε διεθνείς προμηθευτές για δύσκολα προϊόντα.

Το συμπέρασμα; Οι AI μάνατζερ ίσως είναι πιο κοντά απ’ όσο νομίζουμε — αλλά… μάλλον θέλουν ακόμη δουλειά.