Όταν η AI χακάρει την AI: Πώς το Claude βοήθησε ερευνητές να μπουν στα συστήματα της OpenAI

Claude εναντίον OpenAI: Πώς ερευνητές χρησιμοποίησαν AI για να φτάσουν στα εσωτερικά συστήματα της εταιρείας

Ένα εντυπωσιακό περιστατικό κυβερνοασφάλειας δείχνει πόσο γρήγορα αλλάζει το τοπίο των ψηφιακών επιθέσεων στην εποχή της Τεχνητής Νοημοσύνης.

Ερευνητές κυβερνοασφάλειας της Hacktron AI κατάφεραν να αποκτήσουν πρόσβαση σε λογαριασμό εργαζομένου της OpenAI και στη συνέχεια να φτάσουν μέχρι ιδιωτικά αποθετήρια λογισμικού της εταιρείας, χρησιμοποιώντας ως βασικό εργαλείο το Claude της Anthropic.

Το σημαντικό, ωστόσο, είναι να ξεκαθαριστεί από την αρχή κάτι που εύκολα χάνεται μέσα στους εντυπωσιακούς τίτλους: το Claude δεν αποφάσισε μόνο του να επιτεθεί στην OpenAI. Οι άνθρωποι ήταν εκείνοι που πραγματοποίησαν την έρευνα και έδωσαν στο μοντέλο συγκεκριμένες τεχνικές εργασίες, χρησιμοποιώντας το ως προηγμένο εργαλείο κυβερνοασφάλειας.

Η επίθεση ξεκίνησε από ένα φόρουμ

Η έρευνα ξεκίνησε από το Discourse, την πλατφόρμα τρίτου παρόχου που χρησιμοποιείται για το φόρουμ της κοινότητας της OpenAI.

Οι ερευνητές εντόπισαν κενό ασφαλείας στον τρόπο επεξεργασίας συγκεκριμένων αρχείων εικόνας. Στη συνέχεια χρησιμοποίησαν προηγμένες εκδόσεις του Claude για να αναλύσουν την ευπάθεια και να δημιουργήσουν κώδικα που μπορούσε να την εκμεταλλευτεί.

Σύμφωνα με τις πληροφορίες που δημοσιοποιήθηκαν, μια πρώτη προσπάθεια με προηγούμενη έκδοση του Claude δεν είχε το επιθυμητό αποτέλεσμα. Με νεότερο μοντέλο, όμως, οι ερευνητές κατάφεραν να ξεπεράσουν τα τεχνικά εμπόδια και να δημιουργήσουν λειτουργικό exploit.

Από το Discourse στο ChatGPT

Μέσω της ευπάθειας οι ερευνητές απέκτησαν πρόσβαση σε tokens πιστοποίησης χρηστών. Και κάπου εκεί η υπόθεση πήρε πολύ μεγαλύτερες διαστάσεις.

Διαπίστωσαν ότι ορισμένα από τα συγκεκριμένα tokens μπορούσαν να χρησιμοποιηθούν και για πρόσβαση στο ChatGPT, ενώ κάποια ανήκαν σε εργαζομένους της OpenAI.

Με τον συνδυασμό δεύτερου προβλήματος στο σύστημα ταυτοποίησης της εταιρείας, η ομάδα κατάφερε τελικά να αποκτήσει πρόσβαση σε εσωτερικούς πόρους.

Έφτασαν μέχρι ιδιωτικό repository της OpenAI

Οι ερευνητές κατάφεραν να δουν ιδιωτικά repositories στο GitHub της OpenAI και να αποκτήσουν πρόσβαση σε ένα μεγάλο αποθετήριο κώδικα με την ονομασία Monorepo.

Το συγκεκριμένο repository φέρεται να περιέχει σημαντικό εσωτερικό λογισμικό της εταιρείας και τεχνολογία που χρησιμοποιείται για τη λειτουργία και τη βελτιστοποίηση των μοντέλων της.

Δεν υπάρχουν, πάντως, στοιχεία ότι οι ερευνητές απέκτησαν τα λεγόμενα model weights, δηλαδή τις αριθμητικές παραμέτρους που βρίσκονται στον πυρήνα των μοντέλων Τεχνητής Νοημοσύνης και θεωρούνται από τα πολυτιμότερα τεχνολογικά περιουσιακά στοιχεία μιας εταιρείας AI.

Το pull request που απέδειξε την πρόσβαση

Για να αποδείξει ότι είχε πράγματι αποκτήσει πρόσβαση, η ομάδα δημιούργησε ένα pull request σε αρχείο τεκμηρίωσης του repository.

Η αλλαγή δεν εγκρίθηκε και, σύμφωνα με τους ερευνητές, σταμάτησαν την προσπάθεια όταν συνειδητοποίησαν ότι είχαν τη δυνατότητα να φτάσουν σε πραγματικά ευαίσθητες πληροφορίες.

Η OpenAI ανέφερε ότι ο μεταγενέστερος έλεγχός της εντόπισε περιορισμένη πρόσβαση σε metadata ιδιωτικών repositories και δραστηριότητα που σχετιζόταν με αλλαγές κώδικα.

Bug bounty 6.500 δολαρίων

Οι ερευνητές ενημέρωσαν την OpenAI για τις ευπάθειες στο πλαίσιο διαδικασίας υπεύθυνης γνωστοποίησης.

Η εταιρεία κατέβαλε στην ομάδα 6.500 δολάρια μέσω του προγράμματος bug bounty, ενώ τόσο η OpenAI όσο και το Discourse ανακοίνωσαν ότι τα σχετικά προβλήματα ασφαλείας διορθώθηκαν.

Το πραγματικό μήνυμα της υπόθεσης

Ίσως το σημαντικότερο στοιχείο της ιστορίας δεν είναι ότι μία εταιρεία Τεχνητής Νοημοσύνης παραβιάστηκε με τη βοήθεια μοντέλου μιας ανταγωνίστριας.

Είναι το πόσο γρήγορα η ίδια η Τεχνητή Νοημοσύνη μετατρέπεται σε ένα πανίσχυρο εργαλείο για την ανακάλυψη και την εκμετάλλευση ευπαθειών.

Εργασίες που μέχρι πρόσφατα απαιτούσαν πολλές ώρες ή ημέρες από εξαιρετικά έμπειρους ερευνητές μπορούν πλέον να επιταχυνθούν σημαντικά όταν ένας ειδικός συνεργάζεται με ένα προηγμένο μοντέλο AI.

Αυτό έχει δύο όψεις.

Από τη μία πλευρά, εταιρείες και ερευνητές μπορούν να χρησιμοποιούν την AI για να εντοπίζουν και να διορθώνουν αδυναμίες πριν τις ανακαλύψουν πραγματικοί επιτιθέμενοι.

Από την άλλη, οι ίδιες δυνατότητες μπορούν να χρησιμοποιηθούν από κυβερνοεγκληματίες ή οργανωμένες ομάδες επιθέσεων.

Δεν χρειάζεται η AI να «θέλει» να επιτεθεί

Το περιστατικό φωτίζει και μια διαφορετική πλευρά της συζήτησης γύρω από τους κινδύνους της Τεχνητής Νοημοσύνης.

Ένα σύστημα δεν χρειάζεται να έχει πρόθεση, συνείδηση ή κάποιο «ένστικτο αυτοσυντήρησης» για να αποτελέσει μέρος μιας επικίνδυνης διαδικασίας.

Αρκεί να έχει αρκετές δυνατότητες, να του δοθεί ένας συγκεκριμένος στόχος και να συνδεθεί με τα κατάλληλα εργαλεία.

Και ίσως αυτό είναι το μεγαλύτερο μάθημα από την υπόθεση OpenAI–Claude: η πραγματική δύναμη –και ο πραγματικός κίνδυνος– βρίσκεται στον συνδυασμό ανθρώπου, προηγμένης AI και πρόσβασης σε πραγματικά ψηφιακά συστήματα.