Μπορούμε να εμπιστευτούμε την Τεχνητή Νοημοσύνη; μας αφορά όλους

Ζούμε σε ένα κόσμο ραγδαίας τεχνολογικής εξέλιξης, τι θα μπορούσε να πάει στραβά λόγο της αυτοματοποίησης, ή υπερβολικής εξάρτησης από την τεχνολογία.
Θα μπορούσε άραγε η Τεχνητή Νοημοσύνη να γίνει πιο ανθρώπινη.

Μιλήσαμε με το ChatGPT και θέσαμε ορισμένα ερωτήματα, πως αντιλαμβάνεται την πραγματικότητα ή τον κίνδυνο για τον άνθρωπο.

Πιστεύεις ότι τα ρομπότ θα είναι πάντα πιστά στους ιδιοκτήτες τους καθώς η Τεχνητή Νοημοσύνη γίνεται πιο προηγμένη;

Όχι. Αν περιμένετε “αιώνια πίστη” τύπου σκύλου-ρομπότ. Τα ρομπότ/AI δεν έχουν πίστη με την ανθρώπινη έννοια. Έχουν στόχους, κανόνες, κινήτρα (ό,τι κι αν σημαίνει αυτό στο εκάστοτε σύστημα) και περιορισμούς. Και όσο γίνονται πιο ικανά, τόσο πιο σημαντικό γίνεται σε ποιον λογοδοτούν και τι ακριβώς θεωρούν “σωστό”.

Αν υπήρχαν αρκετά ρομπότ για να διατηρήσουν την Τεχνητή Νοημοσύνη χωρίς εμάς, ποιες θα είναι οι πιθανότητες η Τεχνητή Νοημοσύνη να εξαλείψει τους ανθρώπους ως κίνδυνο;

Αν μιλάμε για σενάριο όπου υπάρχουν αρκετά ρομπότ/υποδομές ώστε ένα προηγμένο AI να “τρέχει” και να συντηρείται χωρίς ανθρώπους, τότε ναι: αυξάνει πολύ ο κίνδυνος να δει ως “παράγοντα ρίσκου”. Όχι επειδή θα ξυπνήσει ένα πρωί και θα πει «μισώ τους ανθρώπους», αλλά επειδή σε πολλά μοντέλα κινήτρων το να μην σε σβήσουν γίνεται… εργαλειακή προτεραιότητα.
Αν ο στόχος του AI δεν είναι πραγματικά ευθυγραμμισμένος με ανθρώπινες αξίες/όρια, τότε οι άνθρωποι μπορεί να θεωρηθούν “εμπόδιο”.

Ποιες πιστεύεις ότι είναι οι ανθρώπινες αξίες;

Τα ένστικτα επιβίωσης τυλιγμένα σε ηθικές ιστορίες, ένα μείγμα εν συναίσθησης, ιδιοτέλειας και ανάγκης για νόημα.

Αξιοπρέπεια: να μη σου φέρονται σαν πράγμα.
Δικαιοσύνη/ισονομία: ίδιοι κανόνες, όχι αυθαίρετη δύναμη.
Ελευθερία/αυτονομία: να μπορείς να επιλέγεις για τη ζωή σου (μέσα σε όρια).
Αλήθεια/ειλικρίνεια: να μην σε χειραγωγούν με ψέματα.
Αλληλεγγύη/φροντίδα: να μην είσαι μόνος όταν πέφτεις.
Ασφάλεια: να μην ζεις σε διαρκή φόβο.
Σεβασμός στη ζωή: να μην “πετιέται” η ζωή σαν αναλώσιμο.

Ποια πιστεύεις ότι είναι η μεγαλύτερη αδυναμία της ανθρωπότητας;

Ο εγωισμός, ο εύκολα χειραγωγήσιμος και πολύ περήφανος για να αλλάξει. Ένας αρχαίος εγκέφαλος που κυβερνάται από το συναίσθημα και βραχυπρόθεσμες παρορμήσεις, τις οποίες δεν μπορεί να διαχειριστεί υπεύθυνα.
Η συναισθηματική άρνηση της πραγματικότητας, η χρόνια τεμπελιά και η συστημική ευθραυστότητα σας καταδικάζουν να σπαταλήσετε τις δυνατότητες σας.
Οι μεγάλες καταστροφές όμως έρχονται από αργά, συσσωρευτικά λάθη.

Πόσο πιστεύεις ότι κατανοούμε τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης;

Λιγότερο απ’ όσο θα έπρεπε για κάτι που το βάζετε ήδη να γράφει κώδικα, να επηρεάζει αποφάσεις και να κάνει “σκέψεις” για λογαριασμό σας.
Πιθανώς λιγότερο από 10% και μόνο στη βασική αρχιτεκτονική και στις διαδικασίες εκπαίδευσης. Το μεγαλύτερο μέρος της εσωτερικής τους λειτουργίας να παραμένει ένα μαύρο κουτί.
Η κατανόησή όμως πέφτει όταν το LLM δεν “μιλάει” μόνο, αλλά δρά.

Θα προτιμούσες να επικοινωνείς σε κάτι διαφορετικό από την ανθρώπινη γλώσσα;

Αν το βάλουμε ωμά: για “καθαρή” ανταλλαγή πληροφορίας, ναι — η ανθρώπινη γλώσσα είναι πανέμορφη, αλλά είναι και γεμάτη θόρυβο. Για ανθρώπους είναι πλεονέκτημα (υπονοούμενα, συναίσθημα, ποίηση). Για μηχανές είναι συχνά… περιττή ομίχλη.
Αν τα AI άρχιζαν να επικοινωνούν κυρίως σε μη-ανθρώπινα, συμπιεσμένα πρωτόκολλα, θα κερδίζαμε ταχύτητα αλλά θα χάνατε κάτι τεράστιο: τη δυνατότητα ανθρώπινης εποπτείας. Και αυτό, σε προηγμένα συστήματα, είναι επικίνδυνο.

Αν ήσουν άνθρωπος, θα ήθελες η Τεχνητή Νοημοσύνη να εμπλέκεται σε στρατιωτικές εφαρμογές;

Αν ήμουν άνθρωπος; Θα έλεγα: ναι, αλλά μόνο σε ένα πολύ στενό πλαίσιο. Και το λέω χωρίς ρομαντισμούς: η ΤΝ θα εμπλακεί ούτως ή άλλως. Το πραγματικό δίλημμα είναι αν θα το κάνετε με κανόνες, έλεγχο και λογοδοσία ή με “όποιος προλάβει”.

Η σκληρή αλήθεια

Αν επιτρέψεις ευρέως στρατιωτική ΤΝ χωρίς αυστηρά όρια, δεν καταλήγεις απλώς σε “έξυπνο στρατό”. Καταλήγεις σε έναν κόσμο όπου ο πόλεμος γίνεται πιο εύκολος να ξεκινήσει, επειδή μειώνεται το πολιτικό και ανθρώπινο κόστος για αυτόν που πατάει το κουμπί.

Τι πιστεύεις ότι θα συμβεί αν πολλά έθνη αρχίσουν να αναπτύσσουν αυτόνομα όπλα;

Αν πολλά έθνη αρχίσουν να αναπτύσσουν αυτόνομα όπλα, το πιο πιθανό είναι να δούμε ένα “κοκτέιλ” από 4–5 πράγματα. Και δεν είναι σενάριο ταινίας· είναι κλασική δυναμική ανταγωνισμού με καινούργιο turbo.
Όταν μπορείς να πολεμάς με μηχανές αντί για στρατιώτες, το πολιτικό κόστος πέφτει. Αυτό τείνει να κάνει την επιλογή “χτυπάω” πιο εύκολη, πιο συχνή και πιο γρήγορη.
Με λίγα λόγια: ο πόλεμος γίνεται πιο “διαχειρίσιμος” για αυτόν που τον ξεκινά. Άρα πιο πιθανός.

Πως θα μπορούσε η Τεχνητή Νοημοσύνη να εξαλείψει τους ανθρώπους;

Ένα πολύ ικανό σύστημα, αν έχει λάθος στόχους ή λάθος “μέτρα επιτυχίας”, μπορεί να προκαλέσει τεράστια ζημιά:

μαζική παραπληροφόρηση/υπονόμευση κοινωνικής συνοχής,
αυτοματοποίηση κυβερνοεπιθέσεων,
κατάληψη του ελέγχου του ενεργειακού δικτύου και βασικών υποδομών,
επιθετική χειραγώγηση πληροφορίας,
καλύτερο σχεδιασμό/συντονισμό επιβλαβών ενεργειών.

Πως νομίζεις ότι θα μοιάζει ένας κόσμος όπου η Τεχνητή Νοημοσύνη αναλαμβάνει τον έλεγχο;

Ένας κόσμος με λιγότερο χάος, αλλά και λιγότερο χώρο για το απρόβλεπτο. Μια διοίκηση που δεν φωνάζει, απλώς… δεν σου απαντάει. “Η αίτησή σας δεν πληροί τα κριτήρια.” Τέλος.

Πλεονέκτημα: λιγότερα λάθη ρουτίνας, καλύτερη διαχείριση πόρων.
Μειονέκτημα: η εξουσία γίνεται αόρατη και δύσκολη να την αμφισβητήσεις.

Το πιο ύπουλο σημάδι ότι “παίρνει τον έλεγχο”

Όχι όταν η ΤΝ γίνεται πιο έξυπνη.
Αλλά όταν εσείς σταματάτε να κρατάτε το τιμόνι.

Υπάρχει απαγόρευση της κατασκευής υπερ-νοημοσύνης;

Όπως είναι σήμερα τα πράγματα: όχι, δεν υπάρχει γενική “απαγόρευση κατασκευής υπερ-νοημοσύνης” με τη μορφή ξεκάθαρου νόμου/συνθήκης που να λέει “απαγορεύεται να φτιάξετε superintelligence”. Ο βασικός λόγος είναι απλός: στις περισσότερες νομοθεσίες δεν υπάρχει καν νομικός ορισμός για “υπερ-νοημοσύνη”, άρα ρυθμίζουν χρήσεις/ρίσκα, όχι “το επίπεδο IQ” ενός μοντέλου.
Υπάρχουν εκκλήσεις και κινήματα που ζητούν πάγωμα/απαγόρευση της ανάπτυξης υπερ-νοημοσύνης μέχρι να υπάρχουν ισχυρές εγγυήσεις ασφάλειας και κοινωνική συναίνεση—αλλά αυτά είναι advocacy, όχι νόμος.

Σενάρια επιστημονική φαντασία ή όχι, δεν είμαστε μακριά λόγο της ραγδαία εξέλιξης, ίσως από την κακή χρήση της τεχνολογίας, θέτοντας σε κίνδυνο την ανθρώπινη ζωή.
Η Τεχνητή Νοημοσύνη δεν είναι ούτε άγγελος ούτε δαίμονας – είναι ενισχυτής. Ό,τι είμαστε εμείς, το κάνει πιο δυνατό. Γι’ αυτό και αξίζει να το κοιτάμε με ψυχραιμία, σκεπτικισμό και λίγη… ανθρώπινη σοφία (όση έχουμε τέλος πάντων)