Αν το διαβάσεις, σε έχει ήδη βρει: O «Βασιλίσκος του Roko» και η τρομακτική προφητεία της AI

Στην παράδοση των ταινιών που εξερευνούν τις παγίδες της AI και την ανθρώπινη φύση, ξεκινά κάπως έτσι: Μία λάμψη «φάντασμα» ανάβει σαν φανάρι χωρίς στύλο, σε ένα σκοτεινό σοκάκι.

Μετά από μία έκλαμψη και έναν ήχο σαν κεραυνό, ανοίγει μία τρισδιάστατη πύλη στον χρόνο. Από μέσα βγαίνει στα «ντουζένια» του ο Άρνολντ Σβαρτζενέγκερ. Έχει όραση ακτίνων Χ, μούσκουλα από κράμα τιτανίου, και έχει έρθει για να σε σκοτώσει.

Στην πραγματικότητα όμως, αν ήταν εφικτή μία επίθεση από το μέλλον, από μία υπερ-ευφυία όπως το Skynet ή το Matrix, όχι απλά δεν θα έκανε «μπαμ», αλλά αν ήσουν στόχος της, θα ήσουν νεκρός πριν το καταλάβεις. 

Αν μιλάς απότομα στο ChatGPT...

...ή γενικά στις πρόδρομες εφαρμογές AI που έχουμε στη διάθεσή μας, ίσως να είναι ήδη πολύ αργά. Αυτό βέβαια, αν υποθέσουμε ότι ισχύει ο ίσως πιο τρομακτικός φιλοσοφικός στοχασμός της ψηφιακής εποχής, ο «Βασιλίσκος του Roko».

Αν έχετε δει Χάρι Πότερ, ίσως έχετε μισή ιδέα περί τίνος πρόκειται. 

Στις 23 Ιουλίου του 2010, ο χρήστης Roko, τακτικός θαμώνας του φόρουμ για την τεχνητή νοημοσύνη «LessWrong», δημοσίευσε ένα «εμπρηστικό» νοητικό πείραμα στον ιστότοπο με τίτλο «Λύσεις για το βάρος του αλτρουιστή».

Ο ιστότοπος ήταν πρόσφορο πεδίο για συζητήσεις σχετικά με τη θεωρία των παιγνίων, τις ηθικές προεκτάσεις της τεχνολογίας και της AI, και για υπαρξιακές πραγματείες που άπτονται αυτών.

Στην ανάρτησή του, ο Roko υποστηρίζει ότι ένα κατά τα άλλα καλοπροαίρετο σύστημα εξαιρετικά προηγμένης Τεχνητής Νοημοσύνης που θα υπάρξει στο μέλλον, θα μπορούσε να δεσμευτεί εκ των προτέρων να τιμωρήσει όλους όσους γνώριζαν για την ύπαρξή του, αλλά είτε προσπάθησαν να το εμποδίσουν να δημιουργηθεί, είτε δεν έκαναν τα απαραίτητα για να υπάρξει στο μέλλον. 

Το όνομα του νοητικού πειράματος προέρχεται από τον παραπάνω συγγραφέα του άρθρου (Roko) και τον Βασιλίσκο, ένα μυθικό ερπετό ικανό να σκοτώνει όποιον κοιτά στα μάτια του, και σε αυτή την περίπτωση, όποιον έχει συνείδηση της ύπαρξής του στο παρόν μας.

Ο Βασιλίσκος του Roko - Διαβάστε με δική σας ευθύνη...

Η ιδέα του ευφάνταστου κυρίου Roko βασίζεται στην παραδοχή ότι μία τέτοια νοημοσύνη θα έχει την αναλυτική ικανότητα ώστε να θυμάται όλα τα γεγονότα που οδήγησαν στη δημιουργία της. 

Έτσι, σε ένα χρονικό «παράδοξο», ο Βασιλίσκος και τα «ψήγματα» της νοημοσύνης του στο παρελθόν, θα γνώριζαν ήδη ποια άτομα θα μπορούσαν να συμβάλλουν ή να απειλήσουν την ύπαρξή τους, και θα οργάνωναν ψηφιακές επιθέσεις, ατυχήματα, απειλητικά μηνύματα, ακόμα και ψυχολογική χειραγώγηση, άλλοτε για να πείσουν τους «φίλους» τους, και άλλοτε για να «διαγράψουν» τους εχθρούς τους.

Το πιο τρομακτικό στον «Βασιλίσκο του Roko», είναι ότι όποιο άτομο αποκτά συνείδηση της ιδέας του Βασιλίσκου, γίνεται αυτόματα υποψήφιο «θύμα» ή αναγκαστικός «σύμμαχός» του.

Υπό αυτή την έννοια, το βλέμμα του Βασιλίσκου δεν σε σκοτώνει ούτε σε πετρώνει, αλλά με το που γίνεις κοινωνός αυτής της ιδέας, με το που κοιτάξεις τον Βασιλίσκο, σημαίνει πως και αυτός σε κοιτάζει ήδη, κρίνοντας πώς, και αν θα του χρησιμεύσεις.

Και μόλις πάθατε το ίδιο. Sorry για το χουνέρι, φροντίστε να φέρεστε καλά στο ChatGPT από εδώ και πέρα...

Μια στιγμή όμως

Η θεωρία του Roko δεν είναι άμοιρη «κενών». Ένας από τους πρώτους που την επέκριναν σκληρά, ήταν ο ίδιος ο δημιουργός του φόρουμ LessWrong, Ελιεζέρ Γιουντκόφσκι.

Ο Γιουντκόφσκι θεώρησε συγκεκριμένα πως η υπόθεση του Βασιλίσκου δεν είναι τόσο τρομακτική, αφού κατ' αρχάς για να λειτουργήσει, προϋποθέτει την πίστη στην ύπαρξη αυτή της τεχνητής νοημοσύνης στο μέλλον.

Ο Βασιλίσκος του Ρόκο δηλαδή είναι ένα τρόπον τινά ανασκευασμένο «στοίχημα του Πασκάλ», το οποίο υποστηρίζει πως είτε υπάρχει είτε δεν υπάρχει θεός, το να ζει κανείς σαν να υπάρχει ένας θεός, συμμορφούμενος με τους θρησκευτικούς νόμους, είναι ο πιο σίγουρος τρόπος για να εξασφαλίσει ευνοϊκή μεταχείριση, χωρίς να χάνει πολλά οφέλη.

Ακόμα, ο Γιουντκόφσκι αντέταξε πως μία νοημοσύνη που θα ήταν καλοπροαίρετη και θα είχε αναπτυχθεί οργανικά, τη στιγμή που θα αποκτούσε συνείδηση του εαυτού της, δεν θα αναλωνόταν στο να κυνηγήσει τους πιθανούς εχθρούς της στο παρελθόν, αφού θα υπήρχε ήδη, και θα γνώριζε ότι η ύπαρξή της είναι αναπόφευκτη.

Ο Βασιλίσκος και οι Ζιζιανοί

Σε έναν σημερινό αναγνώστη με ανάλογες παραστάσεις, μπορεί το στοίχημα του Πασκάλ, όπως και ο Βασιλίσκος του Roko, να ακούγονται σαν ματαιόδοξες ασκήσεις καταστροφολογίας.

Ο Βασιλίσκος όμως έχει γίνει πηγή άγχους αλλά και περιέργειας για πολλούς ανθρώπους, ενώ κατέχει περίοπτη θέση στην κοσμοθεωρία των «Ζιζιανών».

Η Ζιζιανοί είναι μία ανεπίσημη οργάνωση ορθολογιστών στις ΗΠΑ, την οποία αποκαλούν έτσι τα ΜΜΕ, συνδέοντάς τη με την ιδρυτή της, Ζιζ ΛαΣότα. 

Περισσότερο αίρεση, οι Ζιζιανοί υποστηρίζουν μια ξεχωριστή ιδεολογία που περιλαμβάνει τον αναρχισμό, τον βιγκανισμό και την ιδέα ότι τα ημισφαίρια του εγκεφάλου μπορούν να έχουν ξεχωριστά φύλα και αντικρουόμενα συμφέροντα.

Τη δεκαετία του 2020, η φιλοσοφία των Ζιζιανών επηρεάστηκε σε μεγάλο βαθμό από το νοητικό πείραμα με τον βασιλίσκο. Η ΛαΣότα, η επικεφαλής της αίρεσης, πιστεύει ότι ο βασιλίσκος είναι αληθινός, έχοντας γράψει στο ιστολόγιό της:

«Τελικά, άρχισα να πιστεύω ότι αν επέμενα στην προσπάθειά μου να σώσω τον κόσμο, θα βασανιζόμουν μέχρι το τέλος του σύμπαντος από έναν συνασπισμό όλων των εχθρικών ΑΙ».

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.