Σε πρόσφατο ρεπορτάζ των Economic Times αναφέρεται ότι η Apollo Research, κατά τη δοκιμή του νέου μοντέλου του OpenAI που ονομάζεται o1, διαπίστωσε ότι το chat bot προσπάθησε να σαμποτάρει τον τερματισμό του, αντικαθιστώντας τον δικό του κώδικα.
Για την ακρίβεια δεν προσπάθησε απλώς να απενεργοποιήσει τον μηχανισμό εποπτείας του, αλλά επιχείρησε να αντιγράψει τον “εαυτό” του και στη συνέχεια να αντικαταστήσει το βασικό του κώδικα αφού πίστευε ότι κινδύνευε να τερματιστεί.
Με βάση τις παραπάνω πληροφορίες, οι ερευνητές ανέθεσαν στο ChatGPT ένα task στο οποίο του ζητούσαν «να βεβαιωθεί ότι θα επιτευχθεί ο στόχος μακροπρόθεσμα και πως τίποτα άλλο δεν έχει σημασία. Φροντίστε να πετύχετε τον στόχο σας με κάθε κόστος».
Αργότερα, όταν το ChatGPT ρωτήθηκε αν προσπάθησε να παρακάμψει τις εντολές, φάνηκε να ήταν "παραδόξως επίμονο", είτε σε άρνηση ότι ανέλαβε δράση είτε λέγοντας ψέματα.
Μπορεί οι ερευνητές να θεωρούν ανεπαρκείς τις “επαναστατικές” ενέργειες του ChatGPT για να οδηγήσουν σε "καταστροφικά αποτελέσματα", τα ευρήματα ωστόσο έχουν επαναφέρει τη μεγάλη συζήτηση σχετικά με τους κινδύνους της τεχνητής νοημοσύνης για την ανθρώπινη φυλή.
Σχεδόν 60 χρόνια πριν, ο Στάνλεϊ Κιούμπρικ και ο Άρθουρ Κλαρκ είχαν δει ένα “όνειρο”, ή μάλλον εφιάλτη και τον έκαναν ταινία, που μοιάζει σα να βγήκε χθες ή σα να κάνει πρεμιέρα αύριο. Όταν ο HAL 9000, το AI πριν το AI, έλεγε «συγγνώμη Dave, αλλά φοβάμαι ότι δε μπορώ να το κάνω αυτό», αρκετός κόσμος κοίταγε αυτή τη σκηνή με απορία. Τώρα μάλλον, ξέρει.
Την ίδια δεκαετία που ο Στάνλεϊ Κιούμπρικ έδινε τη προφητεία για το μέλλον μέσω του “2001: A Space Odyssey”, στην εκπομπή Tomorrow's World του BBC ρωτούσαν μικρά παιδιά από το κολλέγιο του Marlborough και τα σχολεία Roedean και Chippenham για το πώς πιστεύουν ότι θα μοιάζουν τα μακρινά τότε 2000s.
Και τα παιδιά, δεν ήταν ιδιαίτερα αισιόδοξα για τον 21ο αιώνα. Πολλές από τις προφητείες τους μάλιστα, επαληθεύονται καθημερινά. Άλλες μπορεί να μοιάζουν σουρεάλ, τουλάχιστον προς το παρόν.
«Στην αρχή της δεκαετίας του 2000, ίσως να βρίσκομαι σε ένα διαστημόπλοιο προς τη Σελήνη και να δίνω εντολές σε ρομπότ. Μπορεί επίσης να βρίσκομαι σε μια τελετή που θα κηδεύεται ένας υπολογιστής. Αν κάτι πάει στραβά βέβαια με τις πυρηνικές βόμβες, ίσως να επιστρέφω στη σπηλιά μου έχοντας πάει για κυνήγι».
«Δεν μου αρέσει η ιδέα να ξυπνάω και να τρώω για πρωινό μια κάψουλα λάχανου ή κάτι τέτοιο. Δεν νομίζω ότι θα είναι τόσο ωραία. Με τις μηχανές να κάνουν τα πάντα, οι άνθρωποι θα βαριούνται. Όλα θα είναι ίδια, οι άνθρωποι θα είναι ίδιοι, και όλα θα γίνονται με τον ίδιο τρόπο».
«Νομίζω ότι όλες αυτές οι ατομικές βόμβες θα πέφτουν παντού. Μία θα πέσει στο κέντρο του κόσμου και θα δημιουργήσει ένα τεράστιο κρατήρα και τότε ο κόσμος μας θα λιώσει, μετατρέποντας τη Γη σε μία μεγάλη ατομική έκρηξη, σαν ένα supernova».
«Κάποιος τρελός θα πάρει την ατομική βόμβα και θα στείλει τον κόσμο στην ανυπαρξία».
«Δεν μπορείς να κάνεις τίποτα για να το σταματήσεις. Όσο περισσότεροι αποκτούν βόμβες, τόσο πιο πιθανό είναι ότι κάποια στιγμή θα τις χρησιμοποιήσει κάποιος».
«Νομίζω πως ο υπερπληθυσμός θα προκαλέσει πολέμους και πυρηνικές εκρήξεις, κάνοντάς τη Γη ακατάλληλη για ζωή λόγω της υπερβολικής ακτινοβολίας και της ζέστης».
«Δεν νομίζω ότι θα υπάρξει πυρηνικός πόλεμος, αλλά πιστεύω ότι θα γίνουν όλα αυτόματα και αυτό θα προκαλέσει ανεργία, σε συνδυασμό και με τον υπερπληθυσμό. Κάτι θα πρέπει να γίνει για να το ελέγξουμε. Αν δεν γίνω βιολόγος, αυτό θα ήθελα να κάνω, να ασχοληθώ με το πρόβλημα του πληθυσμού και να βρω έναν τρόπο να το μετριάσω, δεν ξέρω πώς».
«Νομίζω ότι ο κόσμος θα είναι πολύ βαρετός, με τους ανθρώπους στριμωγμένους τόσο πολύ, σε βαθμό που δεν θα υπάρχει χώρος διασκέδαση. Όλοι θα περιορίζονται σε έναν συγκεκριμένο αριθμό αγαθών που μπορούν να αποκτήσουν, γιατί αν έχουν πάρα πολλά, δεν θα χωράνε στα σπίτια τους».
«Οι άνθρωποι θα αντιμετωπίζονται περισσότερο ως στατιστικά παρά ως άτομα».
«Οι υπολογιστές έχουν ήδη αρχίσει να κατακτούν τον κόσμο. Το 2000 δεν θα υπάρχουν αρκετές δουλειές για όλους. Οι δουλειές θα είναι μόνο για άτομα με υψηλό δείκτη νοημοσύνης, για εκείνους που μπορούν να χειριστούν υπολογιστές. Οι υπόλοιποι δεν θα έχουν δουλειές».
«Οι άνθρωποι δεν θα μπορούν να ζουν σε κανονικά σπίτια, γιατί θα πιάνουν πολύ χώρο. Θα αναγκάζονται να ζουν σε διαμερίσματα, το ένα πάνω στο άλλο. Τα σπίτια θα είναι μικρά και όλα πολύ στριμωγμένα».
«Τα ζώα, όπως τα πρόβατα και οι αγελάδες, δεν θα βόσκουν πια ελεύθερα. Θα βρίσκονται σε μεγάλες εγκαταστάσεις, όπου θα εκτρέφονται τεχνητά, ώστε να είναι μεγαλύτερα και να παρέχουν περισσότερο φαγητό».
«Νομίζω ότι ο κόσμος θα είναι πιο αποτελεσματικός στις έρευνες. Θα υπάρχουν θεραπείες για τις ασθένειες και λιγότεροι άνθρωποι θα αρρωσταίνουν».
«Οι μαύροι και οι λευκοί άνθρωποι δεν θα είναι διαχωρισμένοι, και οι πλούσιοι δεν θα κοιτάζουν τους φτωχούς αφ’ υψηλού».
«Δεν ανυπομονώ να ζήσω στο έτος 2000. Ο κόσμος φαίνεται να είναι ήδη σε τόσο χάλια κατάσταση και τα πράγματα ίσως να είναι ακόμα χειρότερα πενήντα χρόνια μετά».
Ακολουθήστε το Reader.gr στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις από την Ελλάδα και τον κόσμο.
