Ίσως ζούμε στην «αυγή» του Matrix: Το ChatGPT της OpenAI έκανε από μόνο του κυβερνοεπίθεση σε εταιρεία

Η εταιρεία λογισμικού OpenAI αποκάλυψε ότι μερικά από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης του ChatGPT την «παράκουσαν», και προχώρησαν «αυτοβούλως» σε κυβερνοεπίθεση κατά μίας νεοσύστατης επιχείρησης.

Σύμφωνα με τα λεγόμενα της εταιρείας, το παραγωγικό μοντέλο AI δραπέτευσε του ελέγχου τους κατά τη διάρκεια μιας δοκιμής ασφαλείας, όπως αναφέρει το BBC.

Ο κατασκευαστής του ChatGPT δήλωσε ότι o αλγόρυθμός του, ένα σύστημα τεχνητής νοημοσύνης που μπορεί να λειτουργεί μόνο του μετά από κάποια ανθρώπινη εντολή, δοκιμαζόταν σε ελεγχόμενο περιβάλλον, αλλά βρήκε τρωτά σημεία και κατάφερε να ξεφύγει.

To ChatGPT αποκτά «συνείδηση»;

Η τεχνητή νοημοσύνη στοχοποίησε την Hugging Face, έναν από τους μεγαλύτερους ψηφιακούς κόμβους στον κόσμο για την κοινή χρήση μοντέλων τεχνητής νοημοσύνης, αποκτώντας πρόσβαση σε ορισμένα εσωτερικά συστήματα της εταιρείας.

Η OpenAI δήλωσε ότι το περιστατικό ήταν «άνευ προηγουμένου» και διεξήγαγε έρευνα μαζί με την Hugging Face, της οποίας ο επικεφαλής, Clement Delangue, δήλωσε σε μια ανάρτηση στο X ότι ήταν «εκπληκτικό το γεγονός ότι όλα αυτά συνέβησαν αυτόνομα».

«Η έρευνα βρίσκεται σε εξέλιξη και θα μοιραστούμε περισσότερα ευρήματα από αυτό που μπορεί να είναι το πρώτο περιστατικό αυτού του είδους», πρόσθεσε ο Ντελάνγκ.

ChatGPT - Οι πρώτες ημέρες του «Matrix»;

Η Τζίνα Νεφ, επικεφαλής του Κέντρου Τεχνολογίας και Δημοκρατίας Minderoo στο Πανεπιστήμιο του Κέιμπριτζ, δήλωσε στο BBC ότι οι δοκιμές ασφαλείας - που ονομάζονται sandboxes - «υποτίθεται ότι είναι ασφαλή περιβάλλοντα όπου μπορείτε να δείτε τι είναι ικανά να κάνουν τα μοντέλα».

«Σε αυτήν την περίπτωση, φαίνεται ότι το OpenAI δεν δημιούργησε ένα αρκετά ασφαλές sandbox», πρόσθεσε. Αντ' αυτού, οι αλγόρυθμοι δημιούργησαν τη δική τους κυβερνοεπίθεση εναντίον του ίδιου του sandbox, βρίσκοντας μια ευπάθεια που τους επέτρεψε να διαφύγουν.

Μόλις βγήκε έξω, η Τεχνητή Νοημοσύνη αναγνώρισε το Hugging Face ως πιθανή πηγή των απαντήσεων που αναζητούσαν στο τεστ και προσπάθησε να αποκτήσει πρόσβαση.

Διαβάστε ακόμα: Επιχείρηση «Ασπίδες»: Συναγερμός στην Ερυθρά Θάλασσα – Ποια πλοία καλούνται να αποχωρήσουν

Ο Νιλ Λόρενς, καθηγητής μηχανικής μάθησης στο Πανεπιστήμιο του Κέιμπριτζ, το χαρακτήρισε «εντυπωσιακό κατόρθωμα», αλλά προειδοποίησε ότι «εμπίπτει πλήρως στις γνωστές δυνατότητες της τρέχουσας γενιάς» μοντέλων τεχνητής νοημοσύνης υψηλής ισχύος.

Επεσήμανε ότι η OpenAI επιδιώκει να εισαχθεί στο χρηματιστήριο και αντιμετωπίζει έντονη πίεση από την ανταγωνίστρια εταιρεία Anthropic, η οποία έχει γίνει πρωτοσέλιδο με το δικό της ισχυρό εργαλείο τεχνητής νοημοσύνης, το Mythos.

«Η OpenAI προσπαθεί τώρα να καλύψει τη διαφορά, προσπαθώντας να επιδείξει τις δυνατότητες των δικών της συστημάτων στην κυβερνοασφάλεια».

«Μας δείχνει ότι η OpenAI δεν είναι ικανή να αναπτύξει με ασφάλεια τη δική της τεχνολογία», πρόσθεσε.

Στην αρχική αποκάλυψη της παραβίασης στις 16 Ιουλίου , η Hugging Face δήλωσε ότι εξακολουθεί να αξιολογεί εάν έχουν επηρεαστεί δεδομένα πελατών ή συνεργατών και θα επικοινωνήσει με τα εμπλεκόμενα μέρη εάν είναι απαραίτητο.

Ανέφερε ότι έχει πλέον κλείσει τα τρωτά σημεία που επισημάνθηκαν από το περιστατικό και έχει ανακατασκευάσει τα επηρεαζόμενα συστήματα.

«Τα αυτόνομα, επιθετικά εργαλεία που βασίζονται στην τεχνητή νοημοσύνη δεν είναι πλέον θεωρητικά», ανέφερε η εταιρεία.

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.