Παραίτηση με αιχμές για το AI από ερευνητή της Anthropic: «Πολύ επικίνδυνο, θα μπορούσε να μας σκοτώσει όλους»

Ο ερευνητής Τζέικομπ Κόξον υπέβαλε την παραίτηση του από την εταιρεία τεχνητής νοημοσύνης Antropic, αναφέροντας πως αποχώρησε υπό την φόβο ότι μαζί με τις υπόλοιπες ανταγωνιστικές εταιρίες συμμετέχουν σε ένα ράλι ανάπτυξης συστημάτων τα οποία θα καταλήξουν ανεξέλγκτα.

Μέσω μιας σειράς αναρτήσεων στο Χ, ο ερευνητής εξηγεί τους λόγους για τους οποίους αποχωρεί από την εταιρία επειδή δεν θέλει να συμμετέχει στη προσπάθεια του κλάδου αναφορικά με την αυτοβελτίωση των συστημάτων ΑΙ. Ο συγκεκριμένος ερευνητής είναι ειδικός στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων.

Αναφέρει χαρακτηριστικά πως τέτοια συστήματα θα μπορούσαν να είναι απειλητικά για την ανθρωπότητα.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους.

Διαβάστε επίσης: Μήνυση κατά του Μασκ: Το Grok κατηγορείται ότι αναπαρήγαγε υλικό σεξουαλικής κακοποίησης παιδιών

Ο 27χρονος ερευνητής επικαλείται στο σκεπτικό του πρόσφατες περιπτώσεις κατά τις οποίες μοντέλα από την OpenAI και την Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων AI για να τονίσει ότι τα συστήματα μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους.

Σε συνέχεια της ανάρτησής του εξηγεί τους λόγους για τους οποίους αυτές οι ραγδαίες εξελίξεις στον τομέα της τεχνητής νοημοσύνης του φαίνεταιι επικίνδυνες.

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.