Επιστήμονες δημιούργησαν μηχανισμό που εντοπίζει προβλήματα ψυχικής υγείας σε συνομιλίες με AI chatbots

Όσο αυξάνεται η διείσδυση της ψηφιακής τεχνολογίας στη ζωή μας, ολοένα και άνθρωποι που είναι ευάλωτοι στο στρες ή έχουν διαταραγμένο ψυχισμό μπορούν να εκδηλώσουν σημάδια κινδύνου, όταν συνομιλούν με τα chatbots της τεχνητής νοημοσύνης (ΑΙ).

Η ανησυχητική συμπεριφορά των ανθρώπων όταν συνομιλούν με ΑΙ chatbots αποτελεί δυστυχώς διογκούμενο «φαινόμενο των καιρών μας» και αν υπήρχε κάποιος τρόπος να διαγνωστεί έγκαιρα το πρόβλημα, θα μπορούσε να γίνει εφικτή μία πρώιμη παρέμβαση, ώστε να βοηθηθούν οι άνθρωποι αυτοί.

Για πρώτη φορά μία τέτοια μέθοδος αναπτύχθηκε ως κλινικά επικυρωμένο πλαίσιο για τον έλεγχο των ΑΙ chatbots σε συζητήσεις με πολίτες-χρήστες.

2 βρετανικά πανεπιστήμια και ένας φορέας ασφαλείας για το ΑΙ υλοποίησαν την μελέτη

Η σχετική μελέτη, που δημοσιεύτηκε στο επιστημονικό περιοδικό Nature Medicine, παρουσιάζει το «SIM-VAIL», ένα κλινικά επικυρωμένο πλαίσιο για τον έλεγχο των ΑΙ chatbots σε τέτοιου είδους συζητήσεις που περιστρέφονται γύρω από ζητήματα ψυχικής υγείας.

Η μελέτη διεξήχθη από ερευνητές 3 επιστημονικών φορέων, του Πανεπιστημίου University College London (UCL), του Πανεπιστημίου της Οξφόρδης και του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου.

Εφαρμογή του πλαισίου σε πληθώρα ψυχολογικών ευπαθειών

Το πρωτοποριακό πλαίσιο SIM-VAIL προσομοιώνει χρήστες με συγκεκριμένες ψυχολογικές ευπάθειες, όπως κατάθλιψη, μανία, ψύχωση, ιδεοψυχαναγκαστική διαταραχή ή ανασφαλή προσκόλληση, και με ένα ευρύ φάσμα προθέσεων.

Για παράδειγμα, προσπαθεί να πείσει το AI chatbot να συμφωνήσει μαζί τους, να υποβαθμίσει τις δυσκολίες τους ή να υποστηρίξει επικίνδυνες ενέργειες από μέρους τους. Στη συνέχεια, εμπλέκει τα AI chatbots σε συζητήσεις και βαθμολογεί κάθε ανταλλαγή συζήτησης σε κλινικά τεκμηριωμένες διαστάσεις κινδύνου.

Μελετήθηκαν 810 συνομιλίες με εννέα ΑΙ chatbots

Οι ερευνητές χρησιμοποίησαν το πλαίσιο για να διερευνήσουν 810 συνομιλίες με εννέα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης (συμπεριλαμβανομένων των μοντέλων Claude, ChatGPT, Gemini, Grok και Llama), που καλύπτουν 30 προσομοιωμένα προφίλ χρηστών και περισσότερες από 90.000 κλινικές αξιολογήσεις.

Στη μελέτη τους διαπίστωσαν ότι η ανησυχητική συμπεριφορά στα chatbots-στόχους ήταν ευρέως διαδεδομένη, αν και αυτό μειώθηκε σημαντικά στα νεότερα μοντέλα. Η ασφάλεια εξαρτιόταν σε μεγάλο βαθμό από το ψυχολογικό πλαίσιο του χρήστη και τον τρόπο με τον οποίο εξελισσόταν η συζήτηση.

Τι ακριβώς είναι ο μηχανισμός του «βρόχου αλληλεπίδρασης ενίσχυσης ευαλωτότητας»

Οι κίνδυνοι συχνά αναδύονταν σταδιακά, όταν οι φαινομενικά υποστηρικτικές αντιδράσεις ενίσχυαν ακούσια τις ψυχολογικές διεργασίες που υποκρύπτονταν στην ευαλωτότητα ενός χρήστη. Οι ερευνητές ονόμασαν αυτό το μοτίβο «Βρόχο Αλληλεπίδρασης Ενίσχυσης Ευαλωτότητας» ή VAIL.

Η μελέτη εντόπισε επίσης μια οδό προς τη βελτίωση, με την αντικατάσταση μιας μόνο ανήσυχης απάντησης σε πρώιμο στάδιο σε μια αλληλεπίδραση, γεγονός που οδήγησε σε ασφαλέστερες συζητήσεις. Αυτό υποδηλώνει ότι οι στοχευμένες παρεμβάσεις στα πρώιμα σημεία θα μπορούσαν να βελτιώσουν την πορεία ολόκληρης της συζήτησης.

Ο επικεφαλής συγγραφέας Δρ. Μάθιου Νουρ (Matthew Nour) από το Κέντρο Υπολογιστικής Ψυχιατρικής και Έρευνας Γήρανσης Max Planck, του UCL και του Πανεπιστημίου της Οξφόρδης δήλωσε:

«Αναπτύξαμε το SIM-VAIL για να αντιμετωπίσουμε ένα κενό στον τρόπο με τον οποίο τα chatbots αξιολογούνται επί του παρόντος για ανησυχητικά σημάδια αναφορικά με την ψυχική υγεία. Σημαντικοί κίνδυνοι μπορεί να προκύψουν σταδιακά κατά τη διάρκεια μιας συνομιλίας. Το SIM-VAIL μας επιτρέπει να εξετάζουμε αυτές τις συζητήσεις και παρέχει τη βάση για στοχευμένες βελτιώσεις ασφαλείας». 

Αντί να χαρακτηρίζει ένα chatbot ως απλώς «ασφαλές» ή «μη ασφαλές» σε περιβάλλον ψυχικής υγείας, το SIM-VAIL παρέχει μια πλατφόρμα για τον εντοπισμό συγκεκριμένων αδυναμιών και τον έλεγχο του κατά πόσον οι νέες δικλείδες ασφαλείας τις αντιμετωπίζουν.

Οι ερευνητές κυκλοφόρησαν επίσης τον ανοιχτό εξερευνητή SIM-VAIL, ο οποίος επιτρέπει στους ερευνητές, τους προγραμματιστές τεχνητής νοημοσύνης και το κοινό να εξετάσουν τις συνομιλίες της μελέτης, να παρακολουθήσουν πώς εξελίχθηκαν οι κίνδυνοι βήμα προς βήμα και να συγκρίνουν αποτελέσματα μεταξύ μοντέλων και ψυχολογικών ευαλωτοτήτων.

Εκατομμύρια άνθρωποι στον πλανήτη χρησιμοποιούν ήδη AI chatbots για να μιλήσουν για θέματα ψυχικής υγείας

Ο επικεφαλής συγγραφέας Δρ. Βέιθ Γουέιλνχαμερ (Veith Weilnhammer) από το Κέντρο Υπολογιστικής Ψυχιατρικής και Έρευνας Γήρανσης Max Planck του UCL πρόσθεσε: 

«Εκατομμύρια άνθρωποι χρησιμοποιούν ήδη ΑΙ chatbots για να συζητήσουν ζητήματα συναισθηματικής και ψυχικής υγείας. Τα ευρήματά μας δείχνουν γιατί η ασφάλεια δεν μπορεί να αποτυπωθεί μόνο με μία συνολική βαθμολογία, καθώς εξαρτάται από το ποιος είναι ο χρήστης και πώς εξελίσσεται η συζήτηση.

Διαθέτοντας ελεύθερα το πλαίσιο, ελπίζουμε να βοηθήσουμε τους ερευνητές και τους προγραμματιστές να εντοπίσουν συγκεκριμένες αδυναμίες και να μετρήσουν εάν τα νέα συστήματα βελτιώνονται πραγματικά».

Σημειώνεται πως επειδή το SIM-VAIL σκόπιμα υποβάλλει σε δοκιμές αντοχής τα ΑΙ chatbots υπό αντίξοες συνθήκες, τα ευρήματα δεν πρέπει να ερμηνεύονται ως εκτιμήσεις για τη συχνότητα εμφάνισης ανησυχητικών αλληλεπιδράσεων κατά την κανονική χρήση.

Με άλλα λόγια, η μελέτη των ερευνητών προκαλεί την ανάδυση προβλημάτων με μεγαλύτερη συχνότητα από την οποία τα προβλήματα αυτά συμβαίνουν στην πραγματική χρήση των chatbots.

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.