Meta: Νέα λειτουργία ενημέρωσης των γονιών για χρήση AI περί αυτοκτονίας από εφήβους

Μια νέα λειτουργία της Meta πρόκειται να τεθεί σε λειτουργία, η οποία θα προειδοποιεί τους γονείς εάν οι έφηβοι συζητάνε με chatbots τεχνητής νοημοσύνης, για το ζήτημα της αυτοκτονίας, όπως αναφέρει το ABC News.

Η λειτουργία «γονικές ειδοποιήσεις» θα διατεθεί για αρχή στους χρήστες του Instagram στις ΗΠΑ, στο Ηνωμένο Βασίλειο, την Αυστραλία και τον Καναδά, με στόχο να κυκλοφορήσει εώς το τέλος του έτους παγκοσμίως.

Η Meta δήλωσε ότι, σε περίπτωση αποστολής ειδοποίησης, οι γονείς θα λαμβάνουν επίσης υλικό που υποστηρίζεται από ειδικούς, ώστε να μπορούν να συζητήσουν με τα έφηβα παιδιά τους για την αυτοκτονία και τον αυτοτραυματισμό.

Σύμφωνα με τη Meta, η εταιρεία ανέπτυξε ένα ειδικό σύστημα τεχνητής νοημοσύνης για τον εντοπισμό συνομιλιών υψηλού κινδύνου, αφού πρώτα συμβουλεύτηκε γονείς και ειδικούς σε θέματα ψυχικής υγείας σχετικά με το ποια είδη αλληλεπιδράσεων θα έπρεπε να ενεργοποιούν ειδοποίηση.

Ως πρόσθετο μέτρο ασφαλείας, κάθε συνομιλία που επισημαίνεται από την τεχνητή νοημοσύνη θα εξετάζεται από άνθρωπο προτού αποσταλεί ειδοποίηση. Η Meta δήλωσε ότι, εάν η πρόθεση ενός εφήβου δεν είναι σαφής, η εταιρεία θα «επιλέγει την οδό της προσοχής».

Σύμφωνα με τις ισχύουσες οδηγίες, το ελάχιστο όριο ηλικίας για τη χρήση των προϊόντων κοινωνικής δικτύωσης της Meta, του Facebook και του Instagram, είναι τα 13 έτη. Η εταιρεία αναφέρει ότι οι χρήστες κάτω των 18 ετών εντάσσονται αυτόματα σε ρυθμίσεις περιεχομένου για «λογαριασμούς εφήβων» (ηλικίας 13+), οι οποίες, όπως επισημαίνει, «ισχύουν και για τις συνομιλίες με το Meta AI».

Η εταιρεία ανακοίνωσε επίσης ότι αναπτύσσει τη δυνατότητα επικοινωνίας με υπηρεσίες άμεσης επέμβασης, σε περίπτωση που μια συνομιλία με το Meta AI υποδηλώνει ότι κάποιο άτομο διατρέχει άμεσο κίνδυνο αυτοκτονίας.

Η Meta δήλωσε ότι η πρωτοβουλία αυτή βασίζεται στις περισσότερες από 19.000 παραπομπές για περιστατικά έκτακτης ανάγκης που πραγματοποίησε παγκοσμίως μέσω Facebook και Instagram κατά τη διάρκεια του περασμένου έτους

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.