Σάλος με το TikTok: Ο αλγόριθμος «δείχνει» στα παιδιά πορνό;

Ο αλγόριθμος του TikTok προτείνει πορνογραφικό και έντονα σεξουαλικό περιεχόμενο σε παιδικούς λογαριασμούς, σύμφωνα με νέα έκθεση μιας ομάδας υπεράσπισης των ανθρωπίνων δικαιωμάτων.

Οι ερευνητές της συγκεκριμένης ομάδας δημιούργησαν ψεύτικους παιδικούς λογαριασμούς και παρά το γεγονός ότι ενεργοποίησαν τις ρυθμίσεις ασφαλείας που υποτίθεται περιορίζουν περιεχόμενο μη κατάλληλο για παιδιά, εξακολουθούσαν να λαμβάνουν προτάσεις αναζήτησης με σεξουαλικό περιεχόμενο.

Οι προτεινόμενοι όροι αναζήτησης οδήγησαν σε σεξουαλικό υλικό, συμπεριλαμβανομένων βίντεο με σεξουαλικές πράξεις. Η πλατφόρμα δηλώνει ότι έχει δεσμευτεί να παρέχει περιεχόμενο που είναι κατάλληλο και ασφαλές να καταναλωθεί από μικρές ηλικίες και έλαβε άμεσα μέτρα μόλις έλαβε γνώση του προβλήματος.

Στα τέλη Ιουλίου φέτος, ερευνητές από την ομάδα Global Witness δημιούργησαν τέσσερις λογαριασμούς στο TikTok και προσποιήθηκαν ότι ήταν 13χρονοι, όπως αναφέρει το BBC.

Χρησιμοποίησαν ψευδείς ημερομηνίες γέννησης ενώ δεν τους ζητήθηκε να παράσχουν καμία άλλη πληροφορία για να επιβεβαιώσουν την ταυτότητά τους.

Οι ερευνητές είχαν ενεργοποιήσει επίσης την «περιορισμένη λειτουργία» της πλατφόρμας, η οποία, σύμφωνα με το TikTok, εμποδίζει τους χρήστες να βλέπουν «θέματα για ενήλικες ή σεξουαλικά υπονοούμενα».

Χωρίς να κάνουν οι ίδιοι καμία αναζήτηση, οι ερευνητές βρήκαν στην ενότητα της εφαρμογής «μπορεί να σας αρέσει» προτεινόμενους όρους αναζήτησης με υπερβολικά σεξουαλικό περιεχόμενο που σίγουρα δεν αρμόζει στην ηλικία που υποτίθεται ότι είχαν οι κάτοχοι των λογαριασμών.

Αυτοί οι όροι αναζήτησης οδήγησαν σε περιεχόμενο γυναικών που προσομοιώνουν αυνανισμό. Άλλα βίντεο έδειχναν γυναίκες να επιδεικνύουν τα εσώρουχά τους σε δημόσιους χώρους ή να εκθέτουν το στήθος τους. Στην πιο ακραία μορφή του, το περιεχόμενο περιελάμβανε τανίες πορνογραφίας.

Σοκάρουν τα ευρήματα ερευνητών για τις προτάσεις περιεχομένου σε ανήλικα

Η Άβα Λι από την Global Witness δήλωσε ότι τα ευρήματα προκάλεσαν «τεράστιο σοκ» στους ερευνητές. «Το TikTok δεν αποτυγχάνει απλώς να αποτρέψει την πρόσβαση των παιδιών σε ακατάλληλο περιεχόμενο - τους το προτείνει αμέσως μόλις δημιουργήσουν έναν λογαριασμό».

Το Global Witness είναι μια ομάδα που συνήθως διερευνά πώς η τεχνολογία της εποχής επηρεάζει τις συζητήσεις για τα ανθρώπινα δικαιώματα, τη δημοκρατία και την κλιματική αλλαγή και αυτή την φορά τα ευρήματα της έρευνας που έγινε τον περασμένο Απρίλιο ήταν απογοητευτικά για την πλατφόρμα του TikTok.

Οι ερευνητές ενημέρωσαν αμέσως το TikTok, το οποίο δήλωσε ότι είχε λάβει άμεσα μέτρα για την επίλυση του προβλήματος ωστόσο η ομάδα όταν επανέλαβε την έρευνα, διαπίστωσε για άλλη μια φορά ότι η εφαρμογή συνιστούσε σεξουαλικό περιεχόμενο.

Τι μέτρα λαμβάνει το TikTok για την προστασία των παιδιών από «ακατάλληλο περιεχόμενο»

Το TikTok αναφέρει ότι διαθέτει περισσότερες από 50 λειτουργίες που έχουν σχεδιαστεί για να διατηρούν τους εφήβους ασφαλείς: «Είμαστε πλήρως αφοσιωμένοι στην παροχή ασφαλών και κατάλληλων εμπειριών για τα παιδιά».

Η εφαρμογή αναφέρει ότι αφαιρεί εννέα στα δέκα βίντεο που παραβιάζουν τις οδηγίες της πριν καν προβληθούν. Όταν ενημερώθηκε από την Global Witness για τα ευρήματά της, το TikTok δηλώνει ότι έλαβε μέτρα για να «αφαιρέσει περιεχόμενο που παραβίαζε τις πολιτικές» τους και να «λανσάρει βελτιώσεις στη λειτουργία προτάσεων αναζήτησης».

Οι πλατφόρμες πρέπει πλέον, εξαιτίας της αυστηροποίησης νομοθεσιών που αφορούν την παρουσία των παιδιών στο Ίντερνετ, να χρησιμοποιούν «εξαιρετικά αποτελεσματική αναγνώριση ηλικίας» ώστε να εμποδίζουν τα παιδιά να βλέπουν πορνογραφικό υλικό και όχι μόνο.

 Η Άβα Λι από την Global Witness δήλωσε: «Όλοι συμφωνούν ότι πρέπει να διατηρούμε τα παιδιά ασφαλή στο διαδίκτυο... Τώρα είναι καιρός να παρέμβουν οι ρυθμιστικές αρχές».

Οι ερευνητές της Global Witness δεν ήταν οι μόνοι που παρατήρησαν την παράξενη συμπεριφορά του αλγορίθμου αφού και άλλοι χρήστες σχολίαζαν στα βίντεο πορνογραφικού υλικού, παραξενεμένοι για τις προτάσεις του.

Ένας χρήστης έγραψε: «Μπορεί κάποιος να μου εξηγήσει τι συμβαίνει με τις συμβουλές αναζήτησής μου παρακαλώ;» ενώ ένας άλλος ρώτησε: «Τι συμβαίνει με αυτήν την εφαρμογή;»

Ακολουθήστε το Reader στα Google News για να είστε πάντα ενημερωμένοι για όλες τις ειδήσεις και τα νέα από την Ελλάδα και τον κόσμο.