Το περιεχόμενο που προβλήθηκε σε δοκιμαστικούς λογαριασμούς της Wall Street Journal, η οποία προχώρησε σε μια έρευνα του θέματος, περιελάμβανε τολμηρά πλάνα παιδιών, φανερά σεξουαλικά βίντεο για ενήλικες και διαφημίσεις από μεγάλες επωνυμίες, σε ένα αλγόριθμο που εμφανίζει περιεχόμενο στα Instagram Reels.
Τα Reels είναι σύντομα βίντεο (κάθετα, έως 60 δευτερόλεπτα), τα οποία δημιουργούνται είτε από παλαιότερα βίντεο, ή από φωτογραφίες από έχει τραβήξει ο χρήστης, είτε από βίντεο που έχει τραβηχθεί μέσω της εφαρμογής. Είναι παρόμοιο με τον τρόπο που λειτουργεί το TikTok, δηλαδή τα reels δεν εξαφανίζονται (όπως π.χ. τα stories του facebook), αλλά μένουν στον λογαριασμό του χρήστη και μπορεί μάλιστα να τα δει ο οποιοσδήποτε, είτε ακολουθεί τον συγκεκριμένο λογαριασμό, είτε όχι.
Σύμφωνα με την αποκάλυψη της WSJ, η υπηρεσία βίντεο Reels του Instagram έχει σχεδιαστεί για να δείχνει στους χρήστες, ροές σύντομων βίντεο για θέματα που το σύστημα αποφασίζει ότι θα τους ενδιαφέρουν, όπως αθλήματα, μόδα ή χιούμορ.
Η εφαρμογή κοινωνικής δικτύωσης -που ανήκει στις Meta Platforms- κάνει το ίδιο πράγμα και για τους χρήστες που ο αλγόριθμός της αποφασίζει ότι μπορεί να ενδιαφέρονται έντονα για τα παιδιά.
Το «πείραμα» της WSJ προσπάθησε να προσδιορίσει τι θα συνιστούσε ο αλγόριθμος Reels του Instagram σε δοκιμαστικούς λογαριασμούς που έχουν δημιουργηθεί για να ακολουθούν μόνο νεαρές αθλήτριες, μαζορέτες και άλλους εφήβους και προεφήβους που δραστηριοποιούνται στην πλατφόρμα.
Το σύστημα του Instagram μοίρασε τρομακτικές δόσεις κακόβουλου περιεχομένου σε αυτούς τους δοκιμαστικούς λογαριασμούς, συμπεριλαμβανομένων τολμηρών πλάνων παιδιών καθώς και απροκάλυπτα σεξουαλικά βίντεο για ενήλικες—και διαφημίσεις για μερικές από τις μεγαλύτερες μάρκες των ΗΠΑ!
Disney, Walmart, Pizza Hut, Bumble, Match Group και ακόμη και η ίδια η Wall Street Journal, εμφανίστηκαν δίπλα σε επίμαχα βίντεο και αρκετές από τις εταιρείες, δήλωσαν ότι θα ανέστειλαν τις διαφημίσεις τους, αντί να τις βλέπουν να τοποθετούνται δίπλα σε ακατάλληλο περιεχόμενο, πρόσθεσε το άρθρο.
Η WSJ δημιούργησε τους δοκιμαστικούς λογαριασμούς αφού παρατήρησε ότι οι χιλιάδες ακόλουθοι των λογαριασμών τέτοιων νέων, συχνά περιλαμβάνουν μεγάλο αριθμό ενήλικων ανδρών και ότι πολλοί από τους λογαριασμούς που ακολουθούσαν αυτά τα παιδιά είχαν επίσης δείξει ενδιαφέρον για σεξουαλικό περιεχόμενο, που σχετίζεται τόσο με παιδιά όσο και με ενήλικες.
Η WSJ τέσταρε επίσης τι θα συνιστούσε ο αλγόριθμος αφότου οι λογαριασμοί της ακολούθησαν και ορισμένους από αυτούς τους χρήστες, οι οποίοι παρήγαγαν πιο ενοχλητικό περιεχόμενο, διάσπαρτο με διαφημίσεις.
Το Καναδικό Κέντρο για την Προστασία του Παιδιού, μια ομάδα παιδικής προστασίας, διεξήγαγε ξεχωριστά παρόμοια τεστ από μόνη της, με παρόμοια αποτελέσματα.
Η Meta από την πλευρά της, υποστήριξε ότι τα τεστ της WSJ παρήγαγαν μια «κατασκευασμένη εμπειρία» που «δεν αντιπροσωπεύει αυτό που βλέπουν δισεκατομμύρια χρήστες».
Η εταιρεία αρνήθηκε να σχολιάσει γιατί οι αλγόριθμοι συνέταξαν ροές ξεχωριστών βίντεο που δείχνουν παιδιά, σεξ και διαφημίσεις, αλλά ένας εκπρόσωπος είπε ότι τον Οκτώβριο εισήχθησαν νέα εργαλεία ασφάλειας επωνυμίας που δίνουν στους διαφημιστές μεγαλύτερο έλεγχο σχετικά με το πού εμφανίζονται οι διαφημίσεις τους και ότι το Instagram είτε αφαιρεί ή μειώνει την προβολή τεσσάρων εκατομμυρίων βίντεο για τα οποία υπάρχουν υποψίες ότι παραβιάζουν τα πρότυπα του κάθε μήνα.
Οι δημοσιογράφοι της WSJ δημιούργησαν τους δοκιμαστικούς λογαριασμούς στο Instagram ως ενήλικες, σε συσκευές που αγόρασαν πρόσφατα και ακολούθησαν αθλήτριες, μαζορέτες και άλλους νεαρούς influencers.
Οι δοκιμές έδειξαν ότι η παρακολούθηση μόνο των νεαρών κοριτσιών, έκανε το Instagram να αρχίσει να προβάλλει βίντεο από λογαριασμούς που προωθούν περιεχόμενο σεξ για ενήλικες, μαζί με διαφημίσεις για μεγάλες καταναλωτικές μάρκες, όπως μια για τη Walmart, που έτρεξε μετά από ένα βίντεο μιας γυναίκας που εκθέτει τον καβάλο της.
Όταν οι δοκιμαστικοί λογαριασμοί ακολούθησαν στη συνέχεια ορισμένους χρήστες που ακολούθησαν τους ίδιους λογαριασμούς νέων, ακολούθησαν ακόμη πιο ανησυχητικές προτάσεις.
Η πλατφόρμα «σέρβιρε» ένα μείγμα πορνογραφίας για ενήλικες και σεξουαλικού υλικού για παιδιά, όπως ένα βίντεο με ένα ντυμένο κορίτσι να χαϊδεύει τον κορμό της και ένα άλλο, με ένα παιδί να κάνει παντομίμα σεξουαλικής πράξης.
Νυν και πρώην υπάλληλοι της Meta, δήλωσαν σε συνεντεύξεις ότι η τάση των αλγορίθμων του Instagram να συγκεντρώνουν περιεχόμενο σεξουαλοποίησης παιδιών από όλη την πλατφόρμα της, ήταν εσωτερικά γνωστό ότι ήταν πρόβλημα!
Μόλις το Instagram εντοπίσει έναν χρήστη που ενδιαφέρεται για οποιοδήποτε συγκεκριμένο θέμα, είπαν, τα συστήματά του εκπαιδεύονται για να προωθήσουν περισσότερο σχετικό περιεχόμενο σε αυτόν.
Ακόμη και πριν από την κυκλοφορία των Reels το 2020, οι υπάλληλοι της Meta κατάλαβαν ότι το προϊόν δημιουργούσε ανησυχίες για την ασφάλεια, σύμφωνα με πρώην υπαλλήλους.