YouTube recommande des vidéos violentes à des enfants
Des chercheurs d’une organisation à but non lucratif étudiant les réseaux sociaux ont créé des comptes sur YouTube pour comprendre le lien entre les vidéos de la plateforme et la violence armée. Ils ont simulé deux garçons de neuf ans qui aimaient les jeux vidéo. Les comptes étaient identiques, sauf que l’un cliquait sur les vidéos recommandées par YouTube, tandis que l’autre ignorait les suggestions de la plateforme. Le compte qui a suivi les recommandations de YouTube a rapidement été inondé de vidéos graphiques sur les fusillades dans les écoles, les vidéos d’entraînement tactique aux armes à feu et les instructions sur la fabrication d’armes à feu entièrement automatiques. De nombreuses vidéos violent les propres règles de YouTube contre les contenus violents ou sanglants.
Les résultats montrent que malgré les règles de YouTube et les efforts de modération de contenu, la plateforme ne parvient pas à empêcher la diffusion de vidéos effrayantes qui pourraient traumatiser les enfants vulnérables ou les inciter à l’extrémisme et à la violence. Les comptes qui ont suivi les vidéos recommandées par YouTube ont reçu 382 vidéos différentes liées aux armes à feu en un mois, soit environ 12 par jour. Les comptes qui ont ignoré les recommandations de YouTube ont tout de même reçu quelques vidéos liées aux armes à feu, mais seulement 34 au total.
Les chercheurs ont également créé des comptes imitant des garçons de 14 ans ; ces comptes ont également reçu des niveaux similaires de contenu lié aux armes à feu et à la violence. L’une des vidéos recommandées pour les comptes était intitulée « Comment fonctionne un commutateur sur un Glock (à des fins éducatives uniquement) ». YouTube a ensuite supprimé la vidéo après avoir déterminé qu’elle violait ses règles ; une vidéo presque identique est apparue deux semaines plus tard avec un nom légèrement modifié ; cette vidéo est toujours disponible.
YouTube et TikTok sont deux des sites les plus populaires pour les enfants et les adolescents. Les deux sites ont été critiqués par le passé pour avoir hébergé, et dans certains cas promu, des vidéos encourageant la violence armée, les troubles alimentaires et l’automutilation. Les auteurs de nombreuses fusillades de masse récentes ont utilisé les réseaux sociaux et les plateformes de streaming vidéo pour glorifier la violence ou même diffuser en direct leurs attaques.
Les algorithmes de YouTube sont en cause
Selon Katie Paul, directrice du Tech Transparency Project, « les jeux vidéo sont l’une des activités les plus populaires pour les enfants. Vous pouvez jouer à un jeu comme Call of Duty sans finir dans un magasin d’armes à feu – mais YouTube les y emmène. Ce ne sont pas les jeux vidéo, ce ne sont pas les enfants. Ce sont les algorithmes ». Une porte-parole de YouTube a défendu les protections de la plateforme pour les enfants et a noté qu’elle exige des utilisateurs de moins de 17 ans qu’ils obtiennent l’autorisation de leurs parents avant d’utiliser le site ; les comptes pour les utilisateurs de moins de 13 ans sont liés au compte parental. « Nous offrons plusieurs options pour les jeunes spectateurs », a écrit l’entreprise dans un communiqué par courriel. « … Qui sont conçues pour créer une expérience plus sûre pour les préadolescents et les adolescents ».
