C'est une tendance troublante qui s'est développée sur YouTube : des comptes publient des vidéos clairement dérangeantes qui exploitent les enfants. Ils sont filmés dans des situations compromettantes, prédatrices ou tout à fait effrayantes. Ces vidéos amassent des millions de vues.
BuzzFeed News a identifié un certain nombre de vidéos — dont beaucoup semblent provenir d'Europe de l'Est — avec de jeunes enfants souvent habillés de façon suggestive, dans des scénarios les rendant vulnérables. Ils sont, dans de nombreux cas, immobilisés avec des cordes ou du papier adhésif, parfois en train de pleurer ou manifestement en détresse. Dans d'autres vidéos, les enfants sont kidnappés ou forcés de «jouer au docteur» avec un adulte. Les vidéos abordent souvent des thèmes dérangeants, comme les piqûres d'insecte, la coprophagie (le fait de manger des excréments) ou les aiguilles. Beaucoup proviennent de chaînes YouTube «vérifiées» et enregistrent des dizaines de millions de vues. Après que BuzzFeed News a porté ces vidéos à l'attention de YouTube, elles ont été retirées.
Au cours de l'année, YouTube a été vivement critiqué pour les vidéos d'animation inquiétantes et les contenus bizarres diffusés sur sa plateforme. Ces vidéos ciblaient des enfants en se servant de personnages d'animation comme Dora L'exploratrice ou Peppa Pig. Les vidéos examinées par BuzzFeed News comportaient pour leur part de vrais enfants «acteurs», et étaient visiblement réalisées par des adultes. Considérées dans leur ensemble, elles formaient un univers immense, inquiétant et très populaire de vidéos qui — jusqu'à récemment — échappaient aux modérateurs de la plateforme.
YouTube annonce avoir «supprimé plus de 50 chaînes»
Cela semble évoluer. Le 21 novembre, BuzzFeed News a contacté YouTube au sujet d'un certain nombre de comptes vérifiés — comptant chacun des millions d'abonnés — qui contenaient des centaines de vidéos inquiétantes montrant des enfants en détresse. À partir de mercredi matin, toutes les vidéos fournies par BuzzFeed News ainsi que les comptes ont été suspendus pour violation de la réglementation sur YouTube. YouTube a dit à BuzzFeed News que ces suppressions faisaient partie d'une démarche prévue pour combattre ce type de contenu et que l'élimination de certains des comptes et vidéos fournis par BuzzFeed News était déjà en route.
«Au cours de la semaine dernière, nous avons supprimé plus de 50 chaînes et éliminé des milliers de vidéos conformément à ces directives», a déclaré YouTube dans un communiqué. Toutes les vidéos figurant ci-dessous étaient encore présentes mardi soir.
D'après YouTube, ces suppressions font partie d'une démarche plus large visant à éliminer les vidéos qui sont produites en exploitant d'autres personnes. La semaine dernière, le site a supprimé ToyFreaks, une chaîne très populaire dirigée par Greg Chism, à cause de vidéos à la limite des sévices sur enfants. Elles montraient les filles du réalisateur hurlant de peur, se baignant, faisant semblant d'être des bébés, crachant leur nourriture, forcées de manger et «faisant pipi». Le compte avait huit millions d'abonnés au moment où YouTube l'a fermé.
Dans un article publié mercredi après-midi sur le blog du site, YouTube s'est engagé à s'attaquer au problème. À partir d'aujourd'hui, le site élimine les comptes qui, comme ToyFreaks, montrent des enfants en danger. Le site va mettre aussi des limites d'âge pour les dessins animés et les vidéos d'animation montrant des personnages appréciés par les enfants, dans des situations adultes ou bizarres.
Les chaînes incriminées avaient été vérifiées
Le site s'attaque aussi à la monétisation des vidéos qui montrent des personnages de programmes jeunesse avec des comportements violents. D'après YouTube, le site a supprimé des publicités sur trois millions de ces vidéos depuis juin. Le site prévoit aussi un nouveau système pour désactiver tous les commentaires sur les vidéos montrant des enfants exploités. D'après YouTube, si une vidéo montrant des enfants commence à être populaire avec des commentaires inappropriés, le site désactivera le fil de commentaires pour cette vidéo. Le site offrira aussi des conseils aux créateurs qui réalisent du contenu pour les familles, sous forme d'instructions écrites. Et enfin, la société a déclaré qu'elle travaillerait avec des spécialistes de la protection de l'enfance en vue de continuer à identifier les tendances inquiétantes comme celle-ci, qu'elle a laissé prospérer sur sa plate-forme pendant des années.
Beaucoup des chaînes incriminées ont même été vérifiées par YouTube — un processus qui était fait automatiquement jusqu'en 2016, selon l'entreprise. Le site déclare avoir réétudié le processus de vérification pour y ajouter une part plus importante de surveillance humaine.
Avant que YouTube ne les enlève, les vidéos qui montraient des enfants exploités étaient nombreuses et faciles à trouver. De plus, elles auraient été signalées à YouTube de longue date : Matan Uziel, producteur et militant qui gère Real Women, Real Stories, une plate-forme où les femmes peuvent raconter l'histoire de leurs traumatismes personnels comme les viols, les agressions sexuelles et le trafic sexuel, a fourni à BuzzFeed News plus de 20 exemples de telles vidéos. Il explique également avoir essayé à de nombreuses reprises d'attirer l'attention de YouTube sur ces vidéos, sans qu'aucune action concrète ne soit entreprise.
Le 22 septembre, Matan Uziel a envoyé un e-mail à la PDG de YouTube, Susan Wojcicki, et à trois autres salariés de Google ainsi qu'à des agents du FBI. Il y exprimait son inquiétude quant à des «dizaines de milliers de vidéos disponibles sur YouTube, dont on sait qu'elles sont conçues pour servir de stimulation visuelle à des adultes pervers et effrayants, des prédateurs en ligne qui fantasment sur les enfants.» Matan Uziel y joignait de nombreuses captures d'écrans de vidéos choquantes. Le militant a aussi raconté à BuzzFeed News qu'il avait exprimé son inquiétude à propos de ces vidéos lors d'une vidéoconférence cet automne avec deux responsables britanniques de la communication de Google, et que l'entreprise américaine avait exprimé le désir de s'occuper du problème. Un porte-parole de YouTube a déclaré que l'entreprise n'avait pas de trace de l'e-mail du 22 septembre, mais que Matan Uziel avait envoyé un e-mail le 13 septembre avec des captures d'écrans de vidéos choquantes. Le site dit avoir enlevé toutes les vidéos pointées par le militant.
Cette vidéo provenant du compte «Mister Tisha» montre un homme portant un masque de clown qui enlève un petit enfant et le met de force dans une machine à laver.
Comme ToyFreaks, Mister Tisha était un compte YouTube vérifié, géré par une famille qui utilisait ses enfants comme acteurs. Mardi, il avait encore 1,6 million d'abonnés.
Le compte a été supprimé par YouTube peu après que BuzzFeed News a contacté YouTube.
Les vidéos de Mister Tisha sont souvent illustrées par des images dérangeantes, comme celles d'enfants piqués par des insectes ou subissant de faux traitements médicaux. Certaines comportent des enfants couverts de faux sang. Beaucoup des vidéos les plus choquantes ont recueilli des millions de vues.
Une série de vidéos de Mister Tisha inclut les mots clés «Bad Baby» et font figurer un enfant désobéissant à un adulte. L'adulte est souvent représenté avec une ceinture à la main quand il découvre l'enfant.
Un autre compte YouTube vérifié, «Lady Diana», comportait des vidéos tout aussi perturbantes. D'après la page «À propos» du compte, celui-ci est dirigé par un enfant de douze ans d'Ukraine. «Lady Diana» avait plus de 1,3 million d'abonnés.
Le compte a été supprimé par YouTube peu après que BuzzFeed News a contacté YouTube.
Ces vidéos montrent des adultes dans des costumes effrayants, qui kidnappent des enfants ou font semblant de les torturer.
Dans une vidéo qui avait plus de 5,1 millions de vues, un enfant immobilisé crie pendant qu'un homme déguisé en Joker lui enduit le visage de dentifrice.
Comme certains comptes similaires, des vidéos de Lady Diana semblent avoir été monétisées. Beaucoup de vidéos — dont une appelée «Lutin coquin», qui a recueilli 8,9 millions de vues et incluait un plan fixe d'une jeune fille collée à un mur — comprenaient des publicités.
L'algorithme de recommandation de YouTube fait qu'un utilisateur qui commence à regarder des vidéos du genre se retrouvera pris dans une spirale de vidéos d'enfants exploités. Après que BuzzFeed News a visionné une série de vidéos de ce genre, YouTube a commencé à lui recommander d'autres vidéos perturbantes provenant de comptes populaires comme ToysToSee.
L'algorithme qui définit les vidéos lues en lecture automatique recommande de nombreux comptes, dont une scène récurrente où des insectes attaquent des enfants. Une des vidéos présentes a recueilli plus de 90 millions de vues.
Les vidéos de comptes moins populaires sont souvent encore plus choquantes. Certaines vidéos visionnées par BuzzFeed News montraient de très jeunes enfants jouant au docteur avec un adulte qui découvrait le haut des fesses de l'enfant pour faire semblant de lui faire une piqûre, des enfants faisant mine de manger les selles d'une couche, et des enfants en maillot de bain apparemment enlevés et maintenus sous l'eau par des adultes jusqu'à l'évanouissement.
Cette vidéo choquante a recueilli presque six millions de vues.
Et peut-être même plus inquiétantes, cette série de vidéos par webcam de jeunes filles qui — à la différence des vidéos du style ToyFreaks — ne semblent pas cibler les enfants. Ces vidéos proviennent en majorité de comptes ponctuels et montrent des jeunes filles peu vêtues parlant ou chantant devant des webcams.
Certaines des vidéos ont recueilli des millions de vues. Beaucoup tournent depuis des années. Par exemple, cette vidéo a été publiée en septembre 2012 et elle montre une jeune fille en chemise de nuit.
Comme beaucoup de vidéos de ce genre, elle comporte des commentaires illustrant des commentaires de prédateurs.
Les enfants acteurs et ces vidéos prises par webcam représentent tous deux un défi particulier pour YouTube dans sa modération contre les vidéos d'exploitation. Toutes ces vidéos sont bizarres et perturbantes, mais certaines sont effrayantes d'une manière qui peut être difficilement discernable par un algorithme de modération. Dans certains cas, les vidéos montrent une situation étrange et indéfinissable entre le jeu de rôle et le comportement réellement violent. Certaines vidéos montrent par exemple des enfants collés au mur en train de rire, tandis que d'autres vidéos qui semblent ridicules montrent des enfants qui jouent au docteur et ont l'air de s'amuser.
Ces vidéos bien que bizarres et perturbantes ont des chances de passer à travers certaines chaînes d'algorithme de modération de YouTube. Dans ses précédentes déclarations à de nombreux organes de presse, dont BuzzFeed News, YouTube a dit qu'il «effectuerait un contrôle plus large des contenus associés, en liaison avec des experts du signalement, fiables.» Et l'article paru récemment dans le blog détaille des changements significatifs dans la répression de ce genre de contenu.
Cependant, il n'est pas évident que ces programmes soient suffisamment importants pour déceler et limiter le volume de contenu enfantin perturbant sur tout le site. YouTube a dit à BuzzFeed News qu'il prévoyait de continuer à faire évoluer sa politique en fonction des acteurs nocifs qui essaieront inévitablement de continuer à publier du contenu perturbant de cette nature. Tout en reconnaissant que ce sera une lutte perpétuelle, le site suggère que le machine learning, c'est-à-dire le fait que des intelligences artificielles affinent seules les rôles que leurs concepteurs leur on attribué, jouera un rôle important pour traiter le problème à la bonne échelle.
En France, des chaînes critiquées sur la question du travail des mineurs
En France, on trouve peu de contenus choquants de la sorte, mais certaines chaînes populaires destinées au jeune public sont critiquées pour leur production massive de vidéos faisant figurer des enfants. Une enquête de LCI évoque les chaînes Studio Bubble Tea et Swan The Voice, aux contenus très travaillés, et faisant figurer des enfants entre 5 et 13 ans. Pour le ministère du Travail, interrogé par LCI «Les conditions de "tournage" des vidéos diffusées sur la plateforme, telles que nous les connaissons aujourd’hui, ne permettent pas de présumer l’existence d’une relation de travail et dès lors, l’activité relève d’un loisir privé.»
Mais très rapidement, en cherchant des vidéos de Studio Bubble Tea, BuzzFeed News est tombé sur une vidéo très perturbante d’une autre chaîne. Qualifiée de «YouTube poop », terme qui définit des vidéos au montage absurde, cette vidéo remixe le contenu le plus populaire de Studio Bubble Tea. Elle montre en boucle la chute d’une des deux enfants de la chaîne dans un parc d’attraction, couplée avec un image de public qui se moque. Une minute plus tard, on peut voir les deux filles descendre un toboggan à côté de strip-teaseuse. La vidéo, qui a fait plus de 200 000 vues en un an, a été supprimée quelques heures après que BuzzFeed News l’a signalé à un porte-parole de YouTube vendredi. «Tout contenu qui met en danger des enfants est odieux et inacceptable pour nous. Nous avons des politiques claires contre les vidéos et les commentaires sur YouTube qui sexualisent ou exploitent les enfants et nous les appliquons de manière drastique à chaque fois que nous sommes alertés sur un tel contenu. Nous avons récemment renforcé notre approche vis-à-vis des vidéos et des commentaires mettant en scène des enfants qui, même s’ils ne seraient pas illégaux, restent préoccupants», a indiqué un porte-parole de YouTube France dans un mail à BuzzFeed News.
Mise à jour
Ajout de la réponse de YouTube France et de la suppression de la vidéo reprenant du contenu de Studio Bubble Tea.
Ce post a été traduit de l'anglais.