Parmi les dessins animés hébergés sur l’application YouTube Kids dédiée aux enfants, des vidéos conspirationnistes et ultra-violentes continuent de proliférer. L’algorithme de suggestion est au centre du problème.
En quelques clics, une vidéo conspirationniste annonce l’arrivée imminente d’une troisième guerre mondiale entre la Corée du Nord et les Etats-Unis. Après d’autres recherches, des cartoons Disney Land revisités mettent en scène un pseudo-Mickey victime d’un incendie. Parmi les milliers de vidéos pour enfants hébergées sur YouTube Kids se glissent toujours de nombreuses clips qui remettent en cause l’objectif de la plateforme. « Un monde d’apprentissage et de fun dédié aux enfants » selon le communiqué de presse : « Nous avons créé YouTube Kids pour rendre plus sûr et simple l’exploration du monde à travers les vidéos en ligne », précise-t-il. Créée en 2015 par le géant américain, la plateforme a fait face à plusieurs polémiques récurrentes. C’est l’auteur James Bridle qui a révélé sur Medium les premières controverses autour du média en novembre 2017. S’en est suivi une série de révélations à l’encontre de YouTube Kids dévoilées par des médias anglophones comme français.
À chaque fois, des suites de vidéos comme Simple Fun, Toy Freaks ou Dark Peppa Pig sont pointées du doigt. Ces dernières, au contenu violent et dérangeant, viennent s’ajouter à des chaînes comme « C’est pas sorcier » ou « Petit Ours Brun ».
Dans une vidéo intitulée « Peppa Pig pleure chez le dentiste », le personnage principal du dessin animé, un petit cochon au large sourire, passe entre les mains de robots géants. Ces derniers torturent le pauvre animal pendant plusieurs minutes avant d’effectuer une chorégraphie autour du corps. Pour éviter que se répandent davantage ce genre de vidéos, la PDG de Youtube, Susan Wojcicki, a annoncé la semaine dernière la mise en place d’un partenariat avec Wikipédia pour lutter contre les vidéos violentes ou conspirationnistes. L’encyclopédie en ligne devrait publier, à l’avenir, des encarts informatifs dans les vidéos pour contextualiser les contenus. L’algorithme de suggestion de l’application destinée aux 3-9 ans devrait être renforcé. Jamais la compagnie américaine n’a précisé les détails du fonctionnement de son algorithme, mais les recommandations de vidéos varient selon l’utilisateur.
Accrocher plus pour gagner plus
« Les bébés de Mickey Mouse pleurent à cause de larves dans leur ventre », a atteint plus de 20 millions de vues en deux jours avant d’être signalé puis supprimé de YouTube Kids. « Les recommandations YouTube sont conçues pour optimiser le temps de visionnage. Les algorithmes ne prennent pas en compte ce qui est bon pour les enfants. Cela peut être le cas parfois. Mais si la vidéo proposée est »enfant-friendly », c’est une coïncidence », explique Guillaume Chaslot, ancien employé de Youtube et fondateur d’AlgoTransparency qui analyse les données de la plateforme. Les données de la start-up révèlent que les vidéos les plus suggérées pour les enfants par YouTube se révèlent être des combinaisons de chansons et de comptines, conçues pour un public américain. Dans ce lot de mélodies entêtantes se cachent souvent des berceuses destinées à un autre public.
« J’avais l’impression d’être le méchant d’une histoire », raconte Guillaume Chaslot avant de s’expliquer : « Travailler sur les recommandations pour YouTube, c’est montrer un monde coloré aux enfants, alors qu’on les rend accros pour maximiser les recettes. » Pour parer de ce genre de critiques, le géant américain avait annoncé que le service de recommandations allait s’appuyer davantage sur une « expertise humaine ».
Malgré ces polémiques, YouTube entend poursuivre son service destiné aux enfants et occuper une place aussi importante que Facebook Messenger Kids auprès des plus jeunes. Mais le risque est important. Snapchat s’était essayé à une version pour les plus petits en 2013. SnapKidz a rapidement fermé faute d’utilisateurs. Cet échec avait poussé Snapchat à se pencher sur une autre politique pour optimiser ses profits. À voir si YouTube compte changer ses algorithmes ou sa politique…