20 MINUTES 🔵 L’algorithme de TikTok contourné pour publier des images pornographiques

Au cours de ces derniers jours, les utilisateurs quotidiens de TikTok auront fatalement vu passer dans leurs « pour toi » des images qu’il est habituellement impossible de trouver sur la plateforme. On sait la pudeur de ce réseau social dont l’algorithme vous censure parfois une vidéo de pâtes bolognaise parce qu’il a cru entendre le mot « sexe ». Mais cette fois, les auteurs de ces posts ont pu déjouer toutes les sécurités de TikTok et publier du contenu clairement pornographique.

« Y’a des nanas qui mettent des trucs sans rien, genre elles écartent tout. Et moi je me fais tout le temps ban à cause de ce mot [MYM] », s’insurge bubufly3 à propos de la trend « Set fire to the hills », apparue il y a moins d’une semaine sur TikTok. Les comptes qui la propagent sont anonymes, uniquement identifiés par le préfixe « user » suivi d’une série de chiffres. Pour les posts problématiques, ils sont tous élaborés de la même manière, sous la forme d’un diaporama de trois photos identiques et d’un son, Fastbull, un remix du titre d’Adele Set fire to the rain.

Des signalements inefficaces

Mais les similitudes ne s’arrêtent pas là. En effet, la plupart des images pornographiques postées représentent les mêmes jeunes femmes, deux en particulier, dans des positions que l’on ne décrira pas ici. Les comptes dénombrent parfois des dizaines de milliers d’abonnés et les images plusieurs millions de vues dans certains cas. « J’ai reçu une centaine de signalements sur cette trend », assure à 20 Minutes Keonii, un tiktokeur spécialisé dans la traque des contenus douteux sur la plateforme chinoise suivi par plus de 500.000 fans. Sans compter les innombrables vidéos publiées par les utilisateurs du réseau social pour dénoncer cette trend.

Comme a son habitude, Keonii a fait sa propre vidéo pour alerter les utilisateurs et la plateforme. « Je ne montrais rien et j’ai fait attention aux mots utilisés, mais malgré tout, c’est ma vidéo qui a été démonétisée et bannie des  »pour toi » pendant une quinzaine d’heures », s’étonne-t-il. Sur dix contenus pornos signalés par Keonii, TikTok n’en a retiré que deux. Même constat pour d’autres utilisateurs ayant signalé la trend choqués de recevoir ce message laconique de la plateforme : « Nous avons déterminé que le contenu n’enfreint pas nos consignes communautaires. » Pourtant, TikTok assure auprès de 20 Minutes que ces fameuses règles communautaires n’autorisent pas « la nudité, la pornographie ou le contenu sexuellement explicite ».

Aveugle pendant quelques jours, TikTok semble avoir retrouvé la vue et a supprimé toutes les contenus pornos publiés avec le son FastBull. Sans évoquer ce cas précis, le réseau social chinois affirme que « 98,3 % » des vidéos supprimées au deuxième trimestre 2024 l’ont été « de manière proactive », c’est-à-dire avant un signalement des utilisateurs. TikTok précise aussi à 20 Minutes que 94,6 % des vidéos problématiques « ont été supprimées dans les 24 heures suivant leur signalement ».

Ce qui n’explique pas comment le si prude algorithme de la plateforme a pu se faire autant berner. « Peut-être que cela venait de comptes étrangers, notamment d’Europe de l’Est, où les règles de modération sont moins strictes », avance Keonii. Et ce n’est pas la première fois que le réseau social se fait avoir. En 2021, la BBC révélait que du contenu sexuel ou violent pouvait passer sous les radars en étant publié en photo de profil. Certains comptes le font sous forme de mosaïques, chaque intro de vidéo étant un morceau d’une image globale suggestive.

Sites payants ou vente de comptes

Quel est le but de ces comptes qui diffusent des images pornographiques ? Sans surprise, c’est l’argent. D’abord, ces comptes appâtent les amateurs de ce type de contenus et proposent en bio des liens Instagram pour en voir davantage. Rien que pour la jeune femme qui apparaissait le plus souvent, une certaine Judy Blooms, on retrouve trois comptes Insta différents créés en juillet 2019, mais renvoyant vers des pages payantes Fansly et OnlyFans. Les autres jeunes femmes ont elles aussi des comptes sur Instagram créés en juillet 2019 renvoyant là encore vers des pages au contenu payant.

L’autre façon de faire de l’argent avec ça, selon Keonii, c’est la monétisation TikTok. « Ces images pornographiques ne sont pas monétisables mais elles permettent de gagner rapidement un grand nombre d’abonnés », explique-t-il. Passé le seuil des 10.000 followers, le compte peut rapporter de l’argent : « Il suffit alors de changer le nom, d’effacer le contenu explicite et d’exploiter le compte ou de le revendre », poursuit le chasseur de trends chelou.