la divulgation de produits antisémites révèle un échec avec modération

Malgré les restrictions imposées par Pinterest, le contenu haineux peut toujours être facilement trouvé sur la plateforme, mais pas par recherche directe. Un test récent a cherché des mots liés à l’antisémitisme, tels que la devise « 6MWE » — terme obscène qui fait allusion au fait que la mort de 6 millions de Juifs pendant l’Holocauste n’était pas suffisante — et un avertissement sur l’interdiction du contenu est rapidement apparu à l’écran. Cependant, lorsque la recherche a été effectuée via Google, des dizaines d’épingles contenant de la marchandise sont apparues qui incitent à la violence contre les Juifs, ce que Pinterest prétend limiter.

A découvrir également : Maki Kaji, le « père du Sudoku », meurt à 69 ans

La recherche de tests via Google a permis de trouver 64 épingles ciblant des produits avec la devise « 6mwe » – une abréviation de « 6 millions n’étaient pas suffisants » – en référence au nombre de Juifs tués pendant l’Holocauste. Les épingles sont des signets que les utilisateurs utilisent pour enregistrer les publications qu’ils ont le plus aimé sur Pinterest. En plus de transgresser la loi et la morale, les marques antisémites violent les règles de la plateforme, plus précisément la partie qui empêche le partage de « théories du complot fondées sur la haine et la désinformation, telles que le déni de l’Holocauste ».

Selon The Next Web, cette porte dérobée trouvée par des groupes antisémites pour faire connaître leurs produits et leur idéologie soulève des questions sur l’efficacité de la stratégie de modération de Pinterest, qui consiste à essayer de limiter le contenu haineux au lieu de se concentrer sur la suppression. Les critiques soutiennent que la procédure actuelle du site n’interdit pas réellement la violence, elle ne comporte que quelques obstacles. De cette façon, le contenu offensant peut encore se propager et persister « caché » pendant longtemps et semer des ravages.

A découvrir également : Recette au curry de soupe Sapporo |

« Le fait que ce contenu odieux et offensant soit facilement accessible sur Pinterest montre jusqu’où les entreprises technologiques doivent encore faire face aux exemples les plus évidents de haine », a déploré Jonathan Greenblatt, PDG de l’Anti-Defamation League, une organisation non gouvernementale juive internationale, basé aux États-Unis.

Pinterest a été conçu comme un réseau social positif en partageant des images qui ont inspiré les gens. Cependant, en raison d’échecs de modération, la plateforme a également laissé place à la prolifération des groupes et des contenus haineux.

Crystal Espinosa, porte-parole de Pinterest, réaffirme la politique de l’entreprise selon laquelle il n’y a pas de place pour les discours haineux sur la plateforme. Il reconnaît toutefois la nécessité d’améliorer ses systèmes de modération. « Lorsque nous identifions ou prenons connaissance d’un contenu qui enfreint nos politiques, nous examinons et agissons. Cependant, en raison du volume et de la complexité du contenu, il y a toujours plus à faire », a-t-il dit.

L’épisode contradictoire (et regrettable) impliquant des groupes antisémites n’est pas une grande surprise pour les utilisateurs de La enquête OneZero a révélé que la plateforme n’avait pas supprimé les publications qui enfreignaient ses propres règles. À l’époque, le réseau social permettait de persister sur le site des images sexualisées de filles, de désinformation sur les vaccins contre le Covid-19 et du contenu lié à QAnon – un groupe d’extrême droite qui prêche la suprématie blanche. L’accès à ces « sujets cachés » a également été facilité par la recherche Google.

En savoir plus :

Pinterest a récemment annoncé qu’il avait apporté des améliorations à son système de surveillance. Pour valider ces efforts, un blog d’ingénierie de plateforme partage des informations sur les dernières mises à jour de contenu qui enfreignent ses politiques. Selon le blog, la modération utilise l’apprentissage automatique et la reconnaissance d’images pour rechercher de nouvelles épingles créées sur des modèles formés pour identifier les violations de stratégie.

Il reste donc à espérer que ces mises à jour consolideront Pinterest en tant que réseau social vraiment inspirant avec un contenu positif pour lequel il était prévu.