“Musulman = terroriste”, “c’est un coup de Marine Le Pen pour gagner des voix”, insultes, propos racistes ou antisémites.”.. Depuis les attentats du 13 novembre, la France est en crise. Y compris sur Internet, où le volume de commentaires en général a quintuplé par rapport à la moyenne. Parmi eux, une minorité très visible de messages haineux, que des sociétés comme Netino se chargent de repérer et de retirer pour le compte des grands médias. Soit en empêchant leur publication, soit en les supprimant, si possible très rapidement.
Jérémie Mani, le président de la société de modération Netino, revient pour La Tribune sur le dispositif que son entreprise a mis en place pour gérer cet afflux de commentaires. Parmi ses clients: les sites web de La Tribune, du Monde, de L’Express, de L’Obs, BMFTV, 20 Minutes, Sud Ouest, Les Echos ou encore Europe 1.
(…)
Quelle est la part des propos haineux publiés sur les sites d’actualités et leur page Facebook par rapport à l’ensemble des commentaires ?
Depuis le 13 novembre, nous constatons une explosion générale des commentaires : entre quatre et cinq fois plus par rapport à la moyenne, comme ce fut le cas après Charlie Hebdo. Parmi eux, 70% sont positifs, 30% sont négatifs. Ce ratio est similaire à la période post-Charlie, mais supérieur à la moyenne, qui se situe d’ordinaire aux alentours de 20% de commentaires négatifs. Beaucoup de gens ont l’impression de voir énormément de propos haineux. En réalité, ils sont surtout plus visibles, car il y a beaucoup plus de commentaires au total, ce qui rend leur suppression plus difficile.
Quel type de commentaires supprimez-vous ?
Nous ne supprimons pas les 30% de commentaires négatifs, car il faut laisser vivre le débat autant que possible, dans le respect de la loi. Nous constatons beaucoup de messages racistes, anti-musulmans, anti-migrants aussi, car un énorme amalgame se fait entre les musulmans, les terroristes et les migrants, avec des propos du type “ce n’est pas étonnant avec tous les étrangers qu’il y a en France”.
Nous supprimons aussi tout ce qui relève des théories du complot, du genre “Israël et les Etats-Unis n’ont pas été touchés donc c’est un complot Juif”, “c’est Marine Le Pen qui a fait le coup pour gagner des voix” etc. Mais l’essentiel des propos supprimés sont racistes et anti-musulmans. En janvier, c’était différent, il y avait davantage de commentaires antisémites en raison de l’attaque de l’Hypercasher, qui visait la communauté juive.
Constatez-vous une recrudescence d’activité des internautes d’extrême-droite ?
Absolument, les groupuscules d’extrême-droite n’ont pas laissé passer l’opportunité. Certains postent des commentaires de type “musulman = terroriste” et réclament la fermeture des frontières et de l’espace Shengen.
D’autres créent aussi de faux comptes à consonance musulmane et inondent les articles de commentaires faisant l’apologie du terrorisme, dans le but d’entretenir l’amalgame. Heureusement, ils sont très facilement repérables et donc, faciles à bloquer. Mais ces commentaires peuvent faire peur à ceux qui les voient avant qu’on les supprime, même si notre réactivité est importante.
Vous modérez à la fois les commentaires postés sur les sites de la plupart des grands médias, mais aussi ceux de leur page Facebook. Voit-on les mêmes profils et les mêmes types de commentaires sur un site d’actualité et sur un réseau social ?
Certains commentent uniquement sur Facebook, d’autres uniquement sur les sites d’actualités, mais globalement, on retrouve le même type de contenus. Certaines personnes sont des “serial-posteurs”, ils commentent l’actualité sur de nombreux sites, il est donc facile de les repérer avec leur adresse IP ou leur compte utilisateur. Ceux qui ont l’habitude de poster des messages injurieux sont déjà bloqués, mais avec les attentats, des personnes qui ne postaient pas s’y mettent et d’autres peuvent déraper.
Sur les réseaux sociaux, les messages sont plus courts, plus impulsifs, donc plus propices aux dérapages. Sur les sites d’actualités, les commentaires sont en général un peu plus développés, moins spontanés car il faut s’inscrire alors que sur Facebook, on commente avec son profil. Notre principale difficulté est plutôt l’afflux de messages. Puisque leur nombre explose, nous sommes moins réactifs pour les enlever très vite.
Justement, comment repérez-vous les commentaires problématiques ? Grâce à un algorithme ?
Tout l’enjeu en cette période d’explosion des commentaires est de bien détecter les messages problématiques et de supprimer ceux qui sont haineux très vite. Nous fonctionnons effectivement grâce à un algorithme très puissant qui sélectionne les commentaires “à risque”, mais ce sont nos modérateurs qui prennent la décision de les supprimer ou pas. Les messages ne sont pas traités par ordre d’arrivée mais en fonction du risque de dérapage qu’ils représentent. Pour calculer ce risque, notre algorithme prend en compte de nombreux critères.
Lesquels ?
Tout d’abord, l’algorithme fonctionne avec un système de mots-clés, mis à jour très régulièrement. On sait que certains mots génèrent plus de commentaires haineux que d’autres. Quand des mots comme “charia”, “sioniste”, “gay” apparaissent dans les commentaires, le taux de rejet moyen est deux à trois fois supérieur. L’algorithme considère donc que chaque message qui contient certains mots-clés doit être traité par nos équipes avec plus d’urgence que lorsqu’ils n’apparaissent pas.
Le deuxième critère majeur est ce qu’on appelle les “scores utilisateur”. On conserve l’intégralité des données que nous avons sur chaque personne, pour déterminer si on doit particulièrement surveiller son activité car elle risque de déborder, ou si la personne est considérée comme fiable. Par exemple, si vous commentez pour la première fois sur la page Facebook du Monde, vous pouvez penser qu’on ne vous connaît pas. En réalité, il y a de grandes chances qu’on vous connaisse si vous avez déjà commenté des posts de La Tribune ou de L’Express. Comme le pseudonyme, qui est votre compte Facebook, est le même, nous pouvons établir un “score de risque” qui permet à l’algorithme de ranger votre message plus ou moins haut dans la liste des messages à surveiller. Les commentaires des utilisateurs qui n’ont jamais dérapé sont moins prioritaires.
(…)
