France - "Faire face à la propagande haineuse" : entretien avec Marc Knobel, auteur de "Cyberhaine"

Publié le 9 juin dans La Revue Civique

Préfacé par l’auteur Pierre-André Taguieff et postfacé par le sociologue Smaïn Laacher, ce livre dresse l’impressionnant historique de l’utilisation des outils numériques par les propagandistes de la haine, qu’elle soit antisémite, raciste, homophobe, extrémiste, complotiste ou terroriste. A travers l’analyse de nombreux exemples, présentés avec grande précision, Marc Knobel met en lumière dans ce livre l’ampleur du phénomène et les manières d’y faire face, par une régulation volontariste et efficace, pour la protection des droits élémentaires de la personne humaine. Il répond à nos questions.

La Revue Civique : Votre livre présente toute une série d’engagements et de combats, que vous avez personnellement menés contre la diffusion des haines, antisémites en particulier, sur les espaces numériques qui cherchent à échapper aux règles élémentaires et aux sanctions judiciaires. En 20-30 ans, quels sont néanmoins les progrès que vous avez pu constater, qu’il s’agisse de la régulation d’Internet et des réseaux sociaux, ou de la jurisprudence ? Quels sont les acteurs, associatifs et institutionnels, qui vous paraissent les plus en pointe en ce domaine ?

Marc Knobel : Ce livre est avant tout un essai historico-critique et une mise en perspective historique. Je couvre les années 1980 – 2021. Dans un premier temps, je rappelle qu’avant la diffusion d’Internet au grand public, dans les années 1980 et vers le milieu années 1990, la propagande antisémite existait bel et bien et se diffusait, bien évidemment, mais presque essentiellement dans certains lieux fréquentés par l’extrême droite. En définitive, il était relativement difficile au début des années 1980-1990 de se procurer de la propagande de haine. Puis, vint l’ère des disquettes et des messageries électroniques. J’examine ce changement et ce passage d’une époque à une autre. Internet allait se développer et plus tard, les réseaux sociaux. C’est ainsi que la propagande allait pouvoir se répandre librement et mondialement, ce qui n’était pas le cas auparavant. Parce que les extrémistes ont vite compris le parti qu’ils pouvaient tirer d’une utilisation rationnelle et systématique d’Internet et que la Toile fournit aux extrémistes des outils puissants pour propager la haine.

Dans cet essai, je souligne donc le fait que l’émergence de l’Internet puis son expansion ont favorisé la diffusion d’une propagande haineuse. À mesure qu’Internet s’est développé, il est devenu un outil idéal pour les extrémistes. C’est pour cette raison que je porte une attention toute particulière aux mouvements, aux discours et à ceux qui diffusent sur le Net, de la propagande antisémite. Parce que des mouvements extrémistes utilisent rationnellement l’outil, ils sont l’objet de toute mon attention. Qui sont-ils? D’où viennent-ils? Que veulent-ils? Que font-ils? Quelle est la stratégie élaborée? Cela fonctionne-t-il? Pourquoi et comment?

« Avec le Net, la haine s’est ‘démocratisée’. Et c’est bien là, la nouveauté ».

En définitive, le Net n’a certes pas inventé la propagande. D’autres paramètres permettent d’expliquer ce que sont ces mouvements, les stratégies élaborées, les liens qu’ils entretiennent entre eux et l’impact qu’ils peuvent avoir. Le Net se présente simplement à vous, à moi. Et les extrémistes savent l’utiliser et tentent ainsi de répandre leur propagande. Évidemment, on ne tombe pas automatiquement sur les pages de Stormfront ou de sites islamistes. Il faut vouloir les trouver, à moins que vous ne tombiez sur des sites trop souvent et facilement référencés dans les moteurs de recherche. C’est le problème, le référencement systématique. Il n’en reste pas moins qu’avec le Net, la haine s’est « démocratisée ». Et c’est bien là, la nouveauté.

Dans cette éprouvante traversée de la haine, j’ai toujours été étonné, désarmé par l’incroyable inventivité des uns et des autres. Les militants, sympathisants et tous ceux qui participent de cette orgie destructrice ont bénéficié d’une incroyable complicité, le silence des uns, la lâcheté des autres, l’indifférence de beaucoup, l’appât du gain. À chaque instant, les fanatiques s’engouffrent dans les brèches et les petits trous, les espaces concédés pour y faire leur «boulot». Diffuser, vendre de la haine, à tous les étalages du Net et des réseaux sociaux.

Pour répondre plus exactement à votre question, il me semble que si des dispositifs ont été améliorés depuis quelques années, cela est dû à la pression des associations antiracistes et des institutions, qui ont soulevé ces problématiques devant l’opinion publique, la presse, lors de conventions internationales, dans des forums, des conférences. Cela est dû également aux nombreux procès qui ont été intentés contre les plateformes. Cela est dû au poids de l’actualité. Les plateformes américaines sont sensibles à l’opinion publique. Quelques scandales ont éclaté et ces plateformes ont été critiquées.

Par exemple Facebook a été sous le feu de nouvelles critiques après plusieurs récents scandales sur les données privées et notamment une faille dans la sécurité de sa messagerie cryptée Whatsapp ou lors des dernières élections présidentielles américaines. Enfin, il y a eu une prise de conscience de l’utilisation à des fins criminelles de l’Internet. Elle est intervenue à la suite d’attentats qui ont été fomentés soit par des suprémacistes blancs (la série d’attaques terroristes d’extrême droite commise le 15 mars 2019 par Brenton Tarrant contre deux mosquées de la ville de Christchurch, en Nouvelle-Zélande, et qui font 51 morts et 49 blessés, par exemple) ou les attentats terroristes qui ont été commis ces dernières années par des islamistes fanatisés. Sans ces différents facteurs, je ne pense pas que les choses auraient évolué.

« Nous demandons la transparence (des plateformes numériques). Où sont les modérateurs ? Comment sont-ils formés ? Quelle connaissance ont-ils de notre actualité, de nos lois ? Quels choix sont opérés ? »

Quels sont les manquements que vous constatez encore, malgré les affirmations des grands opérateurs du numérique (essentiellement américains) ? Quels sont les engagements ou changements que vous attendez de leur part, par exemple de Twitter ? Et comment faire face à l’indifférence, que vous évoquez plusieurs fois dans votre livre et qui favorise les agissements des extrémistes ?

Marc Knobel : Savez vous que les plateformes emploient des modérateurs sous-payés et exploités ? Aux Philippines, par exemple, la main-d’œuvre y est bon marché et anglophone, un atout pour les géants du web américains. Là, ils sont des milliers à effectuer le travail que Facebook ou Google sous-traitent à des multinationales. L’identité, l’activité et leur lieu de travail sont cachés, les sociétés veulent certainement s’épargner toute potentielle complication. La plupart des modérateurs ont entre 20 et 25 ans. Des heures durant, ils visionnent jusqu’à 25 000 images à trier par jour. Il y a de la pédophilie, des corps déchiquetés par les bombes, des scènes d’automutilation, des suicides, des attentats terroristes, etc. Les modérateurs sont livrés à eux-mêmes et souffrent de syndromes post-traumatiques.

Avec nos amis, nous demandons de la transparence. Où sont les modérateurs ? Comment sont-ils formés ? Combien sont-ils payés ? Dans quelles conditions travaillent-ils ? Quelle formation a été assurée ? Quelle connaissance ont-ils de notre actualité ? De nos lois ? Quels sont les choix opérés ? On ne sait rien, car les plateformes se protègent. Est-ce normal ? Non.

Vous me questionnez et vous me demandez également ce qu’il en est de l’indifférence ? Je vous réponds. Il serait erroné de penser que la banalisation de l’expression raciste, antisémite et homophobe sur Internet est seulement le produit d’une poignée d’internautes égarés par la haine. Elle résulte aussi de l’absence de mobilisation de ses principaux acteurs, les fournisseurs d’hébergement, les fournisseurs d’accès, les moteurs de recherche, puisqu’ils ont revendiqué pendant des années une neutralité de simple intermédiaire pour déserter le terrain de la mobilisation citoyenne et de l’éthique.

Et, la permissivité dans ce domaine se nourrit également de la lassitude et de la défection de ceux qui, dans le monde politique ou associatif par exemple, auraient pu réagir plus tôt, pour tenter de changer le cours des choses. Au fond, que faut-il faire et dire pour que l’on comprenne que les extrémistes vivent, croissent et profitent des espaces que nous leur livrons ou que nous leur abandonnons ?

Dans quel domaine ou de quelle façon le législateur devrait, en France et en Europe, plus ou mieux agir, même si la loi Avia et la loi « séparatisme » ont introduit en France des règles nouvelles contre la diffusion des haines et violences sur les réseaux sociaux ? Comment aller plus loin sans atteindre le principe constitutionnel de liberté d’expression ? Etes-vous par exemple favorable à l’interdiction de l’anonymat sur les réseaux sociaux et est-elle techniquement possible ?

Marc Knobel : Pour tenter de résoudre ces problèmes, sur proposition d’Emmanuel Macron, le Président de la République, Gil Taieb, vice-président du Crif, Karim Amellal, écrivain et enseignant et Laetitia Avia, députée LREM, remettent le 20 septembre 2020 un rapport sur le racisme et l’antisémitisme sur Internet à Édouard Philippe, Premier ministre. Le rapport comprend 20 recommandations, dont la volonté de rendre plus claires et plus simples les procédures de signalement des contenus illicites; la fixation d’un délai maximal pour le retrait des contenus haineux ou la mise en place de sanctions financières très dissuasives pour les opérateurs qui ne s’acquittent pas de leurs obligations en matière de retrait des contenus haineux. Quelques mois plus tard, une proposition de loi est promulguée le 24 juin 2020 par Laetitia Avia, visant à renforcer la contribution des opérateurs numériques à la lutte contre certains contenus manifestement haineux en ligne. Mais le Conseil constitutionnel en censure de nombreuses dispositions. C’est ainsi que les obligations pesant sur les réseaux sociaux de retirer en vingt-quatre heures les contenus haineux n’ont pas été jugées compatibles avec la liberté d’expression.

Cependant, en janvier 2021, le gouvernement dépose un amendement qui vise à lutter contre les contenus illicites sur les réseaux sociaux, dans le cadre de son projet de loi contre le séparatisme. Cet amendement vise à réguler la modération des contenus illicites. Parallèlement, le 5 décembre 2020, Thierry Breton, le Commissaire européen au Marché intérieur, et Margrethe Vestager, vice-présidente de la Commission européenne chargée de la concurrence, présentent un projet de nouvelle réglementation applicable aux divers services de l’Internet. Il s’agit d’imposer une obligation de moyens et de modérations aux plateformes numériques, dans l’Union européenne.

Il me semble qu’il faut aller plus loin encore. Il faut réfléchir à une législation (commune) européenne pour essayer de mieux penser ces problématiques. Il faut renforcer, créer là où c’est possible, des instances de régulation. Comme le propose la Commission nationale consultative des droits de l’Homme (CNCDH), il faut créer également un plan national d’action sur l’éducation et la citoyenneté numériques parce qu’il faut apprendre aux enfants à se servir de l’outil et à se défier de l’outil. Elle préconise également d’améliorer le dispositif de plainte en ligne puisque les gens ne savent pas qu’ils peuvent porter plainte en ligne. De la même manière, il faut renforcer les moyens du nouveau pôle national de lutte contre la haine en ligne, logé au sein de la section Presse et protection des libertés publiques de la 5ème division du Parquet de Paris. Ce pôle ne comporte aujourd’hui que 6 magistrats.

Je veux également rappeler qu’en mars 2018, la LICRA, SOS Racisme, l’UEJF, J’accuse et le MRAP ont proposé que 7 mesures concrètes et facilement mises en œuvre soient adoptées afin de lutter contre l’impunité des propos haineux sur internet avec le concours actif des hébergeurs. En résumé, voici les 7 propositions :

1. Imposer aux hébergeurs non-établis sur le territoire français de désigner un représentant local assumant leurs responsabilités en matière d’antisémitisme, de racisme, de négationnisme ou de discriminations ;

2. Etendre le dispositif de signalement prévu par la Loi pour la Confiance dans l’Économie Numérique à tous les contenus à caractère antisémite, raciste, négationniste ou discriminatoire ainsi qu’aux moteurs de recherche ;

3. Assouplir le dispositif de signalement ;

4. Améliorer l’identification des auteurs ;

5. Renforcer le dispositif répressif existant ;

6. Etendre les possibilités d’intervention du juge pour ordonner la fermeture de comptes ou de profils véhiculant des discours de haine à caractère antisémite, raciste, négationniste ou discriminatoire ;

7. Étendre l’obligation de transparence des hébergeurs quant aux moyens mis en œuvre.

Enfin, concernant l’anonymisation, je dirai ceci. L’anonymisation est souvent la règle. De nombreux internautes cachent leur identité réelle en utilisant des pseudonymes. Justement, parce qu’ils sont anonymes, ils se sentent invulnérables. Il faut que cela change. Et, ce sont toutes ces péripéties, cet environnement compliqué, cette traversée de la haine depuis 40 ans que je détaille et que j’analyse dans mon livre.

Le livre : « Cyberhaine. Propagande et antisémitisme sur Internet », par Marc Knobel, éd. Hermann, 238 p., 24 euros.