Violence et négativité sur les Réseaux Sociaux: it’s a feature, not a bug

La violence des comportements humains fait actuellement irruption de toutes parts dans le réel, qu’elle soit réelle, ou ressentie. Chacun le déplore, et en particulier en ce qui concerne les réseaux sociaux, leurs chasses à l’homme, les conflits permanents, les incivilités qui semblent presque un préalable pénible mais obligatoire pour toute interaction. Mais un des angles morts de l’analyse de la violence sur les réseaux sociaux retient tout particulièrement notre attention en ce qu’il est fondamental afin de comprendre les dynamiques à l’oeuvre: la violence du contrôle comportemental opéré par les algorithmes des GAFAs, qui reviennent à manipuler les comportements humains, jusques-et-y compris en termes de choix conscients ou inconscients (comportements d’achats, comportements de vote, et il est raisonnable de le penser, modifications de l’humeur). 

Les réseaux sociaux, de même que Google, sont comme le souligne Jaron Lanier^⁠1 dans son édifiant ouvrage « 10 arguments for deleting your social media accounts right now », nés de l’application de théories de psychologie sociale (B.F. Skinner fut par exemple un des chercheurs ayant travaillé sur les tous premiers réseaux sociaux) destinées à maximiser la valeur marchande du produit, étant entendu que le produit n’est autre que l’utilisateur, et en corollaire que les consommateurs (les sociétés rémunérant les publicités) payent donc les réseaux sociaux spécifiquement pour modifier le comportement des utilisateurs dans le sens de l’achat des produits pour lesquels ils font de la publicité. Or les techniques cognitivo-comportementales fonctionnent, et elles fonctionnent même très bien. Peut-être même trop bien si l’on se place dans la perspective de l’intérêt général, et non simplement de celui des marchés financiers. En particulier les réseaux sociaux ont été conçus précisément pour favoriser l’addiction, avec l’administration régulière de petits bolus de dopamine déclenchés par les boucles de rétroaction sociale positives (like, retweet, page éternelle, rafraichissement perpétuel…), et en écho le mal-être, le manque à ne pas en recevoir. Voici par exemple ce qu’en dit Sean Parker, le premier président de Facebook, représentant bien informé de l’élite de la silicon valley qui place quant à elle ses enfants dans des écoles les protégeant du recours aux nouvelles technologies:

« We need to sort of give you a little dopamine hit every once in a while, because someone liked or commented on a photo or a post or whatever.… It’s a social-validation feedback loop … exactly the kind of thing that a hacker like myself would come up with, because you’re exploiting a vulnerability in human psychology.… The inventors, creators—it’s me, it’s Mark [Zuckerberg], it’s Kevin Systrom on Instagram, it’s all of these people—understood this consciously. And we did it anyway … it literally changes your relationship with society, with each other.… It probably interferes with productivity in weird ways. God only knows what it’s doing to our children’s brains. »

—Sean Parker

Voici donc un premier problème majeur: les réseaux sociaux sont conçus pour être addictifs. Nous sommes le produit, et ce que vendent les FAANG sont notre disponibilité sur leur interface, et l’influence que leurs algorithmes exercent sur nous. Si possible pour garantir à leurs annonceurs que nous allons bien consommer ce qu’ils souhaitent. Or les addictions sont rarement sans conséquences sur la vie de ceux qui en sont les victimes. Mais d’autres ombres au tableau s’ajoutent à celle-ci. La problématique qui se pose, en particulier avec les réseaux sociaux (mais qui existait déjà dans les dynamiques de foules, bien que de façon beaucoup plus restreinte), est que les sentiments et émotions négatifs suscitent beaucoup plus d’implication comportementale (en termes émotionnels, et en termes de traduction physique par des retweets, des likes, des posts) que les émotions positives. Il y a donc une incitation inconsciente directe à propager de la négativité, de la victimisation, de l’indignation, et même de l’injure, créant ainsi un cercle vicieux propageant toujours plus de négativité et de violence sur les réseaux sociaux. De la même façon, il est beaucoup plus simple de captiver un utilisateur en lui proposant un enchaînement de posts, de vidéos, d’articles sur une théorie « que l’on vous cache »: c’est ainsi que les algorithmes proposent tout un ensemble de chemins sans fin parmi différents médias et articles (que les informaticiens de la Silicon Valley appèlent des « rabbit holes » en référence au terrier par lequel Alice plonge au pays des merveilles) par lequel ils espèrent captiver les utilisateurs. Et ça marche. Bien sûr.

Ce qui s’est passé (et se passe encore) par exemple autour du COVID, et de la prolifération des informations les plus folles rencontrant une large propagation et une grande audience montre la puissance (et la toxicité) de ces timelines twitter, Facebook, Instagram qui sont créés en temps réel pour chacun de nous, et facilitent la polarisation des débats et la dilution des arguments rationnels au profit des thèses les plus susceptibles de déclencher une tempête d’émotions.

Les nouveaux médias de communication sont ainsi en eux-même favorables à dessein à la propagation de la violence. Ce n’est pas un bug, un effet déplorable et secondaire des réseaux sociaux, mais au contraire une caractéristique souhaitée par leurs concepteurs, et amplifiée par les algorithmes. Or on assiste paradoxalement à une volonté de nos décideurs politiques^⁠2 de confier la fonction de modération des débats publics à ces sociétés commerciales, qui pourtant favorisent par design la propagation des conflits, des fausses nouvelles, des invectives et de la violence. Ce qui ne peut qu’être un jeu de dupes dans lequel ces sociétés modèreront en apparence certaines formes de contenus, conduisant à un déplacement permanent des discours négatifs, mais ne modifieront pas sur le fond l’architecture de ces sytèmes et leur impact sur les comportements humains dans la mesure où cette architecture garantit précisément leur business model. Assainir les réseaux sociaux demanderait à revoir de fond en comble ce business model qui s’appuie aujourd’hui sur l’instrumentalisation et la monétisation des utilisateurs, ce à quoi ne sont bien évidemment pas prêts leurs concepteurs. Demander aux entreprises privées américaies qui les opèrent, les FAANG, de modérer le contenu, d’améliorer l’atmosphère et la qualité des débats (comme souhaitait par exemple l’imposer la loi AVIA^⁠3) est donc tristement illusoir, puisque cela reviendrait simplement à orienter politiquement la violence et la négativité, mais non à les tamiser ou les faire disparaître. Ce serait une atteinte d’une ampleur inédite contre la liberté d’expression et la dialectique —qui sont des valeurs indispensable au fonctionnement démocratique—, sans contrepartie aucune.

Ce sujet ouvre lui-même sur les enjeux émergents des problématiques de harcèlement que ces réseaux sociaux favorisent et encouragent, en ce qui concerne les adultes bien sûr, mais avec d’autant plus d’impact lorsqu’il s’agit d’enfants et d’adolescents pour lesquels il prolonge et intensifie le harcèlement scolaire. À tel point que d’un phénomène relativement contenu qui était celui du harcèlement à l’école et touchait à des degrés divers une portion relativement faible des enfants, l’on est passé à plus de 20%^⁠4, c’est à dire près d’un enfant sur cinq confronté à un cyberharcèlement. Nous avons tous en mémoire les affaires connues, tel que le harcèlement subie par le jeune Mila^⁠5, mais la presse regorge de ces phénomènes choquants de harcèlement en meute d’une violence inouïe qui finissent trop souvent^⁠6 tragiquement^⁠7. Là encore, la problématique ne pourra pas s’améliorer sans un changement profond d’architecture des réseaux sociaux, et de leur usage, dans la mesure ou ils sont conçus pour inciter les comportements favorisant l’implication émotionnelle. Or la chasse à l’homme favorise le déferlement de haine, et offre à ceux qui s’y livrent à la fois un sentiment d’appartenance à un groupe, un sentiment de puissance, et un dérivatif à leurs anxiétés et frustrations propres, et favorise donc tristement leur implication émotionnelle (et donc également leur suceptibilité à la manipulation inconsciente par des stratégies marketing, qui elle-même est le but premier des concepteurs de ces réseaux sociaux…). D’autant que ces mécanismes psychologiques reçoivent en plus le soutien de nouvelles formes de militantismes adoptées par une multitude de petites communautés (des « racisés » aux « antispécistes » en passant par les néoféministes ou les chapelles de genre, qui, toutes, estiment à bon droit pouvoir exercer la terreur pour faire triompher leur cause, ce que résume la « cancel culture »)^⁠8,créant autant de boucles de rétro-action renforçant l’action centrifuge, l’action de désunion démocratique dont nous percevons chaque jour un peu plus les effets.

Et si ces nouvelles formes de violence liées à des inductions comportementales opérées sous l’impulsion et le contrôle de sociétés étrangères privées ne suffisaient pas, elles se doublent de la violence de l’atteinte toujours plus poussée de la vie privée des citoyens par les états, avec l’intrusion toujours plus prégnante du gouvernement dans nos vies au travers de la généralisation d’une société (et d’un capitalisme) de surveillance (caméras, deep mining, interceptions et stockage de la totalité des communications des citoyens comme le prouvent les révélations d’Edward Snowden dans la suite des celles réalisées par Julian Assange et Wikileaks…) dont le dernier avatar est la volonté d’instaurer la reconnaissance faciale^⁠9 dans le domaine public —projet ALICEM—. Les manifestations qui eurent cours à Hong Kong dans le courant de l’année 2019 illustrent tout le danger de l’exploitation de telles technologies contre un peuple. Ou encore comme le montre l’engouement et l’enthousiasme des états à attenter aux libertés et à la vie privée de leurs citoyens en prétextant la nécessité liée au COVID (on pense en particulier aux applications de traçage…).

Les formes de violence modernes, si elles ne sont pas nécessairement martiales, sont ainsi particulièrement invasives, généralisées et efficaces.

¹ Conférence de Jaron Lanier au sujet de son ouvrage les 10 arguments pour supprimer ses comptes sur les réseaux sociaux dès maintenant. https://www.youtube.com/watch?v=BCTlcj5vImk

² https://www.france24.com/fr/20190510-france-rencontre-macron-zuckerberg-autorite-controle-moderation-reseaux-sociaux-facebook

³ https://www.nextinpact.com/news/109027-cyberhaine-lelectronic-frontier-foundation-et-juristes-sattaquent-a-loi-avia.htm

⁴ Cyberharcèlement. https://www.lexpress.fr/education/le-harcelement-scolaire_1795652.html

⁵ https://www.lefigaro.fr/actualite-france/mila-menacee-apres-ses-critiques-de-l-islam-va-retourner-au-lycee-20200208

⁶ https://www.europe1.fr/societe/sarah-16-ans-victime-de-cyberharcelement-on-finit-par-se-dire-quils-ont-raison-3799796

⁷ https://mcetv.fr/mon-mag-politique-societe/societe/cyber-harcelement-adolescente-16-ans-se-suicide-cause-reseaux-sociaux-1707/

⁸ https://www.madmoizelle.com/cancel-culture-definition-1037892

⁹ https://www.marianne.net/societe/lancement-de-la-reconnaissance-faciale-en-france-mais-qu-allons-nous-faire-dans-cette-galere