Le week-end dernier, Twitter et d’autres grandes plateformes se sont une fois de plus démenés pour supprimer les messages et les vidéos qui étaient légaux en vertu du Premier Amendement, mais qui violaient leurs politiques. Dans ce cas, les vidéos montraient un homme armé, prétendument un suprémaciste blanc de 18 ans, massacrant 10 personnes dans une épicerie d’un quartier à prédominance noire de Buffalo. Et les messages comprenaient la chape raciste du suspect, pour laquelle il semble avoir voulu que le massacre serve de publicité.
La vidéo de la fusillade de Buffalo met en relief les enjeux de ce qui ressemble trop souvent à un débat abstrait sur le discours en ligne et la liberté d’expression.
Les déclarations passées de Musk semblent impliquer que, s’il était aux commandes, Twitter aurait laissé les vidéos et le manifeste circuler, du moins aux États-Unis. Après tout, les discours de haine et les représentations de violence graphique ne sont pas contraires à la loi ici.
Mais Musk est resté silencieux sur la fusillade, même s’il a continué à tweeter abondamment sur d’autres sujets liés à Twitter. Interrogé par le Washington Post par e-mail pour savoir s’il pensait que Twitter avait tort de supprimer les vidéos de la fusillade, il n’a pas répondu.
Le rôle des médias sociaux dans la fusillade de masse de Buffalo n’était pas anodin. Bien que l’attaque ait eu lieu dans le monde physique, elle a été planifiée en ligne, influencée par des idées qui se sont répandues en ligne, diffusée en direct en ligne et motivée en partie par la conviction apparente du tireur que ses paroles et ses actes seraient finalement partagés par des millions de personnes en ligne. À cet égard, il a été calqué sur le massacre de 2019 à Christchurch, en Nouvelle-Zélande, que l’auteur a diffusé en direct sur Facebook.
À Buffalo, le tireur a apparemment choisi de diffuser en direct son attaque sur Twitch plutôt que sur Facebook, en partie parce qu’il savait que Facebook avait répondu à Christchurch en améliorant sa capacité à détecter et à fermer rapidement les flux en direct violents. Il s’est avéré que Twitch a également agi rapidement pour retirer sa vidéo – mais pas assez rapidement pour empêcher quelqu’un de l’enregistrer, de la télécharger ailleurs, puis de partager des liens vers elle sur Facebook, Twitter et de nombreux autres sites. (Twitch appartient à Amazon, dont le fondateur Jeff Bezos possède le Washington Post.)
La vidéo de la fusillade de Buffalo et les écrits du suspect sont restés trouvables en ligne malgré les efforts de Facebook, Twitter et d’autres grandes plateformes. pour le supprimer, en partie grâce à des sites de niche plus petits avec une modération de contenu plus lâche. Mais ces efforts ont considérablement réduit le nombre de personnes confrontées à la violence graphique et à la propagande sectaire dans leurs flux. (Facebook et Twitter ont supprimé la vidéo et le manifeste en vertu de politiques qu’ils ont conçues spécifiquement pour les attaques violentes.)
Dans leurs premières années, Facebook, YouTube et surtout Twitter se sont présentés de manière idéaliste comme les gardiens de la liberté d’expression dans le monde entier. Cet idéalisme semblait s’harmoniser parfaitement avec leur modèle d’affaires, permettant à un cadre relativement restreint d’ingénieurs et de concepteurs de construire des systèmes capables d’héberger de grandes quantités de contenu sans avoir besoin d’un grand nombre d’humains pour examiner ce que les utilisateurs publiaient.
Au fil des ans, cependant, Facebook, Twitter, YouTube et d’autres ont appris à leurs dépens qu’en l’absence de règles ou d’application, leurs produits non seulement accueilleraient le pire de l’humanité, mais l’élèveraient systématiquement, grâce à des algorithmes et à des dynamiques sociales humaines qui ont tendance à donner la priorité aux idées et aux images les plus choquantes et les plus captivantes.
Le danger n’est pas seulement moral : sans modération, les flux des utilisateurs les exposeraient constamment à des messages qu’ils trouvent offensants, insultants ou tout simplement grossiers, et beaucoup finiraient par partir. Et donc la nécessité pour les entreprises de technologie de consacrer à la fois des logiciels d’intelligence artificielle et des équipes d’examinateurs humains à la détection et à la suppression de tout, de la pornographie aux escroqueries en passant par la violence graphique, est devenue évidente.
De l’avis de Musk et d’un nombre croissant de conservateurs, cependant, les plates-formes sont allées trop loin. Ils voient un parti pris libéral à la fois dans les règles que les entreprises de technologie ont établies et dans la façon dont elles les appliquent. Bien que ces critiques aient tendance à soutenir certaines catégories de modération de contenu, y compris les efforts visant à prévenir le spam et les robots, ils sont contrariés par ceux qui semblent avoir une dimension politique, tels que les politiques contre la désinformation et les discours de haine.
Une réponse a été que les conservateurs lancent leurs propres réseaux sociaux. Des start-up telles que Rumble, Parler, Gab et Truth Social de l’ancien président Donald Trump sont apparues comme des alternatives aux grandes plateformes, promettant la « liberté d’expression » pour les utilisateurs. Dans la pratique, tous ont rapidement constaté qu’une absence de modération est désastreuse, et beaucoup ont adopté des règles qui ressemblent beaucoup à celles contre lesquelles ils essayaient de se rebeller. Jusqu’à présent, aucun n’a réussi à s’imposer dans le courant dominant.
Maintenant, il y a une pression des conservateurs et des libertariens pour forcer leurs visions d’un discours sans entrave sur les plates-formes établies – que ce soit en les réglementant ou, dans le cas de Musk, en essayant de les acheter.
Une loi entrée en vigueur au Texas la semaine dernière rend illégal pour les plus grandes plateformes sociales de discriminer en fonction du « point de vue » d’un utilisateur, et d’autres États envisagent des lois similaires. Le bureau du procureur général du Texas n’a pas répondu à une demande de commentaire sur la question de savoir si les Texans qui ont publié la propagande du tireur de Buffalo pouvaient poursuivre les entreprises de technologie en vertu de la loi pour l’avoir retirée.
Pendant ce temps, Musk a déclaré qu’il croyait que la « liberté d’expression » sur les médias sociaux était « celle qui correspond à la loi » et que modérer le discours juridique serait « contraire à la volonté du peuple ».
Bien sûr, la loi est différente dans chaque pays. En Russie, se conformer à la loi signifierait interdire aux utilisateurs d’appeler la guerre en Ukraine une guerre – une politique beaucoup plus restrictive que la position existante de Twitter. En fait, Twitter a été largement bloqué en Russie pour avoir refusé de se conformer aux exigences de censure du gouvernement.
Aux États-Unis, cependant, le Premier Amendement protège une vaste gamme de discours de la censure gouvernementale. Les constitutionnalistes disent que cela inclut non seulement de nombreux types de spam, de pornographie et de désinformation, mais aussi des discours de haine et des représentations de violence graphique. Ce qui signifie qu’il est presque certainement légal de publier en ligne la vidéo macabre du tireur de Buffalo, et probablement aussi son manifeste violemment raciste, selon le contexte.
Si l’on en a un Devrait l’afficher est une question différente – « une question éthique, pas une question juridique », a déclaré Jameel Jaffer, directeur du Knight First Amendment Institute de l’Université Columbia. Et il en va de même pour la question de savoir si les plateformes, qui sont des entreprises privées avec leurs propres droits du Premier Amendement, devraient l’autoriser sur leurs plateformes.
Pour les entreprises de technologie, un argument éthique contre la diffusion de la vidéo et du manifeste du tireur est que de nombreux utilisateurs le trouveront sans aucun doute bouleversant ou offensant. Un point encore plus fort pourrait être que, comme le tireur lui-même l’a reconnu, la capacité de diffuser son message loin et large faisait partie de la motivation de l’attaque en premier lieu. Ainsi, pour les plates-formes, il risque non seulement d’amplifier les dommages causés à Buffalo, mais aussi d’inciter tacitement le prochain tireur de masse.
Il n’est pas clair si Musk lui-même a pleinement pris en compte les implications de sa propre philosophie. Il semblait définitif dans son point de vue que Twitter devrait autoriser la plupart des discours à moins qu’il ne viole la loi. Mais peu de temps après, en critiquant la suspension permanente de Trump par le site, Musk a déclaré que les tweets qui sont « faux ou mauvais » devraient être « supprimés ou rendus invisibles ». Il n’a pas précisé comment cela s’accorderait avec son absolutisme de la liberté d’expression.
La réalité est que les grandes entreprises technologiques, les libéraux, Musk et les conservateurs soutiennent généralement tous la liberté d’expression. Ils ne sont tout simplement pas d’accord sur l’endroit où tracer les limites de ce qui est acceptable sur les grands forums publics.