Applying Net neutrality rules to social media content moderation systems - Département Sciences économiques et sociales Access content directly
Journal Articles Annales des Mines - Enjeux Numériques Year : 2022

Applying Net neutrality rules to social media content moderation systems

Le principe de neutralité appliqué aux systèmes de modération de contenus sur les réseaux sociaux

Abstract

I argue that the Net neutrality concept of “reasonable traffic management” can be applied to social media content moderation systems. Unlike recommendation systems which select, organize, and prioritize content, moderation systems should be neutral. Platforms should apply content moderation rules in an objective and non-discriminatory manner. The article explains the difference between content moderation and content recommendation (also called curation). The article then explores different forms of discrimination in content moderation. I propose two rules inspired by “reasonable traffic management” that should be transposed to content moderation: (i) discrimination in content moderation enforcement should not be motivated by commercial considerations, and (ii) discrimination should be based on objective criteria related to the nature of the content, the ease of detection and the relevant harms flowing from over-removal or under-removal. Finally, I argue that the proposed DSA should include the explicit requirements on the neutrality of content moderation, modeled on the language that appears on the European Regulation on the Dissemination of Terrorist Content Online.
Dans cet article, nous proposons que le principe de « mesures raisonnables de gestion du trafic », issu de la réglementation sur la neutralité de l’Internet, soit appliqué aux systèmes de modération de contenus par les réseaux sociaux. Contrairement aux systèmes de recommandation, qui sélectionnent, organisent et proposent des contenus, les systèmes de modération de contenus devraient être neutres, appliquant les règles de modération de contenus de façon objective et non discriminatoire. Nous expliquons la différence entre un système de modération et un système de recommandation. Nous explorons les différentes formes de discrimination dans les systèmes de modération, et proposons ensuite deux règles inspirées du principe de « mesures raisonnables de gestion du trafic » : une discrimination dans l’application des règles de modération de contenus ne doit pas découler de considérations commerciales, et elle devra s’appuyer sur des critères objectifs tenant compte de la nature des contenus en cause, la facilité de leur détection, et les préjudices qui découleraient d’un sur-blocage ou d’un sous-blocage de ces contenus. Enfin, nous suggérons que la proposition de règlement « Législation sur les services numériques » soit plus précise sur les obligations de neutralité des systèmes de modération, en s’inspirant du langage figurant dans le règlement européen sur la diffusion des contenus à caractère terroriste en ligne.

Domains

Law
Fichier principal
Vignette du fichier
Maxwell - Net neutrality in content moderation May 2022.pdf (158.85 Ko) Télécharger le fichier
Origin : Explicit agreement for this submission

Dates and versions

hal-03740489 , version 1 (01-08-2022)

Licence

Attribution

Identifiers

  • HAL Id : hal-03740489 , version 1

Cite

Winston Maxwell. Applying Net neutrality rules to social media content moderation systems. Annales des Mines - Enjeux Numériques, 2022, pp.90-98. ⟨hal-03740489⟩
159 View
103 Download

Share

Gmail Facebook X LinkedIn More