Titre: La modération de contenu sur les réseaux sociaux en Malaisie
Depuis les élections générales de 2015 en Malaisie, il y a une tendance politique inquiétante où les messages politiques racialisés et les récits politiques exclusifs sont devenus normalisés. Avec six États en route pour les élections en 2023, les plateformes de médias sociaux, qui jouent un rôle clé au cœur du discours politique, doivent intensifier leurs efforts et assumer une plus grande responsabilité pour le contenu publié.
Au centre de cette discussion se trouve la modération de contenu, qui joue un rôle déterminant pour assurer un discours politique responsable et prévenir la propagation de contenu nuisible. La modération de contenu est le processus d’évaluation du matériel publié pour déterminer son adéquation à une plateforme donnée. Cela se fait en évaluant le contenu par rapport aux directives internes de la plateforme et aux lois nationales du pays dans lequel la plateforme opère.
La majeure partie de l’évaluation du contenu est effectuée par l’intelligence artificielle (IA), mais dans une moindre mesure, par les signalements des utilisateurs et les demandes de suppression du gouvernement. Les modérateurs humains continuent de jouer un rôle dans l’évaluation de l’adéquation du contenu. Si un contenu enfreint les directives de l’entreprise ou la loi pertinente, la plateforme le supprimera ou bloquera l’accès à celui-ci dans un pays spécifique.
Cependant, la préoccupation ici réside dans le fait de savoir si de tels efforts sont suffisants pour opérationnaliser la modération de contenu. Lors des élections générales de 2015, les messages politiques ont été utilisés sous forme de discours de haine et de menaces voilées envers les groupes minoritaires. Certains de ces contenus ont finalement été supprimés, mais seulement après une circulation généralisée et une protestation publique.
Titre: Les lacunes dans la compréhension de la modération de contenu
De même, les plateformes de médias sociaux ne divulguent pas les ressources qu’elles allouent aux marchés individuels, en particulier ceux considérés comme peu problématiques, comme la Malaisie. Les ressources comprennent la qualité de la formation des modèles d’IA pour détecter les problèmes spécifiques à la Malaisie, le nombre de modérateurs humains dédiés au pays et la compétence linguistique des modèles d’IA et des modérateurs humains pour tenir compte des expressions locales et de l’argot.
Par exemple, aucune des ressources existantes n’a pu signaler, modérer et supprimer les vidéos appelant à une répétition des émeutes raciales du 13 mai 1969, qui ont impliqué des violences sectaires entre Malais et Chinois en Malaisie. Cela est dû au fait que la date seule, lorsqu’elle est détachée de sa signification ou de son contexte historique, ne suggère pas qu’elle constitue un discours de haine et une incitation à la violence de nos jours.
Compréhensiblement, les demandes de suppression de contenu par le gouvernement ont également suscité des inquiétudes. Les craintes sont que de telles mesures puissent conduire à la censure de discours politiques, en particulier contre les critiques de l’administration actuelle. De plus, les demandes de suppression peuvent être faites sur des bases vagues, telles que la violation d’une législation largement applicable.
En fin de compte, la modération de contenu sur les réseaux sociaux en Malaisie doit être renforcée pour garantir un discours politique responsable et prévenir la propagation de contenu nuisible. Les plateformes de médias sociaux doivent être transparentes quant aux ressources qu’elles allouent aux marchés individuels et doivent travailler en étroite collaboration avec les gouvernements pour garantir que les demandes de suppression de contenu sont justifiées et ne conduisent pas à la censure de discours politiques légitimes.
