Remark repenser les algorithmes des médias sociaux pour combler les lacunes

Deux flux de médias sociaux avec des notes différentes, en fonction de l. a. pondération des différents types de réaction (j’aime, réactions de colère, and so forth.). Les algorithmes basés sur l’engagement (à gauche) élèvent les publications qui suscitent des réactions de department. Le rapprochement (à droite) augmente le niveau d’engagement sur lequel divers groupes s’accordent. Crédit : Aviv Ovadia et Luke Thorburn

Les plateformes de médias sociaux ont été impliquées dans des conflits à tous les niveaux, de l. a. violence armée urbaine à l. a. prise du Capitole américain le 6 janvier et à l. a. guerre civile au Soudan du Sud. Scientifiquement, il est difficile de savoir quelle section de responsabilité peut être attribuée aux médias sociaux pour des incidents individuels.

Mais de l. a. même manière que le changement climatique augmente le risque de phénomènes météorologiques extrêmes, les données suggèrent que les algorithmes actuels (qui optimisent principalement l’engagement) font monter l. a. « température » politique en mettant en avant de manière disproportionnée les contenus incendiaires. Cela peut rendre les gens encore plus en colère, augmentant ainsi le risque que les différences sociales ne dégénèrent en violence.

Mais et si nous repensions les médias sociaux pour combler les lacunes ? L. a. « classification basée sur le pontage » est un sort alternatif d’algorithme pour classer le contenu dans les flux de médias sociaux qui vise explicitement à établir une compréhension et une confiance mutuelles entre différentes views.

L. a. logique de base de l. a. classification basée sur le pontage a déjà été utilisée sur Fb et X (anciennement connu sous le nom de Twitter), mais pas dans le flux primary. Il est également utilisé dans Polis, une plateforme en ligne de collecte des commentaires du public, utilisée par de nombreux gouvernements pour éclairer l’élaboration des politiques sur des sujets polarisants.

De nombreuses questions restent ouvertes, mais les données probantes tirées des utilisations actuelles de l. a. catégorisation basée sur l. a. transition suggèrent que les changements dans les algorithmes peuvent réduire l’hostilité partisane et améliorer l. a. qualité et l’exhaustivité des interactions en ligne.

Les gens recherchent de plus en plus d’algorithmes alternatifs. Les régulateurs européens et les nouvelles plateformes comme BlueSky donnent aux utilisateurs l. a. liberté de choisir l’algorithme qui détermine ce qu’ils voient, et de récentes expériences à grande échelle sur Fb ont ​​testé différentes choices.

Si nous nous soucions de l. a. cohésion sociale, pendant cette période de « buying groceries », nous devons sérieusement envisager des choices telles que l. a. development de ponts.

Remark ça fonctionne

Les algorithmes actuels basés sur l’engagement font des prédictions sur les publications les plus susceptibles de générer des clics, des likes, des partages ou des vues – et utilisent ces prédictions pour classer le contenu le plus engageant en haut de votre flux. Cela generally tend à amplifier les voix plus polarisées, automobile les issues de vue qui divisent sont très attrayants.

Le classement basé sur le pontage utilise un ensemble différent de signaux pour déterminer quel contenu obtient une observe élevée. Une approche consiste à augmenter l. a. observe du contenu qui reçoit des commentaires positifs de l. a. section de personnes généralement en désaccord. Cela incite les producteurs de contenu à être conscients de l. a. manière dont leur contenu parvient à « l’autre côté ».

Parmi les paperwork internes de Fb divulgués par l. a. lanceuse d’alerte Frances Haugen en 2021, il existe des preuves que Fb a testé cette approche de catégorisation des commentaires.

Il a été constaté que les commentaires impliquant un engagement positif de l. a. section de publics divers étaient de meilleure qualité et « moins susceptibles » d’être signalés pour intimidation, haine ou incitation à l. a. violence. Une stratégie similaire est utilisée dans Commentaires de l. a. communautéune fonctionnalité de vérification des faits participative sur X, identifie des observations utiles pour les personnes des deux côtés de l. a. politique.

Ce taste de « comments positif diversifié » est l’approche l. a. plus largement appliquée pour combler le fossé. D’autres incluent le déclassement du contenu qui promeut l. a. violence partisane ou l’utilisation d’enquêtes pour façonner des algorithmes afin qu’ils augmentent l. a. observe du contenu en fonction de ce que ressentent les utilisateurs à lengthy terme plutôt qu’à court docket terme.

Les conflits constituent un élément essential de l. a. société et, dans de nombreux cas, un moteur majeur de changement politique et social. L’objectif du rapprochement n’est pas d’éliminer les conflits ou les désaccords, mais plutôt de promouvoir des formes constructives de conflit.

C’est ce qu’on appelle l. a. transformation des conflits. Les médiateurs professionnels, les facilitateurs et les « bâtisseurs de l. a. paix », qui travaillent avec des groupes opposés, ont une compréhension détaillée de l. a. manière dont les conflits dégénèrent. Ils savent également remark organiser l. a. conversation entre des groupes opposés de manière à renforcer l. a. compréhension et l. a. confiance mutuelles.

L. a. recherche sur l. a. typologie des ponts peut s’appuyer sur ces éléments, en s’appuyant sur les enseignements de l. a. gestion des conflits dans le monde body et en les traduisant en systèmes numériques.

Par exemple, faciliter les contacts entre des personnes appartenant à des groupes concurrents dans un environnement « opt-in » non menaçant peut réduire les préjugés, et nous pouvons concevoir des plateformes sociales pour créer ces prerequisites en ligne.

Pourquoi les grandes entreprises technologiques devraient-elles adopter cette approche ?

Des entreprises comme Meta ont bâti leur richesse sur « l’économie de l’consideration » et sur des contenus qui stimulent l’engagement à court docket terme, et donc les revenus.

Nous ne savons tout simplement pas encore à quel level les objectifs de rapprochement et d’engagement sont devenus tendus. Si vous parlez à des personnes qui travaillent sur des plateformes de médias sociaux, elles vous diront que lorsque des changes bien intentionnées de l’algorithme sont testées, l’engagement des utilisateurs diminue parfois au début, mais rebondit lentement avec le temps, pour finalement aboutir à davantage d’engagement.

Le problème est que les plateformes hésitent généralement et annulent les expériences avant de pouvoir constater de tels avantages à lengthy terme. L. a. preuve c’est nous Faire Des paperwork divulgués sur Fb suggèrent que l’intégration de ponts améliore l’expérience utilisateur.

L. a. catégorisation de transition peut également avoir des avantages au-delà de l’engagement. En réduisant l. a. toxicité et le contenu qui enfreint les directives de notre communauté, cela réduira probablement le besoin d’une modération coûteuse du contenu.

Démontrer une volonté de rendre ses algorithmes moins conflictuels renforcerait également l. a. bonne volonté parmi les régulateurs, réduisant ainsi le risque de dommages à l. a. réputation et juridiques. Par exemple, Fb a été critiqué pour avoir prétendument facilité l’incitation à l. a. violence au Myanmar, au Sri Lanka et en Éthiopie.

Il a ensuite fait l’objet de poursuites judiciaires de l. a. section des victimes et des communautés, qui ont exigé une indemnisation pouvant atteindre 150 milliards de livres sterling.

Questions et défis

Des questions importantes demeurent concernant l. a. classification de transition, dont nous abordons beaucoup dans des recherches récentes publiées en collaboration avec le Knight First Modification Institute, qui publie des recherches et des paperwork politiques originaux sur l. a. défense des libertés d’expression et de l. a. presse à l’ère numérique.

Quelles lacunes doivent être comblées ? Y a-t-il des conséquences inattendues – par exemple, une amplification des critiques dominantes au détriment des critiques minoritaires ? Remark les décisions concernant l. a. conception des applied sciences de conversation de masse peuvent-elles être prises démocratiquement ?

Le rapprochement n’est pas une resolution magique. Il n’existe qu’un nombre limité de changements algorithmiques pouvant être apportés pour résoudre les conflits sociétaux, qui sont le résultat de facteurs complexes tels que les inégalités. Mais en reconnaissant que les plateformes numériques remodèlent l. a. société, nous sommes obligés d’orienter ce processus dans une route éthique et humaine qui fasse ressortir le meilleur de nous-mêmes.

Il est de l. a. responsabilité à l. a. fois des entreprises technologiques qui ont construit ces systèmes et du public engagé de créer des applied sciences conçues pour assurer l. a. cohésion sociale. Grâce à notre consideration, notre sagesse et notre contrôle démocratique, nous pouvons favoriser des communautés en ligne qui reflètent le meilleur de nous-mêmes. Mais nous devons faire ce choix.

Creation à l. a. dialog

Cet article est republié à partir de The Dialog sous une licence Inventive Commons. Lisez l’article authentic.

l. a. quotation: Remark repenser les algorithmes des médias sociaux pour combler les lacunes (30 octobre 2023) Récupéré le 30 octobre 2023 sur

Ce record est soumis au droit d’auteur. Nonobstant toute utilisation équitable à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans autorisation écrite. Le contenu est fourni à titre informatif uniquement.