La lutte contre la désinformation en ligne est un défi permanent pour les grandes technologies, et c'est particulièrement difficile lorsqu'il s'agit d'un forum de discussion avec des millions de personnes pendant une pandémie.

L'un de ces endroits est la communauté r / Coronavirus sur le site Web Reddit. En janvier 2020, il comptait environ 1000 membres. Ce nombre a grimpé à 1,5 million en mars 2020, en partie parce que Reddit l'a mis en évidence sur sa page d'accueil par rapport à l'un des autres sous-reddit connexes. Aujourd'hui, la page compte 2,4 millions d'utilisateurs, avec environ 10 000 nouveaux commentaires par jour.

Rencontrez trois modérateurs de Reddit luttant contre la désinformation sur r / Coronavirus

Le forum est devenu un guichet unique pour des informations à jour sur les coronavirus, offrant des nouvelles sur la pandémie, l'emplacement des sites de vaccination et comment s'inscrire aux essais cliniques. La communauté a également organisé des discussions de questions-réponses avec Bill Gates et Tom Frieden, ancien directeur des Centers for Disease Control and Prevention des États-Unis, ainsi que de grands chercheurs. Même le PDG de Reddit, Steve Huffman, a contacté les bénévoles qui modèrent le forum pour leur dire qu'il commence sa journée en le lisant et pour les remercier de leur travail.

Mais le travail de ces modérateurs n’est pas facile, car le forum est également un terrain propice à la désinformation. Ils travaillent sans relâche pour s'assurer que les informations sur le subreddit sont fiables, prenant du temps loin de leur travail en tant que médecins, chercheurs et étudiants.

Inscrivez-vous pour recevoir des mises à jour par e-mail sur les dernières nouvelles et recherches sur les coronavirus

Le modérateur en chef Patrick Doherty est un chercheur en biotechnologie; Jennifer Cole est une anthropologue biologique à l'Université Royal Holloway de Londres, qui étudie les communautés en ligne liées à la santé et est devenue une gestionnaire infodémique, après avoir reçu une formation d'une initiative de l'Organisation mondiale de la santé pour lutter contre la désinformation; et Rohan - qui a demandé de ne pas utiliser son nom complet en raison du harcèlement quotidien qu'il reçoit sur Reddit - est un M.D./Ph.D. étudiant en biologie moléculaire.

SN : Comment êtes-vous devenu modérateur ?

Au début de la pandémie, il y avait beaucoup de très mauvais papiers préimprimés qui sortaient. Et celui qui est ressorti était de savoir comment.. le coronavirus aurait pu être fabriqué dans un laboratoire en utilisant une souche de VIH. UNE [Reddit] l'utilisateur l'avait posté. J'avais donc écrit un commentaire détaillé en réponse, expliquant pourquoi le document était mauvais et pourquoi les résultats ne signifiaient rien. Le papier a fini par être rétracté (SN : 26/03/20). Les modérateurs ont vu mon commentaire et ont aimé la façon dont j'ai exprimé la science, ils m'ont donc invité à devenir modérateur.

Rohan : J'ai commencé en septembre 2020, la veille [then-President Donald] Trump a été testé positif (SN : 10/5/20). Au cours des six mois précédents de la pandémie, j'avais vu beaucoup de désinformation sur le subreddit. Je voulais contribuer à supprimer certaines de ces choses, et je pensais également qu'il y avait beaucoup d'opportunités pour le sous-programme de mener des projets spéciaux, comme motiver les gens à se faire vacciner ou les aider à trouver des lieux de vaccination. Et je pensais que compte tenu de mes antécédents, je serais en mesure de vous aider.

SN : Y a-t-il quelque chose qui vous a surpris à propos de la modération de r / Coronavirus ?
Parce que j’ai déjà fait ça avec Ebola. Il n'y a rien eu de différent dans cette pandémie de ce qu'il y avait dans Ebola, il y en a simplement eu plus. L'échelle a été différente, mais le genre de théories du complot que vous voyez et le genre de choses que les gens disent ne sont pas différents.

SN : Qu'est-ce que ça fait de modérer tous les jours ? À quelle fréquence prenez-vous des pauses ?

Doherty : Cela peut parfois être un peu angoissant, surtout quand il n'y avait pas beaucoup de bonnes nouvelles. Il y a maintenant de bonnes nouvelles concernant les vaccins (SN : 30/03/21; SN : 08/03/21). Mais avant, chaque jour, j'ouvrais le sous-marin, et chaque matin je lisais la première page de notre subreddit, et c'était juste une mauvaise nouvelle. Cela peut être beaucoup.

Par exemple, s'il y a de grandes nouvelles concernant l'approbation d'un vaccin, nous passerons tous une partie importante de la journée à répondre aux questions des utilisateurs et à lutter contre la désinformation. Mais juste la gestion générale au jour le jour, c'est une équipe assez grande et nous essayons de nous coordonner les uns avec les autres. Cela prend beaucoup de temps collectif, et nous essayons de nous assurer que si quelqu'un a une journée ou une semaine bien remplie, nous essayons de l'aider.

SN : Comment faites-vous la distinction entre la désinformation qui devrait être supprimée et une vraie question ?

Cole : Au début, au lieu de simplement retirer quelqu'un, nous nous engageons avec eux. Si leurs informations sont erronées, nous expliquons pourquoi elles sont erronées. Et certainement la première fois que les utilisateurs publient quelque chose qui ne va pas, nous essaierons de les corriger et de les pousser vers la meilleure information. S'ils continuent de revenir en essayant manifestement de pousser un récit, c'est à ce moment-là que nous les interdirons. Vous devez faire une distinction entre les personnes qui auraient pu l’entendre quelque part et qui ne le comprennent pas très bien et qui ont besoin que vous leur expliquiez un peu mieux, par rapport aux personnes qui essaient de pousser un récit. Parfois, nous vérifions l'historique des publications des utilisateurs et ce qu'ils publient ailleurs.

Voir toute notre couverture de l'épidémie de coronavirus

SN : Quelle est la plus grande leçon que vous ayez apprise ?

Doherty : La désinformation est vraiment difficile à combattre, car quelqu'un peut publier deux phrases de trucs inventés, ce qui ne leur prend que cinq secondes. Mais si je veux réfuter cela, je dois trouver une source, puis deux sources, puis trois sources, et une ventilation scientifique des raisons pour lesquelles ce n’est pas vrai. Je ne peux pas simplement dire "non, ce n’est pas le cas", car vous laissez alors le lecteur décider à qui il fait le plus confiance. Alors que vous devez aller chercher des sources et montrer pourquoi vous avez raison et que cela prend du temps. Il est très facile de partager un mème et d’obtenir 25 000 mentions J'aime et les gens sont convaincus que c’est vrai, et cela n’a pris que 10 secondes à cette personne.

SN : Je suis sûr que l'interdiction de personnes mène au harcèlement. Avez-vous été harcelé ?

Doherty : Je n'ai jamais été doxed [that’s when someone publishes private personal information online]. Je garde mon nom séparé de mon nom d'utilisateur. Je ne dis jamais qui je suis sur le subreddit. Mais si vous supprimez le commentaire de quelqu'un, j'ai demandé à quelqu'un de vous trancher la gorge ou tout simplement une sorte de menace de mort vraiment horrible. Vous pouvez le signaler à Reddit, et ils interdiront à l'utilisateur d'accéder au site pour des choses comme ça, mais nous obtenons beaucoup de choses comme ça. On s’habitue, mais on ne s’y fait pas vraiment.

Rohan : La plupart des messages directs désagréables ne sont que du vitriol ou des personnes méchantes. C’est essentiellement un événement quotidien. Et pas rarement, mais plusieurs fois par jour. Au-delà de cela, il y a d'autres menaces mineures telles que "Oh, je vais vous dénoncer" ou "Oh, bientôt vous serez révélé et exposé comme un shill." Celles-ci viennent probablement plusieurs fois par semaine, plus fréquemment s’il s’agit d’une période chargée ou d’un sujet particulièrement sensible. Les menaces graves, comme les menaces de préjudice réel pour moi, sont heureusement beaucoup plus rares. Habituellement, c'est quelqu'un qui dit qu'il va me faire un truc ou qu'il "me trouvera" et que je devrais me suicider. Ceux-ci sont désagréables, mais beaucoup plus rares, probablement de l'ordre d'un mois ou plus entre les deux.

Ils ne sont ni effrayants ni effrayants. Mais une partie de l'accord d'éthique avec mon université est que si je fais des recherches sur ces communautés en ligne, je le fais sous mon propre nom afin que ce soit transparent. Mon université est consciente que je fais cela. La sécurité de mon campus le sait également. Une chose que font les gens en ligne est de dire des choses comme "nous savons où vous travaillez". Mais vont-ils parfois jusqu'à contacter l'université ? Non, ce n’est pas le cas.

SN : Comment le r / Coronavirus a-t-il changé au cours de la dernière année ?

Rohan : Il n'est plus simplement un endroit pour obtenir des nouvelles sur la pandémie et sa réponse, et plus un endroit pour obtenir des informations qui sont en fait plus exploitables pour les utilisateurs. Ainsi, par exemple, l'un de nos modérateurs a dressé une merveilleuse liste de ressources sur l'emplacement des vaccins aux États-Unis, au Canada et même dans le monde. Et je publie un article qui répond aux questions des utilisateurs sur les vaccins, donc j'ai un petit article sur ce que nous savons sur les vaccins. Et dans les commentaires, les utilisateurs peuvent venir poser des questions, et je fais de mon mieux dans les 24 heures pour répondre à l'une de ces questions ou leur dire d'aller parler à leur médecin.

SN : Traiter chaque jour de tristes nouvelles et de gens fous semble mauvais pour la santé mentale. Pourquoi persévérez-vous ?

Rohan : Être capable de simplement s'asseoir et de répondre méthodiquement aux questions sur les vaccins et de répondre aux préoccupations est probablement l'une de mes parties préférées de ce processus. Il y avait une personne qui parlait du fait que sa famille avait des antécédents de problèmes de santé, qu’elle avait peur et qu’elle ne pensait pas qu’elle serait vaccinée. Ils voulaient que quelqu'un leur explique quelques questions. Je me souviens que j'ai fait des allers-retours avec cet utilisateur probablement cinq fois au cours de plusieurs heures ce jour-là. À la fin, ils m'ont dit qu'ils allaient se faire vacciner dès qu'ils seraient admissibles.

Doherty : J'ai vraiment appris à aimer la communauté que j'ai contribué à bâtir. Nous avons beaucoup appris sur ce qu’est la désinformation et ce qui n’est pas de la désinformation. C’est une sorte de compétence acquise. Ce n’est pas que nous soyons parfaits à 100%, mais j’ai juste le sentiment que nous avons un ensemble de compétences unique à ce stade, et il serait mal de s’arrêter. Je me sentirais coupable. Aussi, l'équipe. Les modérateurs sont devenus de bons amis. Nous organisons des hangouts Zoom et des happy hours, et nous plaisantons sur le fait de passer du temps quand tout est fini. Nous sommes devenus un véritable groupe d’amis.

livrés dans votre boîte de réception