Mundo

Un estudio encuentra que los eventos del mundo real despiertan el odio en línea hacia grupos de abuso en línea no relacionados


Los eventos de la vida real, como asesinatos y protestas políticas, pueden conducir a un aumento del discurso de odio en línea dirigido contra grupos aparentemente no relacionados. Los investigadores dicen que el hallazgo podría ayudar a los moderadores en línea a predecir mejor cuándo es probable que se publique contenido de odio y qué deben buscar.

Investigaciones anteriores han relacionado los eventos fuera de línea con picos posteriores en el discurso de odio y los delitos de odio violentos, pero estos estudios se han centrado en gran medida en plataformas moderadas, como Twitter y Facebook (ahora Meta), que tienen políticas para identificar y eliminar este tipo de contenido.

Para comprender mejor los desencadenantes y la relación entre las plataformas convencionales y las menos moderadas, el profesor Yonatan Lobo de la Universidad George Washington en Washington, D.C., y sus colegas utilizaron una herramienta de aprendizaje automático para examinar conversaciones entre usuarios de 1150 comunidades de odio en línea publicadas entre junio de 2019 y Diciembre de 2020. Algunas de estas comunidades estaban en Facebook, Instagram y VKontakte. Otros en las plataformas menos moderadas fueron Gab, Telegram y 4Chan.

Estudio publicado en PLOS ONEY Descubrió que los eventos fuera de línea, como elecciones, asesinatos y protestas, pueden provocar un aumento en la actividad del discurso de odio en línea.

Hubo una correlación directa entre el evento y el tipo de contenido odioso que provocó, pero no siempre. El asesinato del general iraní Qassem Soleimani a principios de 2020 provocó un aumento del contenido islamófobo y antisemita en los días siguientes.

Se desató el mayor aumento en el discurso de odio relacionado con el asesinato de George Floyd y las protestas de Black Lives Matter. El discurso de odio relacionado con la raza aumentó en un 250 % después de estos eventos, pero también hubo una ola general de odio en línea.

“Una de las cosas interesantes de este evento en particular es el aumento [in race-related hate speech] Lobo dijo. “A fines de 2022, la frecuencia de personas que usan un discurso de odio racista contra estas comunidades no ha disminuido a lo que era antes del asesinato de George Floyd.

“La otra cosa interesante es que también parece activar varias otras formas de discurso de odio en línea, donde la conexión con lo que sucede fuera de línea no está clara”.

Por ejemplo, el discurso de odio dirigido a la identidad de género y la orientación sexual, un tema que no está intuitivamente relacionado con los asesinatos y las protestas, aumentó en un 75 %. También ha aumentado el discurso de odio sexista y antisemita, así como el contenido relacionado con el nacionalismo y la raza.

La investigación no ha podido establecer la causalidad, pero sus hallazgos sugieren una relación más compleja entre los eventos desencadenantes y el discurso de odio en línea de lo que se suponía anteriormente.

Un factor podría ser la cantidad de cobertura mediática relacionada con los eventos en cuestión. “Tanto la magnitud como la variedad de las reacciones en línea a los eventos fuera de línea dependen, en parte, de la importancia de esos eventos en otros medios”, dijo Lobo.

Pero sospecha que este no es el único factor. “No podemos decirlo con seguridad, pero creo que hay algo en la forma en que se construye el odio ahora mismo en las sociedades de habla inglesa que tiene un tipo de racismo en su núcleo. Cuando se activa el racismo, si se activa lo suficiente, comienza para salir en todas direcciones.”

Catriona Scholes, directora de conocimientos de la empresa de tecnología contra el extremismo Moonshot, dijo que han notado un patrón similar relacionado con el discurso de odio antisemita.

Por ejemplo, las protestas contra un evento de lectura de cuentos planificado en Columbus, Ohio, en diciembre llevaron a un aumento del odio anti-LGBTQ+, así como a un aumento de las amenazas y la hostilidad hacia la comunidad judía.

“Existe la posibilidad de aprovechar este tipo de datos para pasar de ser reactivos a ser proactivos en la protección de las personas y las comunidades”, dijo Scholes.

Lupu dijo que los equipos de moderación de contenido en las principales plataformas deberían monitorear las plataformas marginales en busca de tendencias emergentes. “Lo que pasa en 4Chan no se queda en 4Chan. Si están hablando de algo en 4Chan, se enviará a Facebook. También sugiere que los equipos de moderación de contenido piensen en lo que está pasando en las noticias y qué podría desencadenarlo, para tratar de preparar su respuesta”.

Una pregunta particularmente importante para futuras investigaciones, dijo, es investigar qué otros tipos de eventos fuera de línea probablemente sean seguidos por una cadena amplia e indiscriminada de odio en línea.



Source link

Publicaciones relacionadas

Botón volver arriba