Los investigadores han desarrollado una nueva forma de detectar automáticamente el discurso de odio en las plataformas de redes sociales de manera más precisa y consistente utilizando un nuevo modelo de aprendizaje multitarea (MTL);un tipo de modelo de aprendizaje automático que funciona en múltiples conjuntos de datos.

La difusión de discursos de odio abusivos en línea puede profundizar las divisiones políticas y marginar agrupos vulnerables, debilitar la democracia y desencadenar daños en el mundo real, incluido un mayor riesgo de terrorismo interno.

El profesor asociado Marian-Andrei Rizoiu, jefe del Laboratorio de Ciencias de Datos del Comportamiento de la Universidad Tecnológica de Sydney (UTS), está trabajando en primera línea en la lucha contra la desinformación y el discurso de odio en línea.Suinvestigación interdisciplinariacombina ciencias informáticas y sociales para comprender y predecir mejor la atención humana en el entorno en línea, incluidos los tipos de discurso que influyen y polarizan la opinión en los canales digitales.

"A medida que las redes sociales se convierten en una parte importante de nuestra vida diaria, la identificación automática de contenidos que incitan al odio y abusivos es vital para combatir la difusión de contenidos nocivos y prevenir suefectos dañinos", dijo el profesor asociado Rizoiu.

"Diseñar una detección automática eficaz del discurso de odio es un desafío importante. Los modelos actuales no son muy eficaces para identificar todos los diferentes tipos de discurso de odio, incluidos el racismo, el sexismo, el acoso, la incitación a la violencia y el extremismo.

"Esto se debe a que los modelos actuales se entrenan sólo en una parte de unconjunto de datosy probado en el mismo conjunto de datos.Esto significa que cuando se enfrentan a datos nuevos o diferentes, pueden tener dificultades y no desempeñarse de manera consistente".

El profesor asociado Rizoiu describe el nuevo modelo en el artículo: "Generalización de la detección del discurso de odio mediante el aprendizaje multitarea: un estudio de caso de figuras públicas políticas", publicado enHabla y lenguaje por computadora, con coautor y UTS Ph.D.candidato Lanqin Yuan.

Un modelo de aprendizaje multitarea puede realizar múltiples tareas al mismo tiempo y compartir información entre conjuntos de datos.En este caso, se entrenó en ocho conjuntos de datos sobre discursos de odio de plataformas como Twitter (ahora X), Reddit, Gab y el foro neonazi Stormfront.

Luego, el modelo MTL se probó en un conjunto de datos único de 300.000 tuits de 15 figuras públicas estadounidenses, como ex presidentes, políticos conservadores, teóricos de la conspiración de extrema derecha, expertos de los medios y representantes de izquierda percibidos como muy progresistas.

El análisis reveló que los tweets abusivos y llenos de odio, que a menudo presentan misoginia e islamofobia, provienen principalmente de personas de derecha.En concreto, de 5.299 publicaciones abusivas, 5.093 fueron generadas por figuras de derecha.

"El discurso de odio no es fácilmente cuantificable como concepto. Se encuentra en un continuo con el discurso ofensivo y otroscontenido abusivocomo la intimidación y el acoso", afirmó Rizoiu.

Las Naciones Unidas definen el discurso de odio como "cualquier tipo de comunicación oral, escrita o de comportamiento que ataque o utilice lenguaje peyorativo o discriminatorio respecto de una persona o un grupo en función de quiénes son", incluida su religión, raza, género u otra identidad.factor.

El modelo MTL fue capaz de separar los abusos de losdiscurso de odioe identificar temas particulares, incluidos el Islam, las mujeres, la etnia y los inmigrantes.

Más información:Lanqin Yuan et al, Generalización de la detección del discurso de odio mediante el aprendizaje multitarea: un estudio de caso de figuras públicas políticas,Habla y lenguaje por computadora(2024).DOI: 10.1016/j.csl.2024.101690