La IA permite detectar fake news y mensajes de odio en redes sociales

Varios investigadores de la Universitat Politècnica de València (UPV) han creado un sistema basado en Inteligencia Artificial (IA) que ayuda a detectar fake news y mensajes de odio en redes sociales.

MISMIS-FAKEnHATE es el proyecto liderado por el centro Pattern Recognition and Human Language Technology (PRHLT) de la UPV, en el que también participan la UNED, la Universitat de Barcelona y la Policía Local de Valencia. En su fase de prototipo se ha utilizado para localizar mensajes de odio contra mujeres e inmigrantes en redes sociales.

“Los ciudadanos suelen recibir a través de los medios sociales la información que concuerda con sus creencias y puntos de vista, lo que conlleva el riesgo de un aislamiento intelectual”, comenta el investigador de la PRHLT-UPV Paolo Rosso. Además, también ha querido resaltar que “uno de los efectos perversos que provoca esta realidad es que cuando la información corrobora nuestras creencias, tendemos a compartirla sin comprobar su veracidad, lo que facilita la propagación de las fake news”.

Uno de los puntos que favorece la propagación del lenguaje agresivo y de mensajes de odio es el anonimato en las redes sociales, que fomenta la separación en comunidades con opiniones distintas. Anastasia Giachanou, investigadora del PRHLT-UPV, comenta que “se tiende a una escasa argumentación en los contenidos que a menudo se limitan a unos pocos insultos”.

Este proyecto permite identificar fake news a partir de un análisis automático tanto del lenguaje utilizado, como de las emociones que se muestran en ese texto. Los investigadores comentan que es capaz de diferenciar emociones como el miedo, la ira o la sorpresa en información escrita, aunque están comenzando a trabajar también con imágenes con el fin de “identificar la desinformación desde una perspectiva multimodal y multilingüe”.

Para monitorizar las búsquedas, el equipo de la UPV, la UNED y la Universitat de Barcelona, propone utilizar un “enfoque terminológico, extrayendo términos y patrones lingüísticos de odio a partir de conjuntos de datos analizados con anterioridad y monitorizándolos si se emplean en nuevas conversaciones en línea”.