Una investigadora del Politécnico plantea usar inteligencia artificial para detectar y filtrar discursos de odio en redes sociales.
El Instituto Politécnico Nacional (IPN) planteó la creación del primer Observatorio Digital contra el ciberodio en México, un mecanismo que permitiría medir, analizar y contrarrestar los mensajes de odio en redes sociales mediante herramientas de inteligencia artificial, informó La Jornada.
La propuesta fue presentada por Gina Gallegos García, jefa del Laboratorio de Ciberseguridad del Centro de Investigación en Computación (CIC) del IPN, quien advirtió que el país no cuenta con una instancia que identifique y mida este tipo de interacciones virtuales.
«Es necesario que México oriente sus esfuerzos a la creación del primer Observatorio Digital contra el ciberodio, que permita analizar y contrarrestar este fenómeno», afirmó la especialista, según el comunicado del Politécnico.
Inteligencia artificial para filtrar mensajes de aversión
Gallegos explicó que uno de los principales retos del observatorio sería diseñar aplicaciones informáticas basadas en inteligencia artificial capaces de aplicar filtros para identificar y eliminar mensajes de aversión, en particular los relacionados con creencias, religiones o conflictos raciales.
La investigadora señaló que en países de Europa ya operan observatorios similares, que monitorean distintas plataformas para conocer las causas del fenómeno, impulsar mecanismos de atención y coordinar iniciativas para regular el uso del lenguaje en línea.
Como referencia de la magnitud del problema, citó datos del Observatorio Español del Racismo y la Xenofobia, según los cuales las plataformas solo eliminan el 28.43 por ciento de los contenidos reportados por atacar a grupos específicos.
Un fenómeno alimentado por la polarización
De acuerdo con la experta, la polarización social, política y económica contribuye de manera importante al aumento de los discursos de odio en redes sociales, un espacio donde, dijo, prácticamente no hay reglas y donde quienes difunden estos mensajes son conocidos como «haters» o «trolls».
Medios como Excélsior y la agencia NVM recogieron también su advertencia de que el ciberodio deja secuelas emocionales como estrés, ansiedad y depresión, por lo que urge una respuesta coordinada entre instituciones y sociedad.
La investigadora, integrante del Sistema Nacional de Investigadoras e Investigadores de la Secihti, reconoció los esfuerzos de las empresas tecnológicas para detectar y retirar contenidos de odio, aunque insistió en que México necesita una estrategia propia para enfrentar el problema.
Deja una respuesta