Ante el aumento de mensajes de odio en plataformas digitales, Gina Gallegos García, investigadora del Instituto Politécnico Nacional (IPN), planteó la creación del primer Observatorio Digital contra el Ciberodio en México. La jefa del laboratorio de ciberseguridad del Centro de Investigación en Computación (CIC) destacó la necesidad de un mecanismo que monitoree, analice y combata estos discursos nocivos que afectan especialmente a jóvenes y comunidades vulnerables.
Gallegos García explicó que el ciberodio no se limita al entorno virtual, sino que genera graves secuelas emocionales como ansiedad, depresión y estrés en las víctimas. La especialista con doctorado en Comunicaciones y Electrónica por la ESIME Culhuacán señaló que, aunque algunas plataformas han implementado herramientas de detección, los resultados son limitados: según datos del Observatorio Español del Racismo y la Xenofobia, solo se elimina poco más del 28% del contenido reportado por discriminación o incitación al odio.
El observatorio propuesto buscaría superar estas limitaciones mediante el desarrollo de aplicaciones con inteligencia artificial capaces de identificar y filtrar mensajes de odio de manera más efectiva. La investigadora subrayó que este proyecto requerirá la colaboración de instituciones, sociedad civil, academia y gobierno para lograr un impacto real.
La experta del IPN mencionó que varios países europeos ya cuentan con observatorios especializados que vigilan el comportamiento en redes, analizan las causas estructurales del problema y desarrollan estrategias para contenerlo. Estos modelos servirían como referencia para la iniciativa mexicana, que deberá adaptarse al contexto nacional.
Uno de los principales retos será crear algoritmos que distingan entre libertad de expresión y discursos de odio, un equilibrio complejo que incluso las grandes plataformas tecnológicas no han logrado perfeccionar. Gallegos García reconoció los esfuerzos de las empresas tecnológicas por incorporar herramientas de detección automática, pero insistió en la necesidad de mecanismos más efectivos y coordinados.
El observatorio no solo se enfocaría en la identificación y eliminación de contenido nocivo, sino también en la prevención y educación digital. La investigadora del IPN destacó la importancia de abordar el problema desde sus raíces, comprendiendo los factores sociales y psicológicos que alimentan estos discursos.
Esta propuesta surge en un momento donde los casos de acoso y discriminación en línea han aumentado considerablemente en México, especialmente durante periodos electorales o de polarización social. El observatorio buscaría generar datos confiables sobre el fenómeno, fundamentales para diseñar políticas públicas efectivas y campañas de concientización.
Gallegos García concluyó que combatir el ciberodio requiere una respuesta colectiva y sostenida, donde la tecnología sea una aliada pero no la única solución. La creación de este observatorio representaría un paso importante para proteger los derechos digitales de los mexicanos y fomentar una cultura de respeto en línea.
