🎁 ¡Ofertas Amazon! ¡Descuentos del 10 al 16 de marzo en Echo, Kindle, Fire TV, Ring y más! [ Saber más ]
El Gobierno de España ha anunciado la puesta en marcha de HODIO (Huella del Odio y la Polarización), una nueva herramienta tecnológica diseñada para medir la presencia de discursos de odio en redes sociales y analizar cómo se difunden en estas plataformas.
El sistema, presentado por el presidente del Gobierno, Pedro Sánchez, durante el I Foro contra el Odio, pretende identificar tendencias de polarización en internet y evaluar hasta qué punto las plataformas digitales están actuando para moderar este tipo de contenidos.
🎁 ¡Ofertas Amazon! ¡Descuentos del 10 al 16 de marzo en Echo, Kindle, Fire TV, Ring y más! [ Saber más ]
La iniciativa forma parte de la estrategia del Ejecutivo para analizar el impacto social de las redes y exigir mayor responsabilidad a las empresas tecnológicas, especialmente en el contexto de debates cada vez más intensos sobre desinformación, polarización y discurso de odio en internet.
Una herramienta basada en inteligencia artificial y revisión humana
HODIO no es un sistema completamente automatizado. Según la información disponible, su funcionamiento se basa en un modelo híbrido que combina inteligencia artificial con revisión humana.
Por un lado, los algoritmos analizan grandes volúmenes de mensajes publicados en redes sociales para detectar patrones asociados a discurso de odio, racismo, xenofobia o polarización política. Estos sistemas permiten identificar tendencias, palabras clave o dinámicas de amplificación del contenido.
Sin embargo, los resultados no se publican directamente. Un equipo de analistas revisa los datos generados por la IA para validar los resultados y reducir errores, algo especialmente importante dado que los sistemas automáticos pueden interpretar mal el contexto o el tono de los mensajes.
El objetivo final es elaborar informes periódicos sobre el estado del discurso en redes sociales, evaluando tanto el volumen de mensajes como la forma en que se propagan dentro de cada plataforma.
El origen de HODIO: la evolución del sistema FARO
Aunque ha sido presentado como una nueva herramienta, HODIO en realidad es la evolución de un sistema previo llamado FARO (Filtrado y Análisis de Odio en Redes Sociales).
FARO fue lanzado en 2024 por el Observatorio Español del Racismo y la Xenofobia (OBERAXE), organismo dependiente del Ministerio de Inclusión, Seguridad Social y Migraciones.
Este sistema permitía a analistas monitorizar conversaciones públicas en redes sociales y generar informes sobre el impacto del discurso de odio en España.
Entre los datos publicados en los informes de FARO se encontraban estadísticas como:
- Un 35% del discurso de odio dirigido a personas del norte de África
- Un 24% dirigido a africanos y personas afrodescendientes
- Un 2% dirigido a personas latinoamericanas
- Apenas 0,31% dirigido a personas europeas
Además, los estudios también analizaban la respuesta de las plataformas a las denuncias de contenido ofensivo. En algunos informes se señalaba que X (antes Twitter) no retiraba el 86% del contenido reportado, frente a un 31% retirado por TikTok o un 51% eliminado por Instagram.
HODIO amplía las capacidades de este sistema para generar análisis más frecuentes y más detallados.
Informes más frecuentes y ranking de redes sociales
Una de las principales novedades del nuevo sistema es la periodicidad de los informes. Mientras que FARO publicaba informes anuales, HODIO elaborará informes semestrales para seguir de forma más cercana la evolución del discurso en internet.
Además, el sistema podría incluir nuevas métricas, como:
- Nivel de prevalencia del discurso de odio
- Capacidad de amplificación de mensajes polarizantes
- Respuesta de las plataformas ante contenidos denunciados
Estas métricas podrían derivar en clasificaciones o rankings de redes sociales, lo que permitiría comparar cómo gestiona cada plataforma este tipo de contenido.
El Gobierno considera que estos análisis ayudarán a evaluar si las empresas tecnológicas están cumpliendo con sus responsabilidades en la moderación de contenido.
La tecnología detrás del sistema: origen en LaLiga
Uno de los aspectos más curiosos de HODIO es que parte de su tecnología tiene su origen en el mundo del fútbol.
El sistema FARO —y por extensión HODIO— se basa en una herramienta desarrollada por LaLiga llamada MOOD (Monitor de Observación de Odio en el Deporte).
MOOD fue creada en 2023 para detectar mensajes racistas o insultos dirigidos a jugadores, árbitros y clubes en redes sociales.
Gracias a este sistema, LaLiga ha podido:
- Monitorizar el volumen de insultos contra futbolistas
- Detectar campañas coordinadas de odio
- Generar informes para campañas de sensibilización
En 2024, LaLiga cedió esta tecnología al Ministerio de Inclusión mediante un acuerdo de colaboración de tres años (prorrogables a cuatro). Con esta base tecnológica se desarrolló FARO y, posteriormente, HODIO.
Un sistema en medio del debate sobre moderación en redes
El lanzamiento de HODIO llega en un contexto de tensión entre gobiernos europeos y algunas plataformas digitales, especialmente tras los cambios en las políticas de moderación de contenido en X, la red social propiedad de Elon Musk.
Desde que Musk adquirió la plataforma en 2022, X ha adoptado una política más permisiva respecto a la publicación de contenidos, defendiendo una mayor libertad de expresión y limitando la eliminación de mensajes a casos claramente ilegales.
Esta postura ha generado críticas por parte de varios gobiernos europeos, que consideran que las redes sociales deberían intervenir más activamente contra el discurso de odio y la desinformación.
El propio Pedro Sánchez ha criticado en varias ocasiones la gestión de X, llegando a afirmar que es necesario “combatir la IA del mal con IA para el bien”, en referencia al uso de inteligencia artificial para moderar contenidos.
¿Puede convertirse en una herramienta de censura?
El anuncio de HODIO también ha generado debate en redes sociales y entre expertos en regulación digital.
Algunos críticos temen que el sistema pueda utilizarse para justificar medidas de control sobre las plataformas o incluso limitar la libertad de expresión, dependiendo de cómo se defina el concepto de “discurso de odio”.
El Gobierno ha respondido a estas críticas asegurando que el sistema se desarrollará con:
- Transparencia metodológica
- Rigor académico
- Respeto a los derechos fundamentales
Además, las autoridades han insistido en que HODIO no identifica a usuarios individuales, sino que analiza tendencias generales en las plataformas.
El papel de la Unión Europea y la Ley de Servicios Digitales
Otro factor clave en el desarrollo de este tipo de herramientas es la legislación europea.
La regulación del comportamiento de las plataformas digitales está marcada por la Ley de Servicios Digitales (DSA) de la Unión Europea, que establece obligaciones para las grandes plataformas en materia de moderación de contenidos y transparencia algorítmica.
Esto significa que cualquier medida que adopte el Gobierno español para sancionar o regular a las redes sociales deberá ajustarse al marco legal europeo.
De hecho, en ocasiones recientes las instituciones europeas han recordado a los Estados miembros que las políticas digitales deben coordinarse a nivel comunitario, evitando iniciativas nacionales que puedan entrar en conflicto con la normativa europea.
Una nueva etapa en la vigilancia del discurso online
Con HODIO, España se suma a la tendencia internacional de utilizar inteligencia artificial para analizar el comportamiento en redes sociales.
Aunque el sistema no tiene capacidad para censurar directamente contenidos, sí puede convertirse en una herramienta influyente al generar informes que presionen a las plataformas para reforzar sus políticas de moderación.
En los próximos años será clave observar cómo evoluciona esta tecnología, qué datos publica y hasta qué punto influye en la relación entre gobiernos, empresas tecnológicas y usuarios de internet.