El lanzamiento de HODIO, la nueva “Huella del Odio y la Polarización” impulsada por el Gobierno, ha abierto un debate que va mucho más allá de la intención declarada de combatir la toxicidad en internet. En una tertulia televisiva, un abogado especializado en derecho digital y protección de datos resumió la preocupación central: el problema no es solo medir, sino quién define qué es odio, con qué criterios y con qué garantías para evitar que la herramienta termine convirtiéndose en un sistema de señalamiento o vigilancia política.
Qué es HODIO y qué pretende hacer
HODIO se presenta como un sistema para medir de forma sistemática la presencia y la propagación de mensajes de odio y polarización en plataformas digitales, con el objetivo de publicar resultados y “obligar a rendir cuentas” a las redes sociales sobre cómo actúan frente a esos contenidos. La iniciativa se enmarca en una estrategia más amplia de presión regulatoria a las grandes plataformas, según explicó el propio Pedro Sánchez.
El Pais detalla que se aplicará sobre redes de uso masivo en España (Instagram, TikTok, X, YouTube y Facebook) y que generará rankings públicos para visibilizar qué plataformas concentran más contenido problemático.
La crítica de fondo: medir no es lo mismo que juzgar
El experto en derecho digital entrevistado plantea un punto delicado: una cosa es analizar tendencias agregadas y otra muy distinta “determinar” qué mensajes son odio, quién polariza y, sobre todo, asociarlo a personas concretas. La preocupación es transversal: no solo por el gobierno actual, sino por el precedente que deja para cualquier gobierno futuro.
En paralelo, la propia lógica política complica el asunto: el “odio” casi siempre lo ve el rival en el adversario. Por eso, la demanda principal de los críticos no es que no se mida, sino que el método sea transparente, auditado y con límites claros.
Delito de odio y “mensajes odiosos” no son lo mismo
Una parte clave del debate es jurídico. En España existe el delito de odio tipificado en el artículo 510 del Código Penal, que castiga, entre otras conductas, la incitación pública al odio, hostilidad, discriminación o violencia contra grupos protegidos por motivos como raza, religión, origen nacional, sexo, orientación o identidad sexual, discapacidad, etcétera.
La crítica que se escucha estos días insiste en separar dos planos:
- Lo ilegal (delitos: odio tipificado, amenazas, acoso, injurias, etc.)
- Lo desagradable u ofensivo pero amparado por la libertad de expresión, siempre que no cruce el umbral penal
Esa frontera es la que, según los juristas más críticos, debe quedar blindada para que una herramienta de medición no termine empujando a una “censura por etiqueta”.
Protección de datos: la pregunta que puede marcar el futuro de HODIO
El punto más sensible es el tratamiento de datos personales. Si un sistema recopila publicaciones y las vincula a cuentas, está tratando datos. Si además clasifica, puntúa o crea “perfiles” de usuarios, el nivel de exigencia legal y de garantías sube, porque entra en terrenos especialmente delicados (perfilado, decisiones automatizadas, posibles efectos sobre derechos fundamentales).
Aquí se mezcla otra cuestión: HODIO se implementará a través de OBERAXE (Observatorio Español del Racismo y la Xenofobia), que depende del Ministerio de Inclusión y que lleva años con monitorización diaria del discurso de odio en redes, además de herramientas como Alertodio para registro y recogida de contenidos.
Esa experiencia previa existe, pero la novedad está en el salto de escala y en el carácter público y comparativo del sistema (rankings), que aumenta la presión social y política sobre el “quién” y el “cómo” de la clasificación.
Valencia en el foco: la UPV y la monitorización tecnológica
El debate tiene una derivada valenciana directa: la Universitat Politècnica de Valencia ha trabajado en proyectos de apoyo a la monitorización del discurso de odio en redes, desarrollando herramientas de recogida de datos y análisis en colaboración con OBERAXE.
Además, el propio ecosistema institucional ya utiliza soluciones basadas en inteligencia artificial para detectar y gestionar contenidos, como FARO, impulsado por el entorno de OBERAXE.
Qué garantías piden los críticos para que no se convierta en una “herramienta peligrosa”
En el debate público se repiten varias exigencias que, si se aplican, pueden marcar la diferencia entre una herramienta útil y un problema serio:
- Metodología pública y auditable: qué se mide, con qué categorías y con qué ejemplos
- Separación estricta entre análisis agregado y señalamiento individual
- Supervisión independiente: comité externo, evaluación periódica y publicación de errores
- Límites al perfilado: evitar clasificaciones que puedan derivar en listas, sanciones indirectas o estigmas
- Coordinación y control en protección de datos: claridad sobre base legal, minimización de datos y salvaguardas
El choque real: plataformas, algoritmos y negocio
Más allá del marco legal, HODIO llega con una idea incómoda de fondo: el odio y la polarización generan interacción, y la interacción se monetiza. Reuters recoge que Sánchez comparó la medición con una “huella de carbono”, sugiriendo que lo que se visibiliza obliga a asumir responsabilidad.
El Pais añade que el Gobierno incluso ha deslizado la intención de actuar contra la “amplificación algorítmica” del odio, un terreno explosivo porque toca el corazón del modelo de recomendación de las plataformas.
Qué pasa ahora
A corto plazo, el debate se jugará en dos frentes: el técnico (criterios, transparencia, auditoría) y el jurídico (protección de datos, límites al perfilado y garantías). La herramienta puede servir para evidenciar el comportamiento de las plataformas frente al odio, pero su aceptación social dependerá de algo muy concreto: que medir no se convierta en etiquetar, y que combatir lo ilegal no termine estrechando lo legítimo.
