El problema del discurso de odio

21

Sucede cada veintidós minutos. Una queja. Una disputa. Un grito de ayuda desde algún lugar de la Unión Europea.

Las cifras son realmente asombrosas.

El Centro de Apelaciones de Europa, el organismo de control independiente creado por la Ley de Servicios Digitales de la UE, procesó más de 24,0 en comparación con un reloj que es implacable. En marzo de 2026, habían manejado más de 30.000 disputas en total desde su lanzamiento.

Las plataformas dicen que se preocupan por la seguridad. Publican pautas. Hacen videos sobre ser “amable”.

Luego ignoran sus propias reglas.

En el 70% de los casos de incitación al odio revisados, ACE encontró que las plataformas no eliminaban contenido que claramente violaba sus políticas.

Analicemos eso.

De 1,40 casos en los que ACE analizó de cerca las decisiones de mantener contenidos marcados como discurso de odio, anularon la plataforma casi siete de cada diez veces. El sistema se rompe no ocasionalmente sino sistemáticamente.

Mira Instagram. Después de un partido de la Liga de Campeones de la UEFA, alguien publicó un comentario comparando a los futbolistas negros con monos. Un racismo tan contundente que ni siquiera debería pasar filtros básicos. Instagram lo dejó arriba. ACE no pensó mucho en eso. Forzaron el traslado.

YouTube no es mucho mejor. Aparecieron vídeos antisemitas. Publicado por personas que realmente tienen influencia en Polonia. Grandes nombres. El contenido violaba todas las reglas de discurso de odio establecidas en el libro. YouTube lo mantuvo vivo. ACE dijo lo contrario.

Y no se trata sólo de raza o religión. ¿Comunidades romaníes? Dirigido. ¿Migrantes? Atacado. ¿Personas LGBTQI+? Acosado. Incluso hubo un deepfake de IA sobre la guerra en Ucrania. FALSO. Engañoso. Rompió las reglas de desinformación de TikTok, pero TikTok lo dejó ahí de todos modos.

Entonces, ¿cuál es el peor infractor?

TikTok lidera el grupo de fracasos aquí. ¿O deberíamos decir que encabeza la lista de los que serán anulados?

Esto es lo mal que se puso:

  • TikTok: ACE anuló el 83% de sus decisiones de mantener contenido.
  • Instagram: Seguido de cerca con un 74%.
  • Facebook: Tasa de reversión del 61%.
  • YouTube: Tasa de anulación del 58%.

Estos no son errores de redondeo. Este es un patrón. Como dice el informe, estas decisiones revelan problemas destacados y recurrentes con moderación. No lo entienden. Quizás no puedan. Tal vez simplemente no les importe hasta que los obliguen.

Los europeos también se están volviendo más ruidosos. Francia envió la mayor cantidad de quejas. Bélgica e Italia estaban justo detrás. Están cansados.

Pero el discurso de odio no es el único error que cometen las plataformas.

Había un fotógrafo checo. Facebook lo prohibió. Citó desnudez de adultos. Actividad sexual. Fue un malentendido tan absurdo que resulta gracioso, excepto que su carrera podría estar en juego. Era inocente. El algoritmo o el revisor fallaron por completo.

Thomas Hughes, que dirige ACE, lo expresó de forma sencilla. No lo endulza.

“El odio en línea tiene consecuencias en el mundo real”, afirmó.

Cuando las plataformas no actúan, no se trata sólo de un dato. Es la seguridad de alguien lo que está en juego. Dos tercios de los fallos sobre incitación al odio muestran que las plataformas no cuentan con sus propias políticas.

Esto demuestra que las plataformas no siempre lo hacen bien.

A veces nunca lo hacen.