Il problema tecnico dell’incitamento all’odio

18

Succede ogni ventidue minuti. Una denuncia. Una disputa. Un grido di aiuto da qualche parte dell’Unione europea.

I numeri sono davvero sconcertanti.

Appeals Center Europe, l’organismo di vigilanza indipendente creato dal Digital Services Act dell’UE, ha elaborato più di 24,0 paragonandolo al ticchettio dell’orologio: è implacabile. A marzo 2026 avevano gestito oltre 30.000 controversie totali dal lancio.

Le piattaforme dicono che hanno a cuore la sicurezza. Pubblicano linee guida. Fanno video sull’essere “gentili”.

Quindi ignorano le proprie regole.

Nel 70% dei casi di incitamento all’odio esaminati, ACE ha riscontrato che le piattaforme non sono riuscite a rimuovere i contenuti che violavano chiaramente le loro politiche.

Analizziamolo.

Su 1,40 casi in cui ACE ha esaminato attentamente le decisioni di mantenere i contenuti contrassegnati come incitamento all’odio, ha ribaltato la piattaforma quasi sette volte su dieci. Il sistema viene rotto non occasionalmente ma sistematicamente.

Guarda Instagram. Dopo una partita di UEFA Champions League qualcuno ha pubblicato un commento paragonando i calciatori neri alle scimmie. Il razzismo è così schietto che non dovrebbe nemmeno superare i filtri di base. Instagram ha lasciato tutto. ACE non ci ha pensato molto. Hanno forzato l’allontanamento.

YouTube non è molto meglio. Sono comparsi video antisemiti. Inserito da persone che hanno effettivamente influenza in Polonia. Grandi nomi. Il contenuto violava ogni regola sull’incitamento all’odio presente nel libro. YouTube lo ha mantenuto in diretta. ACE ha detto il contrario.

E non è solo questione di razza o religione. Comunità rom? Mirato. Migranti? Attaccato. Persone LGBTQI+? Molestato. C’era persino un deepfake dell’intelligenza artificiale sulla guerra in Ucraina. Falso. Fuorviante. Ha infranto le regole di disinformazione di TikTok, ma TikTok lo ha lasciato lì comunque.

Allora qual è il peggiore delinquente?

TikTok è in testa al gruppo dei fallimenti qui. O dovremmo dire in testa alla lista dei ribaltati?

Ecco quanto è andata male:

  • TikTok: ACE ha annullato l’83% delle sue decisioni relative al mantenimento dei contenuti.
  • Instagram: Seguito da vicino al 74%.
  • Facebook: tasso di ribaltamento del 61%.
  • YouTube: tasso di ribaltamento del 58%.

Non si tratta di errori di arrotondamento. Questo è uno schema. Come afferma il rapporto, queste decisioni rivelano problemi importanti e ricorrenti legati alla moderazione. Non capiscono. Forse non possono. Forse semplicemente non gli importa finché non sono costretti.

Anche gli europei si fanno più rumorosi. La Francia ha inviato il maggior numero di denunce. Belgio e Italia erano subito dietro. Sono stanchi.

Ma l’incitamento all’odio non è l’unico errore commesso dalle piattaforme.

C’era questo fotografo ceco. Facebook lo ha bannato. Nudità adulta citata. Attività sessuale. È stato un malinteso così assurdo da sembrare divertente, tranne per il fatto che la sua carriera potrebbe essere in bilico. Era innocente. L’algoritmo o il revisore hanno mancato completamente il bersaglio.

Thomas Hughes, che gestisce ACE, lo dice semplicemente. Non lo addolcisce.

“L’odio online ha conseguenze nel mondo reale”, ha affermato.

Quando le piattaforme non riescono ad agire, non si tratta solo di un punto dati. È in gioco la sicurezza di qualcuno. Due terzi delle sentenze sull’incitamento all’odio mostrano che le piattaforme non rispettano le proprie politiche.

Ciò dimostra che le piattaforme non sempre lo fanno bene.

A volte non lo fanno mai.