Facebook era ben consapevole del discorso di odio in India, non è riuscito a contenere sulla piattaforma: Rapporti

Facebook era ben consapevole del discorso di odio in India, non è riuscito a contenere sulla piattaforma: Rapporti

Facebook era ben consapevole che sul suo sito in India si stavano diffondendo discorsi di odio che potevano esacerbare la violenza etnica, e non ha dispiegato risorse per frenare il fenomeno, hanno riferito i media statunitensi, citando documenti interni.

I cosiddetti Facebook Papers, trapelati dal whistleblower Frances Haugen, hanno già rivelato l’impatto di Facebook – così come di WhatsApp e Instagram, entrambi di sua proprietà – sulla profonda polarizzazione della politica negli Stati Uniti e sulla salute mentale di alcuni adolescenti.

Ma ci sono state a lungo preoccupazioni sull’impatto del social network nella diffusione di discorsi d’odio che alimentano la violenza nel mondo in via di sviluppo, come il massacro della minoranza Rohingya in Myanmar.

Questo fine settimana il Wall Street Journal, il New York Times e il Washington Post, tra gli altri, si sono concentrati sulla presenza di Facebook in India, il più grande mercato per la società statunitense e il suo servizio di messaggistica WhatsApp in termini di utenti.

Un rapporto degli stessi ricercatori dell’azienda del luglio 2020 ha mostrato che la quota di contenuti infiammatori è salita alle stelle a partire dal dicembre 2019.

“Voci e inviti alla violenza si sono diffusi in particolare sul servizio di messaggistica WhatsApp di Facebook alla fine di febbraio 2020”, quando gli scontri tra la maggioranza indù e la minoranza musulmana hanno lasciato decine di morti, ha riportato il Wall Street Journal.

Facebook aveva anche già nel febbraio 2019 creato un account fittizio, quello di una donna di 21 anni nel nord dell’India, per capire meglio l’esperienza degli utenti, ha riferito il Washington Post, citando un memo interno.

L’account seguiva post, video e account raccomandati da Facebook, ma un ricercatore dell’azienda ha scoperto che promuoveva un torrente di contenuti falsi e infiammatori.

“Ho visto più immagini di persone morte nelle ultime tre settimane di quante ne abbia viste in tutta la mia vita”, i media hanno citato lo staffer in un rapporto di 46 pagine tra i documenti rilasciati da Haugen.

“Presto, senza alcuna direzione da parte dell’utente, l’account di Facebook è stato inondato con propaganda pro-Modi e discorsi di odio anti-musulmano”, ha riferito il Washington Post. Il primo ministro Narendra Modi, un nazionalista indù, stava facendo campagna per la rielezione in quel momento.

Il test ha anche coinciso con il lancio da parte dell’India di un attacco aereo sul Pakistan per un attentato suicida di militanti nella regione contesa del Kashmir.

Il ricercatore senza nome ha definito quell’esperienza un “incubo di integrità”.

Il contenuto faceva affermazioni sciovinistiche sugli attacchi aerei dell’India e includeva immagini grafiche.

Queste includevano un’immagine di un uomo che teneva una testa mozzata e usava un linguaggio che insultava i pakistani e i musulmani come “cani” e “maiali”, hanno detto i rapporti.

Cattivi attori, regimi autoritari

“Facebook ha studiato meticolosamente il suo approccio all’estero – ed era ben consapevole che una moderazione più debole nei paesi non anglofoni lascia la piattaforma vulnerabile agli abusi da parte di attori cattivi e regimi autoritari”, ha continuato il Post, citando i documenti interni.
I documenti hanno mostrato che la stragrande maggioranza del budget della società dedicato alla lotta contro la disinformazione è destinato agli Stati Uniti – anche se gli utenti lì rappresentano meno del 10% degli utenti di Facebook in tutto il mondo.

“Abbiamo investito in modo significativo nella tecnologia per trovare i discorsi di odio in varie lingue, tra cui Hindi e Bengali”, ha detto un portavoce di Facebook in un comunicato.

“Come risultato, abbiamo ridotto la quantità di hate speech che le persone vedono della metà quest’anno. Oggi, è sceso allo 0,05%”. La cifra è una percentuale di contenuti in tutti i paesi.

L’azienda ha detto che stava “espandendo” le sue operazioni in nuove lingue. Ha “classificatori di discorsi d’odio” che lavorano in Hindi, Bengali, Tamil e Urdu.

Più di 40 gruppi per i diritti civili hanno avvertito l’anno scorso che Facebook non è riuscito ad affrontare i contenuti pericolosi in India.

Un dirigente di Facebook India si è dimesso nel 2020 dopo essere stato accusato di essersi rifiutato di applicare le politiche di discorso di odio al partito nazionalista indù al potere e anche di aver condiviso un post anti-musulmano.

“I discorsi d’odio contro i gruppi emarginati, compresi i musulmani, sono in aumento a livello globale. Quindi stiamo migliorando l’applicazione”, ha detto il portavoce.