Facebook leaks: no ai nudi, sì al linguaggio violento

di Maria Scopece

Moderare un dibattito che dura 24 ore per 365 giorni l’anno in cui i relatori sono circa 2 miliardi di persone non deve essere un compito semplice.

Questo è il lavoro della nuova task force messa in piedi da Facebook per evitare che il social network più frequentato del Mondo si trasformi in una discarica.

QUANTO È DURA LA VITA DEI MODERATORI DI FACEBOOK?

Il Guardian ha messo il naso tra i documenti che dovranno normare la moderazione online dei contenuti postati dagli utenti, i “Facebook Files”. Gli argomenti “caldi” sono i contenuti sessualmente espliciti, la violenza, e la tutela dei minori. I moderatori dovranno muoversi su un crinale scosceso ed evitare di trasformare Facebook nel più grande censore mondiale. Tuttavia, data l’enorme mole di segnalazioni che giungono dagli utenti, nell’ordine di milioni, i 4500 “content moderator” ingaggiati dal social network, ai quali a breve dovrebbero aggiungersene altri 3mila, hanno spesso preso dei granchi. Il caso più famoso riguarda l’iconica foto di Kim Phuk, la ragazzina che fugge nuda dopo un attacco chimico durante la guerra in Vietnam, censurata proprio perché ritrae un minore nudo. I moderatori non hanno più di 10 secondi per singola segnalazione e questo, benché un controllo umano sia l’unico in grado di cogliere le diverse sfumature, non può bastare. Per questo Facebook sta implementando modelli di intelligenza artificiale che dovrebbero facilitare i loro compiti.

LINGUAGGIO VIOLENTO: PERCHÉ È PERMESSO?

Le linee guida di Facebook si rivelano molto permissive nei confronti dell’uso della violenza verbale. “Le persone esprimono spesso il loro sdegno con minacce o ipotizzando azioni violente, in modi di solito non seri e credibili”, c’è scritto nei manuali consegnati ai moderatori. L’intervento di Facebook non ci sarà fino a quando: “le espressioni utilizzate non ci diano elementi sufficienti per concludere che non siano più solamente l’espressione di un sentimento, ma lo spostamento verso un piano concreto”, che preveda il passaggio dalle parole ai fatti. Per questo, secondo Facebook, frasi come “ti ammazzo” o “vaffanculo, muori” non possono essere considerate da subito come una vera e propria minaccia. Non devono temere rimozione nemmeno i video di morti violente, se hanno una rilevanza sociale o aiutano a comprendere problemi legati alla salute mentale e le foto di violenze sugli animali. Persino le dirette video di persone che cercano di farsi male da sole sono ammesse, perché Facebook non vuole censurare le persone in difficoltà e la trasmissione potrebbe essere utile a chi potrebbe essere in grado di aiutare l’autore del video.  A questo bisogna aggiungere che tutti i personaggi pubblici, cioè quelli che hanno pagine con più di 100mila like, hanno ancora minori tutele, e dunque devono risolvere in maniera autonoma i problemi con i “leoni da tastiera”. In questa categoria non rientrano i capi di Stato in quanto personaggi “protetti”, questo significa che frasi come “Qualcuno dovrebbe uccidere Trump” devono essere rimosse.

SESSO: COSA È PERMESSO E COSA È VIETATO?

Le nuove direttive di Facebook in materia di contenuti sessualmente espliciti sono molto stringenti. La nudità è ammessa solo se i caratteri sessuali sono pixellizati e se le attività sessuali, seppure esplicite, non acquisiscono toni pornografici. Questo però non mette del tutto al riparo Facebook da scelte discutibili. Ad esempio nei documenti di Facebook è affermato esplicitamente che non è consentito pubblicare immagini della statua “Il ratto delle sabine” di Giambologna, esposta nelle Loggia dei Lanzi in piazza della Signoria a Firenze.

Discorso a parte meritano i commenti. Il linguaggio vietato è quello che si dilunga in particolari o che utilizza toni violenti. I moderatori dovranno essere capaci di distinguere e salvare dal ban i toni umoristici, i discorsi figurativi o “istruttivi”.

Il tema più scottante, però, non riguarda immagini a contenuto esplicito che gli utenti caricano volontariamente sul social. Il nodo più importante cui trovare soluzione è l’odioso fenomeno del “revenge porn”.  Con questo termine si intende la pubblicazione, di solito su gruppi chiusi, di immagini o video privati senza avere ottenuto il consenso di tutte persone filmate e, di solito, a scopo denigratorio. “Noi rivediamo e miglioriamo costantemente le nostre policy” – dice Monika Bickert, ‎ Capo della global policy di Facebook – “Questi sono temi complessi ma noi siamo determinati a trovare soluzioni”. Per capire l’incidenza del fenomeno basti pensare che i moderatori ricevono circa 54mila segnalazioni di episodi di “revenge porn” al mese, tanto da farne una “hot keys” nei documenti di Facebook. Una delle soluzioni proposte dalle linee guida è valutare le escalation prima della pubblicazione dei contenuti sensibili, ovvero richiesta di soldi o di altre immagini compromettenti. 

VIOLENZA CONTRO I BAMBINI

La tutela dei minori dovrebbe essere uno dei temi più sentito dal social network più popolato del mondo. Invece si possono contare solo pochi accorgimenti proposti da Facebook per la tutela dell’infanzia. Uno di questi è il divieto di iscrizione per i minori di 13anni. Questa regola, però, è facilmente aggirabile semplicemente mentendo ad un portale che non strumenti per controllare la veridicità delle informazione introdotte.

Un altro tema spinoso riguarda video o foto che riprendono violenza nei confronti dei minori. Facebook ha deciso di non rimuovere foto o video che ritraggono violenze, non a sfondo sessuale, nei confronti dei più piccoli perché la loro permanenza in rete potrebbe aiutare le forze dell’ordine nel risalire ai responsabili. “Non interveniamo sulle foto che mostrano abusi verso i bambini. Avvisiamo gli utenti sulla presenza di video sulle violenze che li potrebbero disturbare. Rimuoviamo le immagini di abusi sui bambini se sono condivise con commenti sadici o che esaltano le violenze”, si legge nei documenti. Ed anche per i video che ritraggono episodi di bullismo l’atteggiamento è il medesimo. Ad essere tutelati, invece, sono le persone con disabilità. Pochi mesi fa è stata rimossa una foto che ironizzava su un ragazzo con la sindrome di Down. Il contenuto è stato rimosso, in ottemperanza delle nuove linee guida di Facebook.

IN BREVE: COSA È VIETATO

• Minacce a Capi di Stato
• Immagini di nudo con una permissività particolare per le opere d’arte
• Immagini o video a contenuto pornografico
• Insulti a persone con disabilità

Foto: Andrii Yalanskyi / Shutterstock.com