La Germania affila le armi contro l’hate specch e chiama in causa i social network. Il ministro della Giustizia tedesco ha proposto una legge che potrebbe costringere Facebook e i più popolari social network a pagare multe salate se non riuscissero a estirpare dai loro siti la piaga degli hate speech, i discorsi di incitamento all’odio.
Il ministro Heiko Maas ha duramente criticato le iniziative di Facebook per reprimere i post e i commenti xenofobi e razzisti, illegali; ha spiegato che le nuove misure prevedono ammende contro la società responsabili di un massimo di cinquanta milioni in euro. Ha poi sottolineato che la proposta di legge, che avrebbe ancora bisogno dell’approvazione del consiglio dei ministri del cancelliere Angela Merkel e poi del parlamento, arriva dopo alcuni mesi in cui la compagnie sono state autorizzate ad assumere iniziative volontarie. “Queste si sono rivelate insufficienti e i post non sono rimossi abbastanza rapidamente”, ha detto Maas ai giornalisti, citando i dati forniti dall’organo di controllo su internet jugendschutz.net.
I colossi del web si stanno comunque attrezzando per combattere l’hate speech. Twitter, ad esempio, ha sviluppato un algoritmo per smascherare gli account utilizzati per compiere operazioni che vanno contro il codice di condotta di Twitter, come appunto l’hate speech o le molestie, utilizzando un algoritmo. La società utilizza già alcune tecnologie per individuare chi fa un uso improprio della piattaforma, e in ogni caso continuerà a monitorare le segnalazioni che provengono dalla propria rete di utenti. La prospettiva è quella di introdurre nuove limitazioni per gli account “sospetti” che verranno scovati dalla nuova tecnologia, restringendo ad esempio la visibilità dei loro tweet soltanto ai follower, oltre che cancellando o sospendendo i profili.
Anche Google è in campo con l’intelligenza artificiale: il motore di ricerca ha messo a punto una tecnologia testata insieme al New York Times e Wikipedia. Si chiama Perspective e aiuta i media ad individuare i commenti violenti alle notizie online.
Sviluppata , all’interno dell’incubatore di Google Jigsaw, Perspective rivede i commenti e assegna loro un punteggio basato su quanto siano simili a commenti che gli utenti hanno indicato come “tossici” o tali da spingere le persone ad abbandonare la conversazione. Per imparare a identificare un linguaggio potenzialmente ingiurioso, Perspective ha esaminato decine di migliaia di commenti che sono stati etichettati manualmente da revisori umani. Ogni volta che Perspective trova nuovi esempi di commenti potenzialmente offensivi, o la sua valutazione viene corretta dagli utenti, migliora la capacità di valutare i commenti in futuro.
