Perspective, lo strumento di Google contro il cyberbullismo

0
3465

In questi ultimi giorni si parla molto di Cyberbullismo e Google sta dimostrando di prendere molto sul serio l’argomento. Viste le numerose richieste, la società si è data da fare per la realizzazione di uno strumento che possa aiutare e supportare la moderazione del web.

La tecnologia in sviluppo è chiamata Perspective e, in sostanza, funziona grazie al machine learning. La moderazione non è applicata in automatico dal tool di Google, filtrando o bloccando i commenti, ma si tratta più che altro di una sorta di alert che avverte della presenza di commenti offensivi nelle notizie pubblicate sul web. In questo modo verrà semplificato e migliorato il lavoro ordinario di un moderatore umano.

Perspective, come funziona lo strumento di Google contro il cyberbullismo 

Lo strumento è stato inizialmente testato con il portale web New York Times, popolato da numerosissimi commenti da parte degli utenti (alcuni di questi purtroppo negativi e tossici). Lo strumento di Google è servito per avvisare della presenza di tali commenti di natura spiacevole.

Perspective è attualmente uno strumento in fase di rodaggio che ha bisogno dell’aiuto umano e che non è ancora in grado di agire in modo completamente autonomo. Grazie al machine learning, però, questo tool non farà altro che migliorare nel corso del tempo, imparando a riconoscere i commenti dannosi per il web.

Perspective riconosce il mio commento tossico

Il funzionamento dello strumento è stato spiegato nel dettaglio tramite un post sul blog ufficiale di Google. Riassumendo, il concetto chiave di Perspective è uno strumento che, per imparare a identificare un linguaggio potenzialmente dannoso, ha bisogno di esaminare decine di migliaia di commenti etichettati manualmente come tossici da revisori umani. Lo strumento si basa quindi su questi esempi e categorizza come offensivi quelli simili, sotto ovviamente l’attenta osservazione e valutazione di revisori.

A livello tecnico, inoltre, Perspective sfrutta un’API che può interfacciarsi con le maggiori piattaforme web ed essere quindi integrato sulla maggior parte dei siti internet. Potete già provare le sue potenzialità, divertendovi a scrivere commenti tossici a Perspective in lingua inglese, tramite il sito web del progetto.