Google e Jigsaw lanciano Perspective, tecnologia che utilizza il machine learning per identificare i commenti online offensivi

Oggi Google e Jigsaw lanciano Perspective, una tecnologia ancora in fase sperimentale che usa il machine learning per identificare i commenti offensivi.    

Attraverso una API (un’interfaccia di programmazione) gli editori – inclusi i membri della Digital News Initiative -  e le piattaforme possono avere accesso a questa tecnologia e utilizzarla per i propri siti. (Nella foto Jared Cohen, Presidente di Jigsaw).

Perspective consente di controllare più velocemente e in modo più semplice i commenti e assegnare un punteggio individuando quelli “tossici” o tali da spingere le persone ad abbandonare la conversazione.

 Per imparare a identificare un linguaggio potenzialmente ingiurioso, Perspective ha esaminato decine di migliaia di commenti che sono stati etichettati manualmente da revisori umani. Ogni volta che Perspective trova nuovi esempi di commenti potenzialmente offensivi, o la sua valutazione viene corretta dagli utenti, migliora la capacità di valutare i commenti in futuro.

Gli editori possono scegliere cosa fare con le informazioni che ottengono da Perspective. Ad esempio, un editore potrebbe decidere di segnalare i commenti ai propri moderatori in modo che questi li rivedano e decidano se includerli o meno in una conversazione. Oppure, l’editore potrebbe utilizzare questo strumento per aiutare le persone della sua community a capire l’impatto di quanto stanno scrivendo, ad esempio permettendo agli utenti che commentano di vedere il potenziale di “tossicità” dei propri commenti mentre li stanno scrivendo. Ancora, gli editori potrebbero anche permettere ai lettori di ordinare i commenti in base a quanto sono offensivi, facilitando così l’individuazione di conversazioni interessanti nascoste in mezzo a quelle offensive.

La prima versione è stata testata dal ‘New York Times’, che ha un team che controlla e modera ogni commento prima che venga pubblicato, revisionando oltre 11mila commenti ogni giorno. Così tanti che il ‘Times’ ha deciso di offrire la possibilità di commentare solo il 10% circa dei suoi articoli.

Perspective si aggiunge alla libreria Open Source di TensorFlow e alla Google Cloud Machine Learning Platform come un' ulteriore risorsa di machine learning che Google rende disponibile per gli sviluppatori.