Citynews lancia il moderatore AI per uno spazio commenti senza insulti

L’intelligenza artificiale sta rivoluzionando numerosi settori, offrendo strumenti capaci di supportare attività complesse e anche il mondo dell’editoria sta vivendo questa trasformazione. Le redazioni stanno progressivamente integrando soluzioni tecnologiche avanzate non solo per l’elaborazione dei contenuti, ma anche per la gestione delle interazioni con i lettori.

Uno degli ambiti più delicati in cui l’AI può fare la differenza è la moderazione dei commenti online, un’attività fondamentale per mantenere un ambiente di discussione sano e costruttivo, ma che richiede tempo, attenzione e risorse. In un contesto in cui il volume di interazioni cresce in maniera esponenziale, l’AI rappresenta un alleato prezioso per garantire il rispetto delle regole del confronto civile, senza rinunciare alla libertà di espressione.

“Sulle nostre 57 testate vengono pubblicati circa 150 mila commenti al mese da moderare ed è ormai naturale pensare al supporto dell’AI per lavorare volumi così grandi di contenuti. Con algoritmi sempre più sofisticati – dichiara Luca Lani, CEO di Citynews –, questi strumenti sono in grado di riconoscere linguaggi offensivi, insulti mascherati, contenuti discriminatori o messaggi che minano il rispetto reciproco. L’obiettivo non è sostituire il giudizio umano, ma affiancare i giornalisti, liberandoli dal peso della gestione quotidiana di migliaia di commenti e consentendo loro di concentrarsi sulla qualità editoriale e sulla relazione con la propria comunità”.

Le testate Citynews sono tra i pochi giornali ad aver mantenuto, negli anni, un proprio spazio commenti nelle app: una decisione molto apprezzata ma complessa da gestire e resa sempre più complicata dall’alto volume di commenti e dalla presenza, seppur minoritaria, di messaggi inaccettabili per tono e contenuti. L'intelligenza artificiale, ora, è un valido alleato.

Per affrontare questa sfida e garantire un ambiente di confronto civile, Citynews ha deciso di compiere un passo avanti: l’introduzione di un sistema di moderazione dei commenti basato sull’intelligenza artificiale.

In grado di riconoscere un commento offensivo anche solo da una semplice iniziale, analizzando il contesto (es. “Il commento è incompleto ma contiene l’inizio di un insulto potenzialmente offensivo”) fino alle più classiche moderazioni (es. “Il commento contiene espressioni volgari e offensive” – “Il commento contiene insulti generici che possono essere considerati offensivi”), sviluppata con risorse professionali e tecniche dedicate, questa tecnologia è in grado di individuare automaticamente contenuti discriminatori, volgari o incitanti all’odio.

L’obiettivo non è censurare il dissenso, ma tutelare la libertà di espressione nel rispetto delle persone e delle regole del buon senso e della civile convivenza.

“Durante la fase di test – conclude Lani –, il sistema ha dimostrato un'elevata capacità di rilevamento anche nei casi più insidiosi, come insulti camuffati, doppi sensi volgari o commenti che minimizzano episodi gravi. Il sistema è in costante evoluzione, e il contributo dei lettori resta fondamentale: eventuali errori di moderazione potranno essere segnalati, permettendo così di raffinare ulteriormente il sistema”.

L’integrazione dell’AI a supporto del lavoro redazionale, rappresenta dunque una scelta necessaria per preservare il valore dello spazio commenti come luogo di dialogo, scambio e partecipazione consapevole. Con questa iniziativa, Citynews rinnova il suo ruolo non solo come fonte di informazione, ma anche come punto di riferimento per una comunità viva, pluralista e rispettosa.