IAB Forum 2018. Bartoletti: "Algoritmi trasparenti e approccio multidisciplinare per un'Intelligenza Artificiale senza pregiudizi"

Ha fatto scalpore la notizia che un software utilizzato da Amazon per la ricerca del personale avesse selezionato soltanto uomini. Tuttavia, se non si monitora con attenzione con quali parametri e con quali valori si alimentano le macchine, il rischio che episodi di questo tipo possano diventare ricorrenti non è remoto. A mettere in guardia la platea di IAB Forum a riguardo è stata Ivana Bartoletti, Head of Privacy and Data Protection at Gemsery, Media Commentator & Founder Women Leading in AI Network, che sta lavorando per far sì che le donne partecipino allo sviluppo dell'Intelligenza Artificiale, al fine di evitare il rischio di discriminazione di genere da parte dei software.

"Dobbiamo fare in modo che attraverso l'Intelligenza Artificiale non si traducano gli stereotipi in pregiudizi - ha affermato a Bartoletti - . Si tratta di un tema molto delicato, che non deve essere sottovalutato, perché potrebbero esserci delle conseguenze anche gravi. Non possiamo rischiare che uno strumento così innovativo e dalle enormi potenzialità si trasformi in un ulteriore mezzo discriminatorio, non soltanto nei confronti delle donne, ma anche di particolari etnie o orientamenti religiosi".

A questo proposito, Bartoletti conferma la necessità di un approccio multidisciplinare all'argomento. "E' necessario coinvolgere una pluralità di voci nella messa a punto degli algoritmi che governano l'AI - ha spiegato la manager - . Si tratta di un cambiamento che dobbiamo governare con intelligenza".

Il primo passo, è comprenderne la portata. "Dobbiamo investire per spiegare la trasformazione che sta avvenendo non solo agli addetti ai lavori, ma a tutti i cittadini italiani - ha dichiarato Bartoletti - . Il dibattito relativo all'etica del digitale deve essere portato avanti in tutte le sedi consone, per convogliare maggiore attenzione sul tema".

L'obiettivo da raggiungere è la totale trasparenza degli algoritmi. "I parametri e i dati utilizzati devono essere chiari. In breve, ciò che dovremmo ottenere è un Algorithm Impact Assessment. Poter contare su un Ente regolatore in grado di controllare che tutto avvenga nel rispetto delle procedure corrette sarebbe un ulteriore passo avanti per evitare che l'Intelligenza Artificiale invece che proiettarci nel futuro ci faccia ripiombare in un passato governato dai pregiudizi". 

Serena Piazzi