Gruppo Brandtech lancia la prima soluzione per la creazione di una politica etica sull'IA generativa

Il Gruppo Brandtech, azienda impegnata nel marketing, ha presentato una serie di iniziative per promuovere e definire i limiti dell'uso etico dell'IA generativa. Tra queste, un progetto per la creazione di una politica etica sull'IA generativa e una tecnologia proprietaria che affronta i possibili pregiudizi insiti nei foundation models, chiamata "Bias Breaker".
 
Ciò evidenzia l'impegno di Brandtech nel fornire l’Intelligenza Artificiale Generativa in modo responsabile ed etico, in tre aree chiave: i talenti che assume, promuove e forma, la tecnologia che costruisce e i servizi che offre. Riflette anche la profonda esperienza che l'azienda ha maturato nella fornitura di servizi di Gen AI in maniera scalabile ai propri clienti a partire dal 2018, consentendole di essere leader del settore in quest'area.
 
Rebecca Sykes, Partner del Gruppo Brandtech e responsabile delle tecnologie emergenti, afferma: "In qualità di early adopter, abbiamo la responsabilità di guidare il mercato. Riteniamo che tutte le aziende che utilizzano l'intelligenza artificiale debbano impegnarsi nello stabilire per quali scopi la utilizzeranno e per quali no, ed essere trasparenti al riguardo. Ci impegniamo a partecipare attivamente alla definizione di un futuro più responsabile ed etico, per quanto riguarda l’utilizzo dell'IA nel marketing e nella pubblicità".
 
Dopo oltre un anno di sviluppo, il Bias Breaker di Brandtech è ora attivo e integrato in Pencil, la piattaforma di marketing AI generativa numero uno del settore, di proprietà del gruppo Brandtech. Pencil ha già creato oltre 1 milione di annunci per più di 5.000 brand da quando è stata introdotta sul mercato nel 2018, con una spesa media di 1 miliardo di dollari che è passata attraverso di essa, consentendole di anche fare previsioni sulle performance degli asset realizzati.
 
La ricerca di Brandtech, solo per citare un esempio dei molti tipi di pregiudizi, ha scoperto che i principali foundation models continuano a generare immagini di uomini per il 98-100% quando viene richiesto "CEO", con la maggior parte delle sovraindicizzazioni per gli amministratori delegati di sesso maschile (o che sembrano tali) rispetto alla realtà.
 
La ricerca ha evidenziato una significativa distorsione. Due dei modelli hanno mostrato il 100% di immagini maschili in 100 generazioni quando è stata richiesta l'immagine di amministratori delegati. Un altro modello ha dato risultati al 98% maschile, mentre altri due hanno proposto CEO di sesso maschile nell'86% e nell'85% dei casi; una situazione migliore, anche se tutt'altro che paritaria. Lo studio Women in the Workplace di McKinsey dello scorso anno ha evidenziato che il 28% dei ruoli C-suite era ricoperto da donne e che il 10,4% dei CEO delle aziende Fortune 500 era di sesso femminile.
 
La tecnologia proprietaria Bias Breaker aggiunge alle richieste un livello di inclusività basato sulle probabilità. Brandtech ha configurato alcuni degli elementi più comuni della diversità che, in questa iterazione di Bias Breaker, includono età, etnia, abilità, identità di genere e religione. In questo modo, quando l'utente inserisce un semplice prompt, ad esempio "CEO", lo strumento aggiunge una serie di tipi di inclusività che variano di volta in volta, creando un prompt più sofisticato da utilizzare in qualsiasi modello di generazione di immagini. In questo modo si produrranno immagini che, invece di riflettere i pregiudizi dei dati di formazione, aggiungeranno bias positivi verso un ampio spettro di diversità e intersezionalità che i modelli attuali semplicemente non prevedono.
 
Tyra Jones-Hurst, Managing Partner di Oliver US e Fondatore di InKroud, afferma: "La risposta al problema dei pregiudizi nella Gen AI è tutt'altro che scontata, ma una cosa è certa: i brand e gli inserzionisti non possono semplicemente accettare i pregiudizi come status quo. Un modo per affrontarlo è quello di dare priorità all'inclusione creando funzioni automatizzate laddove non esistano già, e integrandole per migliorare i modelli di base. Questo è ciò che abbiamo fatto con Bias Breaker".

 
Rebecca Sykes aggiunge: "Guardare agli esempi di CEO è solo uno dei modi in cui i pregiudizi si manifestano, il semplice caso d'uso che abbiamo usato è per dimostrare la sfida e le implicazioni di non affrontare i pregiudizi. Ci sono molti altri esempi, che vanno dall'ovvio - infermieri e assistenti per lo più donne, mancanza di immagini di persone con disabilità, ecc - a casi molto più sfumati. Con il tempo, speriamo di affrontare tutti questi aspetti".
 
Il pacchetto Ethical Gen AI di Brandtech comprende anche una serie di misure pratiche, tra cui il rilascio di un blueprint per aiutare chiunque a creare una politica di Ethical Gen AI, che incorpora gli ampi insegnamenti del Gruppo in questa disciplina ed è disponibile gratuitamente per chiunque. Il Gruppo si propone di andare essere all’avanguardia e andare oltre quello che già prevedono le normative di settore.
 
Tutti i team Brandtech che si rivolgono ai clienti hanno ricevuto una formazione approfondita su come assistere un cliente attraverso un processo decisionale etico per la Gen AI. Inoltre, Brandtech Consulting, l'offerta di consulenza strategica del Gruppo, e InKroud (la società di consulenza multiculturale che fa parte di Oliver) possono offrire ai clienti il ciclo di 6 settimane chiamato Gen AI Ethical Sprints.
 
Brandtech ha riscontrato che i CMO si pongono sempre più spesso domande sull'uso etico della Gen AI nel momento in cui si passa dai progetti pilota all'implementazione su larga scala, e il pacchetto Ethical Gen AI, che include Bias Breaker, risponde proprio a queste domande.
 
David Jones, fondatore e CEO di Brandtech, afferma: "Quando i social media sono esplosi, nessuno ne ha previsto gli aspetti negativi. Con Gen AI, abbiamo la possibilità di anticipare i tempi, invece di essere semplicemente reattivi. Bekki, Tyra e i team di Gen AI hanno lavorato a lungo con i nostri clienti per creare best practice e guidare il mercato".