Brandtech, società statunitense attiva nel marketing tecnologico presente in Italia con Jellyfish, ha annunciato il lancio di una serie di iniziative per promuovere e definire i limiti dell'uso etico dell'IA generativa. Tra queste, un progetto per la creazione di una politica etica sull'IA generativa e una tecnologia proprietaria che affronta i possibili pregiudizi insiti nei foundation models, chiamata Bias Breaker.
Quest'ultima, in particolare, dopo oltre un anno di sviluppo, è ora attiva e integrata in Pencil, la piattaforma di marketing AI generativa di proprietà del gruppo.
Leggi anche: THE BRANDTECH GROUP ACQUISISCE IL 100% DI JELLYFISH E DÀ VITA AD UN GRUPPO DA OLTRE 1 MILIARDO DI DOLLARI ANNUI
Ma di che pregiudizi si sta parlando? Secondo un'indagine di Brandtech, ad esempio, i principali foundation models continuano a generare immagini di uomini per il 98-100% quando viene richiesto "CEO", con la maggior parte delle sovraindicizzazioni per gli amministratori delegati di sesso maschile rispetto alla realtà.
Brandtech ha configurato alcuni degli elementi più comuni della diversità che, in Bias Breaker, includono età, etnia, abilità, identità di genere e religione. In questo modo, quando l'utente inserisce un semplice prompt, ad esempio "CEO", lo strumento aggiunge una serie di "tipi di inclusività" che variano di volta in volta, creando un prompt più sofisticato da utilizzare in qualsiasi modello di generazione di immagini.
Il pacchetto Ethical Gen AI di Brandtech comprende anche una serie di misure pratiche, tra cui il rilascio di un blueprint per aiutare chiunque a creare una politica di Ethical Gen AI, che incorpora gli insegnamenti del Gruppo in questa disciplina ed è disponibile gratuitamente.