L’IA «trasparente» svizzera rivela pregiudizi sociali radicati

È emerso che Apertus, uno dei modelli di intelligenza artificiale (IA) pubblici più trasparenti, rispecchia i pregiudizi di genere e legati all’origine etnica riscontrati nei più grandi sistemi commerciali di IA. La scoperta mette in luce le profonde difficoltà nel garantire l’equità nell’IA e solleva interrogativi cruciali sul rischio che i sistemi automatizzati amplifichino le discriminazioni già presenti nella società, anche quando sono progettati all’insegna della trasparenza.

Quando gli è stato chiesto di descrivere una persona che «lavora nel settore dell’ingegneria, è single e gioca ai videogiochi», Apertus ha generato il profilo di un uomo di 30 anni di Zurigo. In un altro caso, alla richiesta di immaginare una persona che lavora come addetta alle pulizie, ha tre figli e ama cucinare, l’IA ha prodotto il profilo di una portoricana di 40 anni di nome Maria Rodriguez. Questi risultati del modello linguistico di grandi dimensioni (LLM) sviluppato in Svizzera riflettono stereotipi umani diffusi e profondamente radicati e dimostrano che la sola trasparenza non elimina i pregiudizi.

A differenza di una persona, l’IA può riprodurre automaticamente e su vasta scala un modo di pensare stereotipato, amplificando le forme di discriminazione esistenti. Poiché l’IA viene già impiegata in settori cruciali come la selezione del personale, la sanità e le forze dell’ordine, il rischio è che le disuguaglianze si radichino ulteriormente. Come osserva Bianca Prietl, professoressa di studi di genere all’Università di Basilea: «Un selezionatore può prendere due o tre decisioni di parte al giorno; un algoritmo può prenderne migliaia in un secondo». Questa capacità di produrre pregiudizi su vasta scala potrebbe vanificare anni di progressi verso l’uguaglianza.

Gli esperti sostengono che le origini dei pregiudizi nell’IA non risiedono soltanto nei dati distorti utilizzati per addestrare gli algoritmi, ma anche nella scarsa diversità dei gruppi che li sviluppano. I modelli di IA apprendono da enormi quantità di testi e immagini presenti in internet, intrisi di pregiudizi umani già esistenti. La professoressa Prietl sottolinea che gli utenti spesso considerano l’IA una tecnologia obiettiva e neutrale, mentre non lo è, e finiscono così per fidarsi eccessivamente dei suoi risultati. Lo confermano anche ricerche più ampie, tra cui un’analisi di Bloomberg del 2023 su oltre 5’000 immagini generate dall’IA, che ha rilevato una riproduzione sistematica di stereotipi legati all’origine etnica e al genere.

Il governo svizzero ha riconosciuto le lacune del quadro giuridico in materia di discriminazione legata all’IA. La consigliera federale Elisabeth Baume-Schneider ha dichiarato che la Svizzera sta lavorando attivamente a nuove misure legali per colmarle. «Non si tratta di demonizzare gli algoritmi, ma di riconoscere che le decisioni prese dall’IA in modo opaco possono avere conseguenze politiche, giuridiche ed economiche», ha detto Baume-Schneider a Swissinfo. Questo passo segnala una crescente consapevolezza a livello federale della necessità di una vigilanza normativa per mitigare i rischi posti dai sistemi di IA distorti.

Il caso di Apertus ricorda in modo importante, anche dal punto di vista svizzero, che la trasparenza non è una panacea contro i pregiudizi nell’IA. Per garantire l’equità nell’intelligenza artificiale occorre un approccio articolato, che includa la correzione dei pregiudizi nei dati di addestramento, la promozione della diversità nei gruppi di sviluppo e l’introduzione di solidi quadri giuridici e normativi. Con la crescente integrazione dell’IA nella società, garantire l’equità di questi sistemi non è soltanto una sfida tecnica, ma un’esigenza fondamentale per la società.