Vai al contenuto
Swiss Observer

Il punteggio di un rilevatore di IA scatena una controversia letteraria, esperti svizzeri mettono in dubbio questi strumenti

Un roman di grande successo è stato escluso dalla corsa al premio letterario francese Goncourt dopo un’accusa online, avvalorata dal punteggio di un rilevatore di IA, secondo cui sarebbe stato generato in larga misura da una macchina. L’autore nega di aver usato l’IA, mentre esperti e artisti svizzeri si interrogano su ciò che questi strumenti possono dimostrare in modo affidabile.

Il punteggio di un rilevatore di IA scatena una controversia letteraria, esperti svizzeri mettono in dubbio questi strumenti
AISWI swissinfo.ch

Il punteggio di un rilevatore ha contribuito a estromettere un romanzo di grande successo dalla corsa al Goncourt francese. Il libro C’était ça ou mourir dello scrittore haitiano-canadese Thélyson Orélien aveva riscosso successo di critica e di pubblico ed era preso in considerazione per alcuni dei premi letterari più prestigiosi di Francia. Poi un account anonimo su X lo ha accusato di aver usato l’IA per scrivere quasi tutto il libro, citando la valutazione di Pangram secondo cui oltre il 95% del romanzo sarebbe stato generato dall’IA.

Orélien ha negato di aver usato l’IA per scrivere il romanzo. Ha ammesso di esservisi affidato per ricerche storiche durante il processo creativo. Il libro è stato escluso dalla selezione del Goncourt dopo che la stampa ha rivelato casi di plagio in sue opere precedenti, per i quali si è scusato. In seguito, il suo editore canadese ha interrotto i rapporti con lui, dopo che un’analisi esterna ha rilevato ulteriori indizi di un uso dell’IA. Orélien ha continuato a negare di aver scritto il romanzo con l’IA. L’episodio ha diviso scrittori e critici su ciò che un punteggio di rilevamento può dimostrare e sulle conseguenze che dovrebbe comportare.

Mettere in discussione il punteggio prima di giudicare lo scrittore

Il regista svizzero Manuel Flurin Hendry afferma che il punteggio di un software non può giustificare la condanna pubblica di uno scrittore. «L’idea di inserire un testo in Pangram e poi giustiziare socialmente uno scrittore mi sembra inaccettabile», ha dichiarato a Swissinfo al vertice AI+X, all’inizio di ottobre. Hendry, regista, sceneggiatore e docente, sostiene che gli artisti dovrebbero essere liberi di scegliere i propri strumenti.

La sua preoccupazione va oltre il risultato tecnico: l’etichetta attribuita da un rilevatore può influire sulla reputazione e sulla carriera di uno scrittore. Il caso Orélien ha diviso il mondo letterario tra chi lo difende e mette in dubbio l’affidabilità dei rilevatori e chi critica l’autore. Nella disputa sono emerse anche rivelazioni di plagio e un’analisi esterna commissionata dal suo editore canadese, rendendo le conseguenze più complesse di un singolo punteggio. Il risultato di Pangram è comunque diventato un elemento di rilievo dell’accusa. L’intervento di Hendry sposta l’attenzione su come istituzioni e pubblico interpretano valutazioni di questo tipo quando giudicano opere creative.

Ripercorrere l’evoluzione del rilevamento dell’IA

Rilevare l’IA è diventato più difficile con il crescente livello di sofisticazione dei modelli linguistici. Hendrik Strobelt, ricercatore senior presso IBM negli Stati Uniti, ha contribuito a sviluppare GLTR nel 2019, poco dopo l’uscita di GPT-2. GLTR era uno strumento sperimentale concepito per aiutare a individuare testi che potevano essere stati generati da un modello linguistico.

All’epoca, spiega Strobelt, i modelli di IA tendevano a produrre testi piatti e simili nello stile, perché si basavano su schemi comuni. Era quindi relativamente semplice cercare le parole che un modello aveva maggiori probabilità di scegliere. Da allora i modelli linguistici hanno fatto progressi e Strobelt descrive come complessa la questione dell’affidabilità di Pangram. La sua ricostruzione mostra come siano cambiate le condizioni in cui avviene il rilevamento: i primi strumenti potevano cercare formulazioni prevedibili, mentre i modelli più recenti producono un linguaggio più sofisticato. Questa evoluzione fa da contesto alla controversia sul romanzo di Orélien, in cui una classificazione numerica è stata considerata una prova significativa in una disputa pubblica.

Portare il dibattito negli atelier svizzeri

Artisti svizzeri utilizzano già l’IA in modi diversi e dichiarati apertamente. Lo scrittore Charles Lewinsky ha inserito nel suo romanzo Täuschend echt interi passaggi generati da ChatGPT. Il fotografo Matthieu Gafsou ha utilizzato strumenti di generazione di immagini come DALL·E nel proprio lavoro artistico. I loro esempi mostrano come l’IA stia entrando nella pratica creativa svizzera, sia nella scrittura sia nelle arti visive.

La questione più difficile, secondo l’inchiesta di Swissinfo, è come reagire quando l’uso dell’IA non viene dichiarato ed è potenzialmente esteso, e quanto materiale generato possa contenere un’opera. Hendry difende la libertà degli artisti di scegliere i propri strumenti, mentre il caso Orélien mostra come un’accusa sostenuta dal punteggio di un rilevatore possa entrare in conflitto con le decisioni editoriali e il riconoscimento letterario. In Svizzera il dibattito può ora confrontarsi con esempi concreti: la sperimentazione trasparente di artisti affermati e, accanto a essa, un’affermazione contestata sull’autorialità di un romanzo. Per scrittori, editori e lettori, la sfida consiste nel valutare le opere creative senza considerare il verdetto di un software come una prova che si spiega da sé.