Tutti schiavi di ChatGPT Inferno o paradiso?
Il delicato rapporto tra uomo e programmi di scrittura
“Non vi è nulla di più inedito di ciò che è già stato pubblicato”. ChatGPT, sospettiamo, deve avere letto “Il cimitero di Praga” di Umberto Eco e il suo famoso provocatorio passaggio.
Nel dubbio glielo abbiamo chiesto: rispetti sempre il copyright quando generi dei testi? Risposta della chat che permette di dialogare con una rete neurale che ha appena ricevuto da Microsoft 10 miliardi di dollari di investimenti: “Come modello di linguaggio addestrato da OpenAI, genero testi basati sull’elaborazione di grandi quantità di dati testuali presenti sul web”. Chiamiamola sincerità. ChatGPT genera, inventa, copia e incolla. Ma non cita (peraltro il copyright l’hanno inventato gli italiani, nella Venezia del tardo Quattrocento, con il privilegio di stampa).
Il test Google
Il concorrente di ChatGPT, l’‘obsoleto’ ragno di Google, è di aiuto nello scoprirlo: basta mettere alla prova i testi “generati” (copiandoli su Google emergono spesso i documenti originali) per scoprire che non siamo di fronte al miracolo di “penso dunque sono”. La questione è importante, non tanto per lo sviluppo dell’intelligenza artificiale.
La scoperta di tali infantili falle nulla toglie all’incredibile evoluzione di un sistema capace di comprendere il linguaggio naturale dell’uomo. Ma perché – mentre tutti si stavano preoccupando di come i giovani avrebbero usato ChatGPT per non fare più i compiti di matematica o le versioni di latino sul “De bello gallico”– in alcuni paper, come ha fatto notare la rivista scientifica per eccellenza Nature, è comparsa già ChatGPT come co-autrice accanto a ricercatori in carne ossa e maturità. Prima lezione: come al solito abbiamo dei pregiudizi nei confronti dei nostri figli non avendo mai imparato la lezione che ci volle dare il padre di un tal CharlesDarwin quando disse: “Mio figlio non combinerà mai nulla di buono nella vita”. Tacere sui figli, sempre.
Ma tornando ai paper e a chissà quanti altri utilizzi professionali il problema economico è chi certifica l’originalità di ciò che aggiunge il chatbot con linguaggio naturale sviluppato da OpenAI? Quando “simula” uno stile (rispondendo al quesito “scrivi come avrebbe fatto Shakespeare o Dante”) ChatGPT sembra dare il proprio meglio. Che non è scrivere come Dante, chiaro. E nemmeno avvicinarcisi. Ma è scimmiottare il grande bardo come abbiamo fatto tutti noi a scuola, magari dopo una birra. È quello che fa la mente umana: copia, replica, con una qualità generalmente e drasticamente inferiore rispetto all’originale. Con alcune eccezioni neurologicamente eccezionali come la costruzione di metafore, l’uso dell’ironia e, ancora, l’arte della creazione della parodia: “L’inferno di Topolino”, di Guido Martina con disegni di Angelo Bioletto (“Io son nomato Pippo e son poeta”) non è Dante, ma è geniale.
Anche qui la cinematografia intelligente, non quella alla “Terminator”, è riuscita a descrivere bene e in anticipo alcuni sviluppi: in “Interstellar”, il film di Christopher Nolan alla cui sceneggiatura ha partecipato il fisico premio Nobel Kip Thorne, i robot hanno degli emulatori di “ironia” che possono essere settati dall’uomo. I filtri di ChatGPT tendono a funzionare esattamente così: non capiscono le battute, ma ne cercano le tracce ed emulano la postura nella risposta.
La ‘generazione’
Come per il termine “intelligenza artificiale” – introdotto negli anni Cinquanta dal premio Alan Turing John McCarthy – anche qui si crea un malinteso con il termine “generativa”. Non va intesa in maniera cartesiana. L’AI può essere la migliore ape operaia della nostra vita. Lo sottolinea essa stessa: “Nel caso in cui venisse utilizzato accidentalmente un testo protetto da copyright, (...)
di Roberto Battistoni e Massimo Sideri, L’Economia (...) saremmo lieti di rimuoverlo se segnalato. Come modello di linguaggio, posso generare testi in diversi formati, tra cui articoli scientifici. Tuttavia, essendo una macchina non ho la capacità di comprendere e interpretare i dati scientifici e di fare ricerca originale. Pertanto, non sarei in grado di essere un autore primario di un paper scientifico. Tuttavia, possono essere utilizzati per generare bozze di articoli, aiutare nella scrittura e formattazione dei paper, o per generare parti del testo come abstract o introduzione”.
Schiavi dell’AI
Come in tutte le cose però, anche per ChatGPT il diavolo è nei dettagli, che rischiano di sfuggire dietro l’approccio, per ora umile, quasi untuoso, della nostra scimmietta elettronica. Time, ad esempio, ha fatto emergere il modo con cui OpenAI è riuscito a moderare gli eccessi devianti della versione 3 del suo programma ricorrendo a Sama, un’altra ditta della Silicon Valley, che impiega lavoratori in Kenya, Uganda e in India per ripulire i dati per le big tech da Google a Meta e a Microsoft.
Utilizzando decine di migliaia di documenti del dark web riguardanti violenze sessuali, torture, omicidi, e facendoli taggare da esseri umani pagati 1-2 dollari l’ora – un’esperienza terribile – questi documenti sono stati resi leggibili da ChatGPT e usati per evitare che intervenisse su questi temi.
L’uomo, sempre l’uomo, con le sue miserie e le sua capacità, è alla base delle sorprendenti immagini che ci rimanda lo specchio sfaccettato del Chatbot più potente del momento. Ed è proprio questo il punto. Questa è una tecnologia realizzata da programmatori, archivisti, ripulitori, formatori e, soprattutto, da un numero enorme di persone che hanno lasciato traccia nel web della loro attività intellettiva, emozionale, creativa, esperienziale. Tutto questo, messo all’interno di un sofisticato contenitore elettronico, prende forme apparentemente nuove e permette a ciascuno di noi di entrare in contatto con tracce che vengono da tutti gli altri, in un processo in continua, rapida evoluzione.
È più un linguaggio che un intelligenza artificiale, la realizzazione a livello umano dell’effetto formicaio, ambito in cui le decisioni vengono prese in comune, scambiandosi ferormoni e informazioni in modo impossibile da tracciare in dettaglio. Nel caso del formicaio, madre natura e la selezione di Darwin sovrintendono al senso dell’azione comune: la sopravvivenza della specie formica. Nel caso dei Chatbot è però umano anche il sovrintendente, anche se cerca di non farsi troppo vedere nascondendosi dietro le esigenze del mercato: la dea della guerra Durga aveva 10 braccia, ma una testa sola. Chi controlla il controllore?
E, soprattutto, chi lo controllerà una volta che la nostra scimmietta si sarà diffusa in modo pervasivo nelle nostre società? Chat nega di avere un conflitto di interessi e scarica questa responsabilità sui suoi programmatori. Questa volta ha proprio ragione.