Trascrizione dello speech tenuto da Francesca Memini per Logon al Prevento Festival, il 4 ottobre 2025 a Parma
Parlare di intelligenza artificiale a una platea così variegata è difficile: non so cosa ne sapete, come la usate, se ne siete dipendenti o indipendenti, e soprattutto non so come la pensate e anche io ho le idee un po’ confuse. Io mi occupo di comunicazione della scienza, non sono una scienziata, ho una formazione umanistica. Però sono curiosa delle tecnologie, soprattutto quando sembra che abbiano un impatto così rilevante.So che ci sono alcune tipologie di reazioni tipiche che sono un po’ sempre le stesse per qualsiasi nuova tecnologia: internet, i videogame, la televisione, la radio, la stampa, la scrittura, il fuoco…
Ci sono i doomeristi, gli apocalittici e quelli che “moriremo tutti!” e subito a fianco c’è la larga schiera del tecnopanico: ci ruberà il lavoro, ci ruberà l’anima, diventeremo tutti più stupidi, qualcuno pensi ai bambini! Dall’altra parte ci sono gli entusiasti: quelli che si esaltano per ogni nuova tecnologia, anche per quelle che a qualche giorno dal lancio ce le siamo dimenticati tutti (chi si ricora Apple vision? E il metaverso? E gli NFT? E il minidisk?). E lì è tutta un’utopia: saremo tutti più liberi, il lavoro sarà più efficiente, troveremo la cura per il cancro, uomo e AI evolveranno insieme verso un futuro-cyborg meraviglioso! Questi schieramenti di solito polarizzati sono quelli che vedo tra i miei coetanei. Non sapevo però se valgono anche per i ragazzi più giovani. Per questo prima di preparare questo discorso mi sono fatta una lunga chiacchierata con la mia ospite di oggi Lucianna Carlini, una delle giovani organizzatrici di questo Festival. Lucianna spiega tu in breve la tua esperienzacon ChatGPT…
Lucianna: io uso abitualmente chatGPT, come anche tanti miei amici, per cercare informazioni, lo per scrivere soprattutto per scuola, mi sta aiutando tanto con la tesi. Non fa paura però vorrei capire un po meglio come funziona...
Quindi alle due reazioni estremiste ne aggiungerei un paio di centro: chi usa la tecnologia senza farsi troppe domande, come facciamo tutti con un tostapane o con il forno a microonde.
E chi la usa ma vorrebbe capirne di più. Voi dove vi schierate, per alzata di mano…
Ora, prendiamo l’esempio del forno a microonde, che credo sia una tecnologia che non scatena né panici né entusiasmi. Quando ce ne troviamo davanti uno nuovo che cosa possiamo fare: possiamo schiacciare tasti a caso, se l’interfaccia è stata studiata abbastanza bene dovremmo riuscire a farlo partire e a capire quelle due funzioni di base. Oppure possiamo leggere il manuale e imparare a usarlo al meglio delle sue funzioni. Io odio leggere i manuali e non so se sul manuale c’è scritto che se ci metti un uovo scoppia.
Non mi piacciono i manuali però mi piace cucinare, se voglio sapere che cosa viene bene in microonde e che cosa viene da schifo, devo usarlo e sperimentare. Questo di solito mi costringe anche a leggere almeno un pochino il manuale.
L’interfaccia di ChatGPT e di tutti i suoi cugini è fantastica: un chatbot sempre disponibile e un po’ leccaculo a cui basta chiedere e ci spiega anche come cuocere l’uovo al microonde. Magico. Ma è davvero così magico? E’ davvero così intelligente?
Ecco, ora vi mostro com’è fatto ChatGPT:
La smiley face è quella fantastica interfaccia che si propone come utile e servizievole, dietro c’è il mostro lovecraftiano. Se c’è un mostro avranno ragione i tecnoimpanicati, è alieno, è intelligente ma per noi incomprensibile, è malvagio! No, è principalmente statistica (che forse per qualcuno è ancora peggio). E non è intelligente.
AI è un termine generico per indicare un insieme di tecnologie che permettono ai computer di fare cose che, quando sono fatte da persone, si pensa richiedano intelligenza.
A partire dagli anni 2000 la ricerca sull’AI ha imboccato la strada del machine learning basato sulla statistica. Diamo tanti dati al computer e lui individua dei pattern ricorrenti, le correlazioni tra le parole, e impara da quelle. Una strategia che richiede enormi quantità di dati e potenza di calcolo. Grazie a tutti noi per aver contribuito a riempire internet di ogni tipo di dato con cui è stato possibile addestrare Chat GPT e tutti i suoi cugini.
L’Intelligenza artificiale generativa, quella di cui si parla oggi, è una branca dell’intelligenza artificiale che si occupa di creare nuovi contenuti a partire da dati esistenti. Non è l’unica cosa che si può fare con l’IA, c’è anche l’IA predittiva per esempio quella che è alla base dei motori che ci consigliano i servizi di streaming video o musicali. Il temibile “algoritmo” che anticipa i nostri desideri e prevede quello che ci piacerà vedere, sentire, comprare.
I Large Language Model sono modelli di IA generativa finalizzati a generare linguaggio. Quando parliamo di IA generative ci stiamo riferendo allo scopo non alla tecnologia. E lo scopo di un LLM è generare linguaggio. La grande innovazione tecnologica, che ci ha permesso di avere IA generative così performanti è stata quella del modello Transformer. GPT sta per Generative Pretrained Transformer. Li abbiamo nutriti di testi, hanno imparato i pattern statistici del linguaggio e ora sono in grado di generare nuovi testi.
E con questo siamo a pagina 1 del manuale del microonde. Ora proviamo a cuocere l’uovo…
Parliamo di allucinazioni. Un’allucinazione si verifica quando un modello genera informazioni che non sono supportate dai dati reali. In altre parole, il modello “si inventa le cose” – ma lo fa con una forma linguistica corretta, rendendo difficile distinguere il vero dal falso.
Ora non è che dopo aver fatto esplodere il primo uovo non uso più ChatGPT, però so che non ci posso mettere dentro di tutto e aspettarmi che ne escano sempre dei piatti stupendi. A volte da ChatGPT usciranno cose come la colla sulla pizza o consigli per mangiare sassi.
C’è una cosa che posso fare però ed è capire perché l’uovo è esploso. Perché ChatGPT si inventa le cose?
L’IA non verifica le fonti, possiamo chiedere di farlo ma anche se lo fa non le comprende; non sa cosa significa vero e falso perchè non conosce il mondo reale; non ragiona (almeno non come facciamo noi); e non ammette di non sapere le cose, offre sempre una risposta anche a costo di inventarsela. E non smetterà mai di allucinare, perché è così che funziona, inventando testi plausibili in base alla distribuzione statistica dei dati su cui è stata addestrata. In genere ci prende, ma la sua “mappa della realtà” è fatta sui dati di training linguistico, non sulla realtà.
Le allucinazioni non sono l’unico limite delle AI generative, così come l’uovo non è l’unica cosa che è meglio non mettere nel forno a micronde. Capire come e perché avvengono ci permette di imparare una cosa con buona certezza: è meglio non usarle come fonte di informazione affidabile al 100%. Posso anche mettermi alla prova: se chiedo a chatGPT di scrivere un testo su un argomento che conosco o che non conosco, cosa cambia? Quanto tempo ci perdo a verificare le fonti?
Siamo sicuri che anche quando ho capito come cuocere l’uovo al micronde, non sia comunque più facile cuocerlo al tegamino (o anche solo magari è più buono)? Dipende, ma avendo capito alcuni principi e sperimentando, impariamo a usarlo nel modo più congeniale a noi, a quello che ci serve.
Impariamo anche di più del manuale di istruzioni, impariamo anche qualcosa su come ci piacciono le uova e su come è divertente cuocerle nel tegamino.
Vedete che l’IA non ci fa diventare per forza più stupidi.
Continuiamo a lasciare da parte panico o entusiasmo.
Lucianna mi ha raccontato un episodio che le ha fatto venire qualche timore. Vuoi raccontarlo tu?
Lucianna: Non era un caso di allucinazione. Sapevo che una mia amica cusava la versione premium di ChatGPT per scrivere la tesi , così le ho chiesto se voleva dividere il costo dell’abbonamento e quindi l’account. Lei mi ha risposto: assolutamente no, perchè aveva cartelle piene di conversazioni private, anzi no intime che proprio non voleva condividere con nessuno.
Ecco c’è un meme anche per questo:
Qui il manuale di istruzioni che ci servirebbe è quello dell’essere umano, non quello di ChatGPT. Siamo noi che per tendenza umana attribuiamo caratteristiche umane a qualsiasi cosa: quando fa esplodere l’uovo insultiamo il microonde come se ci avesse fatto un dispetto, parliamo con il gatto come se fosse un bambino, cresciamo giocando con le bambole. Se poi dall’altra parte c’è una faccina sorridente, è ancora più facile. Chi di voi ha detto grazie o per piacere a ChatGPT?
Lo fate perché siete umani e perché lo progettano così, perché ci faccia questo effetto. La faccina gialla è proprio lì per questo e ce n’è anche di specifiche per questo scopo, IA progettate come Companion. E’ un pericolo? Diventeremo tutti incapaci di amicizia con un vero essere umano? Oppure finalmente abbiamo trovato la cura alla solitudine per tutti coloro che sono isolati o hanno difficoltà a socializzare.
Diventa più complicato ma anche in questo caso ci serve sapere come funziona l’AI e come funzioniamo noi, per decidere come usarla al meglio. L’utilizzo ingenuo è pericoloso, un rischio cauto, serve per imparare.
La mia proposta, il mio messaggio per oggi, lo spirito con cui anche io sto cercando di capire questo forno a microonde un po’ leccaculo, è quello dell’hacker: smontate il giocattolo, cercate di guardarci dentro, usatelo con creatività mettendolo alla prova, cercandone i limiti. Serve una base di conoscenza per farlo, un pochino bisogna leggerlo quel manuale. E leggendo, provando, cercando di capire anche come ci fa stare, cosa cambia in noi…impariamo.
“Ma a me la statistica e l’informatica fanno proprio schifo!”. D’accordo, cerca di capirne almeno un po’, poi come avete visto abbiamo bisogno di persone che capiscano anche come funzionano le altre persone. E non solo. Se allarghiamo ancora un po’ l’inquadratura del meme…
… vediamo che ci sono tante altre persone coinvolte, ancora altri livelli da capire: quello delle aziende che sviluppano questi strumenti, quello della privacy e della sicurezza informatica, quello della sostenibilità. L’Intelligenza artificiale è un tema complesso che richiede approcci interdisciplinari: serve chi si occupa di economi, di diritto, di scienze cognitive, di arte e tanto altro.
Panico o entusiasmo: non lo sappiamo ancora, quello che sappiamo è che non c’è niente di magico o ineluttabile. La strada è ancora da costruire, siamo noi che decidiamo come integrare questa tecnologia nella società e nella nostra vita. Possiamo farlo in modo ingenuo, schiacciando i bottoni che le aziende hanno pensato per noi o possiamo sperimentare, capire i suoi limiti e decidere come usarla.
E allora smettiamo di posizionarci di fronte ai vari forni a microonde e altre tecnologie innovative come «utenti» , cominciare a pensarci «agenti» attivi: un «utente» utilizza ciò che è stato fornito o predisposto da altri, un «agente» esegue azioni seguendo la sua volontà, per seguendo i suoi obiettivi, in autonomia e potenzialmente anche in contraddizione con gli usi previsti da chi ha messo a punto la user-interface.
Non lasciamo che l’AI cucini al posto nostro: impariamo a usarla attivamente, così il piatto ce lo scegliamo noi.
