Riunione. Uno dei dirigenti dice: “La rete neurale ha letto il contratto e ha deciso che i rischi non ci sono”. Tutti annuiscono. Io invece sono rimasto bloccato sul verbo “ha deciso”. La rete neurale non ha letto niente e non ha deciso niente. Ha calcolato quali parole seguono più spesso parole come “contratto”, “rischi”, “assenti”. Eppure nella nostra lingua per lei abbiamo già preparato un armadio di verbi da esseri umani: pensa, capisce, sbaglia, fantasticheggia. Da questi verbi cominciano quasi tutte le delusioni verso l’AI. Cacciamoli via e vediamo con calma cosa l’AI non è.
Non è intelligenza
Sotto il cofano di qualsiasi grande modello linguistico c’è sempre la stessa occupazione: prevedere quale parola verrà più probabilmente dopo. Miliardi di volte, per riga. Da quest’occupazione è cresciuta un’abilità che stupisce perfino me, che guardo questi sistemi da professionista dal 2017: il modello ragiona in modo brillante. Spiega perché il cielo è azzurro, costruisce catene di passaggi logici, porta esempi. E con lo stesso brillante spiega anche perché il cielo azzurro fa male all’economia — se glielo chiedete gentilmente.
Dietro quel brillante non c’è comprensione. C’è una statistica che, vista da fuori, è quasi indistinguibile dalla comprensione. La prova è semplice: chiedete al modello se è sicuro. Si scuserà volentieri e riscriverà la risposta nel senso opposto — con la stessa eleganza, gli stessi esempi. Chiedete ancora — e starà d’accordo anche con quella. Chiedetele di spiegare due volte due in modo che faccia cinque, e riceverete una bella lezione sulla quinta dimensione. Gli ingegneri chiamano questi sistemi pappagalli stocastici: pappagalli perché le parole sono di altri, stocastici perché la scelta della parola è ogni volta una piccola lotteria. Un’etichetta offensiva, ma esatta, e che aiuta: si smette di aspettare da uno strumento ciò che non contiene.
Se volete scavare più a fondo, l’articolo che ha coniato il termine è accessibile a tutti: On the Dangers of Stochastic Parrots — in inglese.
Né artificiale né vera
Il nome “intelligenza artificiale” è nato a una conferenza di Dartmouth nel 1956 — e da allora fa un doppio lavoro. La parola “artificiale” promette: guardate, una mente fatta dall’uomo. Ma dentro non c’è nessuna mente, artificiale o vera che sia — c’è matematica. Quindi “artificiale” è falso. E “non vera” è falsa anche quella, a modo suo: i testi che il modello produce sono veri, vivi, a tratti belli. Solo che il senso non è vero — non è di nessuno: né suo, né vostro.
Non è un essere e non è un trucco. È una macchina. Mi piace paragonarla alla macchina a vapore: quella trasformava il lavoro delle mani in lavoro di vapore, questa trasforma ore di lavoro sul testo in minuti. Niente di mistico. Niente di umano. Utilità senza misura — e regole d’uso completamente diverse da quelle con un collega.
Utile, ma inaffidabile
Contano entrambe le metà, e conta l’ordine. Utile: bozze, riassunti, varianti, traduzioni, primi abbozzi là dove prima c’era una pagina bianca. Toglie davvero ore di lavoro — lo vedo in ogni progetto. Inaffidabile: fatti, cifre, link, citazioni — tutto questo il modello lo consegna con la stessa voce piatta e lo stesso grado di sicurezza, nel caso buono e in quello cattivo. Il bello e giusto suona esattamente come il bello e inventato.
Da qui la conclusione che porto in ogni implementazione: l’affidabilità non è una proprietà del modello. È una proprietà del processo intorno a lui. L’impastatrice lavora benissimo l’impasto, ma la ricetta non la sceglie lei, e del sale non risponde. Il modello scrive benissimo, ma il fatto non lo verifica — verifichiamo noi. Di come il controllo degeneri in timbro di gomma quando questo non si capisce ho scritto nell’articolo sui rischi degli assistenti AI personali.
E non se ne andrà da nessuna parte
Restava la speranza di aspettare che la moda passasse. Non passerà. L’abbiamo già vissuto con l’elettricità, con internet, con la posta elettronica: ogni macchina del genere prima spaventava, poi veniva vietata, poi è diventata lo sfondo della vita — per chi aveva imparato a usarla. Vietare le reti neurali in ufficio oggi è come vietare i fogli di calcolo in contabilità negli anni Novanta: il divieto esiste, i fogli anche.
Vuol dire che resta una sola strada da adulti: imparare a conviverci. Come con l’automobile — non è cattiva né buona, ma tra mani inesperte è pericolosa, e tra mani esperte moltiplica la forza di una persona. Imparare a guidare una macchina per le parole significa tre cose: capirne i confini (questo articolo è il primo passo), costruire la verifica del risultato e formare le persone intorno. Le dieci abitudini più frequenti in questa formazione le ho raccontate in un altro articolo — sugli errori dei dipendenti con l’AI. E se volete la via corta, venite: il vostro caso lo vediamo insieme, dal primo passo al perimetro operativo.
In breve
L’AI non è una mente e non è un trucco. È una macchina per le parole: meravigliosa e incauta. La parte meravigliosa la fa da sola. Della vigilanza rispondiamo noi.
Materiali utili
- On the Dangers of Stochastic Parrots — il lavoro che ha coniato il termine “pappagalli stocastici” (in inglese).
- NBER, «The Cybernetic Teammate» — misurazioni oneste: dove l’AI amplifica davvero le persone.
- AI4I — Istituto Italiano per l’Intelligenza Artificiale — se avete deciso che è ora di imparare a conviverci.