Lunedì. Un sales manager spedisce al cliente una proposta commerciale. Dentro c’è una cifra che non compare in nessun documento interno: a “calcolarla” ci ha pensato il modello, e il manager non ha avuto voglia di controllare. Il cliente, per fortuna, nemmeno.

Mercoledì. Marina delle HR apre la posta e trova dodici lettere di presentazione. Identiche, come fotocopiate. Stessa prima frase, stessa intonazione — come se stamattina dodici persone si fossero divise una testa sola.

Venerdì. Un analista incolla il testo di un NDA in un chatbot pubblico. “Traducilo, è in inglese”. Insieme all’NDA nel chat partono nomi, cifre e condizioni di una trattativa che l’azienda non ha ancora annunciato.

Tre persone, tre errori, uno stesso strumento. Paradosso divertente: in tutti e tre i casi l’AI ha fatto esattamente quello che le era stato chiesto. Non si rompevano i neuroni — si rompevano le abitudini intorno. Ecco queste dieci abitudini, dalle comiche a quelle davvero costose, e il modo di salutarle una per una. Se vi siete riconosciuti, niente paura — tutte e dieci si curano: aiuto le aziende con problemi esattamente come questi.

Dieci errori

1. Chiedere in modo confuso. “Scrivi una mail al cliente” — e ricevi una mail uguale a tutte le mail: educata, liscia, vuota. Adesso immaginatene quaranta: il cliente apre la terza di fila, riconosce la prima frase e smette di leggere. Non si offende, non si lamenta. Smette e basta. La stessa richiesta, però, con un contesto — chi è il cliente, di che trattativa si tratta, come scriviamo di solito, più una mail vecchia come esempio — restituisce un testo che si discosta dallo stampo esattamente quanto il vostro lavoro si discosta dalla media del mercato. Per scavare più a fondo c’è la guida italiana al prompt engineering.

2. Mollare dopo la prima risposta. La prima bozza è debole — e dentro scatta: “vabbè, giocattolo”. Come assumere un designer e licenziarlo dopo il primo schizzo: soldi pagati, senso zero. E invece è lì che comincia la parte interessante. “Fallo più corto. Ora più secco. Aggiungi l’obiezione del cliente. E ora critica la tua risposta.” Cinque minuti di questa conversazione — e al posto dell’acqua resta una bozza che non fa vergogna a inviarla. Il lavoro per iterazioni è raccontato in dettaglio nella stessa guida.

3. Trattare il modello come onnisciente. “Guarda cosa ha scritto il cliente nel CRM”. Il modello non è collegato al CRM e lo dice onestamente. Ma il dipendente si è già offeso — e a pranzo tutto il reparto sa che “questa vostra AI non funziona”. La reputazione di uno strumento muore per niente. Eppure bastava allegare l’esportazione della corrispondenza: in un minuto il modello ci trova quello a cui un uomo avrebbe dedicato un’ora di lettura attenta. Non c’è accesso? Passate i dati voi. Com’è un assistente con un accesso vero ai dati l’ho mostrato nell’articolo sull’AI per il CEO.

4. Credere sulla parola. L’abitudine più costosa. Avvocati americani hanno depositato in tribunale una memoria piena di citazioni: sentenze sicure, levigate, esistenti solo nella fantasia del modello. Il giudice ha chiesto i testi di quelle sentenze. Non si sono trovati in nessun database. Il caso Mata v. Avianca è diventato un esempio da manuale sull’automation bias, e i cognomi degli avvocati una nota nell’ordinanza. Doppia beffa: ci sarebbe voluta una sera per verificarli. Due minuti di confronto con la fonte — e la cifra nella presentazione esiste anche fuori dalla testa della rete neurale. Come il controllo diventa cerimonia l’ho raccontato nell’articolo sui rischi degli assistenti AI personali.

5. Inviare com’è. Un’addetta HR esperta apre una lettera di presentazione e legge la prima frase. “Entusiasta all’idea di unirmi al vostro team”. Basta, si può chiudere: questa lettera non l’ha scritta una persona, e non oggi. Se un testo si spedisce senza toccare una virgola, in questo momento lo sta spedendo anche un concorrente. Ma una bozza a cui avete aggiunto la vostra esperienza, la vostra cifra, la vostra voce smette di essere mediocre. E comincia a ricevere risposte. Dove il testo decide e dove no l’ho scritto nell’articolo sull’AI per lavorare, non per la demo.

6. Dare in pasto i segreti. Ingegneri Samsung incollavano in un chatbot pubblico codice e verbali di riunione — finché l’azienda non ha imposto un divieto rigido. Da noi le regole sono ancora più serie: i dati personali dei cittadini russi non devono finire in servizi esteri, e la 152-FZ spiega perché. L’uscita è semplice e senza fronzoli: “cliente A”, “azienda B”, cifre in unità convenzionali — e la traduzione parte tranquilla. E sarebbe ora che le aziende allestissero un perimetro interno, così nessuno deve scegliere tra comodo e sicuro. Cosa dice la normativa sui dati nei servizi di AI lo racconta il Garante per la protezione dei dati personali.

7. Nascondersi negli account personali. “Da noi l’AI è vietata”, dice il dirigente alla riunione. In quello stesso momento quaranta dipendenti, nei tab accanto, riscrivono i report nei chatbot personali. Così funziona quasi un ufficio su due, e qui il divieto non può nulla: la comodità batte sempre il foglio di carta. Funziona invece l’accesso aziendale. La gente smette di nascondersi, la sicurezza vede i log, i dati restano a casa. Le indicazioni dell’amministrazione pubblica italiana su AI e strumenti aziendali le riassume AgID.

8. Nascondersi dietro l’AI. “Da dove viene la cifra?” — “Me l’ha data ChatGPT”. In riunione suona come una confessione. In tribunale come una sentenza per se stessi: Air Canada ha provato a rimandare al suo chatbot, che aveva inventato una regola di rimborso, e ha dovuto restituire i soldi al cliente. Il giudice è stato laconico: l’azienda risponde delle parole del suo bot. Vale a dire che le domande finiranno a una persona — a chi ha premuto “invia”. Hai controllato la fonte prima, e alla riunione rispondi “secondo il rapporto trimestrale”, non “me l’hanno detto”. Tra l’altro, sul diritto di contestare una decisione presa dalla macchina il Garante si è espresso più volte.

9. Dare le chiavi senza istruzioni. Licenze comprate, accessi distribuiti, tutti in attesa del miracolo. Dopo un trimestre, silenzio: abbiamo provato, non abbiamo capito niente, mollato. Soldi spesi, entusiasmo spento, effetto pari a zero. Eppure si risolveva in un giorno: un’ora di pratica sui compiti del reparto, una base interna di prompt riusciti, una persona a cui rivolgersi. I team a cui hanno insegnato vincono di parecchie lunghezze su quelli a cui hanno solo consegnato la password. Da dove cominciare a formare se stessi e la propria squadra lo indica AI4I, l’Istituto Italiano per l’Intelligenza Artificiale.

10. Vietare invece di governare. Il risultato dei divieti è sempre lo stesso: lavoro in ombra, e poi una fuga di cui l’azienda viene a sapere dai giornali. Governare invece si può e si deve: assegnare gli scenari a livelli di autonomia, tenere i log, controllare il risultato e non il numero di accessi. La velocità intanto non va da nessuna parte — semplicemente smette di fare paura. I quattro livelli di autonomia e il controllo per ciascuno li ho scomposti nell’articolo sui rischi degli assistenti AI personali.

Materiali utili

In breve

L’AI perdona una domanda imprecisa, ma non perdona l’irresponsabilità sulla risposta. Rare volte si sbaglia lo strumento — più spesso le abitudini intorno a lui.

Se vi siete riconosciuti in queste storie — si sistema. Aiuto i team a lavorare con l’AI evitando questi dieci errori: regole, formazione, perimetro aziendale, audit. Scrivetemi — vediamo il vostro caso.