Risposte dell'AI: come verificarle prima di usarle
Quasi una risposta su due degli assistenti AI sulle notizie contiene un errore rilevante. Perché succede e come controllare un testo prima di usarlo.
In breve: un assistente AI può sbagliare con lo stesso tono sicuro con cui risponde correttamente, e l'unico modo per accorgersene è verificare. In uno studio coordinato dall'Unione europea di radiodiffusione (EBU) e guidato dalla BBC, pubblicato nell'ottobre 2025, il 45% delle oltre 3.000 risposte date da quattro assistenti diffusi su temi di attualità conteneva almeno un problema rilevante. Nel 31% dei casi il problema riguardava le fonti, nel 20% l'accuratezza dei fatti, con dettagli inventati o informazioni non aggiornate.
Per una piccola impresa che usa l'AI per scrivere risposte ai clienti, riassumere documenti o cercare informazioni, la conseguenza pratica è semplice: ogni testo che esce dall'azienda o su cui si prende una decisione va controllato da una persona, e conviene sapere dove guardare.
Quanto è diffuso l'uso dell'AI nelle imprese italiane
Secondo l'ISTAT (Imprese e ICT, dicembre 2025), nel 2025 il 16,4% delle imprese italiane con almeno 10 addetti ha usato almeno una tecnologia di intelligenza artificiale, il doppio rispetto all'8,2% del 2024. Tra le PMI la quota è del 15,7%, tra le grandi imprese del 53,1%.
Gli usi più frequenti sono proprio quelli in cui un errore passa facilmente inosservato: il 70,8% delle imprese che usano l'AI la impiega per estrarre informazioni da documenti di testo e il 59,1% per generare testi, immagini o audio. Tra le imprese che hanno valutato l'AI senza adottarla, il primo ostacolo indicato è la mancanza di competenze (58,6%).
Questi numeri non contano chi usa un assistente gratuito con il proprio account personale, che in molte piccole imprese è la situazione più comune. Ne abbiamo parlato nell'articolo sugli usi pratici dell'AI in una piccola impresa.
Perché un assistente AI sbaglia con sicurezza
Gli errori di questo tipo si chiamano "allucinazioni". OpenAI, in un documento pubblicato nel settembre 2025, le definisce affermazioni plausibili ma false prodotte dai modelli linguistici. Il punto interessante è la spiegazione: secondo gli stessi ricercatori, i metodi con cui i modelli vengono addestrati e valutati premiano chi tira a indovinare rispetto a chi ammette di non sapere. Un po' come un test a crocette in cui la risposta sbagliata non toglie punti: rispondere comunque conviene.
Il documento riporta un confronto tra due modelli dello stesso fornitore su un test di domande fattuali. Il modello più "prudente" si è astenuto nel 52% dei casi e ha sbagliato nel 26%. L'altro si è astenuto solo nell'1% dei casi, ha indovinato un po' più spesso (24% contro 22%), ma ha sbagliato nel 75% delle risposte. In altre parole, un assistente che risponde sempre non è più affidabile: è solo più sicuro di sé.
Lo stesso documento cita un esempio: interrogato sul titolo della tesi di dottorato di uno degli autori, un chatbot molto diffuso ha dato tre titoli diversi, tutti sbagliati. Lo stesso per la data di nascita.
Cosa può succedere in una piccola impresa
Un caso italiano mostra bene il meccanismo. Nel marzo 2025 il Tribunale di Firenze, sezione specializzata in materia di impresa, ha rilevato che un atto difensivo citava sentenze della Cassazione inesistenti. Le aveva trovate una collaboratrice dello studio facendo una ricerca con ChatGPT, senza che l'avvocato lo sapesse. Il tribunale non ha applicato sanzioni, perché la decisione dipendeva da altri elementi, ma ha censurato il fatto che nessuno avesse verificato l'esistenza delle sentenze citate.
Lo schema è lo stesso che si può ripetere in qualunque ufficio:
- una persona chiede all'assistente un riferimento normativo per rispondere a un cliente, e il testo cita un articolo di legge sbagliato o abrogato;
- un riassunto di un capitolato o di un contratto omette proprio la clausola sulle penali;
- una bozza di preventivo riporta un'aliquota o una scadenza fiscale non aggiornata;
- un'email a un fornitore contiene dati tecnici "ragionevoli" ma diversi da quelli della scheda prodotto.
Nessuno di questi errori è vistoso. Il testo è scritto bene, il tono è professionale, e proprio per questo passa.
Come verificare una risposta, in pratica
Non serve diventare esperti. Bastano alcune abitudini, che costano qualche minuto e nessuna spesa.
- Distingui i compiti. Riformulare un testo che hai scritto tu, correggere la forma o accorciare un'email sono compiti a basso rischio: i fatti li hai messi tu. Chiedere un dato, una norma, una data o un nome è un compito ad alto rischio: la risposta va sempre controllata.
- Controlla nomi, numeri, date e citazioni. Sono i punti in cui l'errore è più probabile e più costoso. Ogni riferimento a una legge, a una sentenza, a un prezzo o a una scadenza va confrontato con la fonte originale: il sito dell'ente, il contratto, il listino, la scheda tecnica.
- Chiedi le fonti, e aprile. Se l'assistente indica un link, aprilo e verifica che dica davvero quello che la risposta riporta. Lo studio EBU ha trovato che il problema più frequente era proprio l'attribuzione: fonti mancanti, sbagliate o che non dicevano quanto riportato.
- Dai tu il materiale. Quando possibile, incolla o allega il documento su cui vuoi la risposta (rispettando le regole sui dati dei clienti) e chiedi di rispondere solo sulla base di quel testo. Il rischio di invenzioni si riduce, anche se non sparisce.
- Autorizza il "non lo so". Scrivi nella richiesta che, se un'informazione non è nel materiale fornito o non è certa, l'assistente deve dirlo invece di completarla. È una richiesta coerente con quanto descrivono i ricercatori di OpenAI: il modello tende a indovinare se nulla glielo impedisce.
- Rileggi il riassunto accanto all'originale. Per contratti, capitolati e verbali, scorri il documento originale cercando le parti che contano per te (importi, penali, scadenze, recesso) e controlla che il riassunto le riporti.
- Stabilisci chi rilegge. In azienda, ogni testo che va a un cliente, a un fornitore o a un ente passa da una persona che ne risponde. Il caso di Firenze nasce proprio da un passaggio in cui questa persona mancava.
Quando l'AI non è lo strumento giusto
Per alcune domande l'assistente generico non serve, o serve poco. Se ti occorre il testo aggiornato di una norma, la fonte è la Gazzetta Ufficiale o il sito dell'ente. Se ti occorre lo stato di un ordine o la giacenza di un articolo, la risposta giusta è nel gestionale, non in una chat che non lo vede. E se la domanda riguarda un parere legale o fiscale su un caso concreto, l'AI può aiutarti a prepararla, non a sostituire il professionista.
Vale anche l'inverso: dove i fatti li fornisci tu e serve solo scriverli meglio, ordinarli o tradurli, l'AI fa risparmiare tempo con un rischio contenuto. Il valore sta nel riconoscere in quale dei due casi ci si trova.
Una regola che conviene scrivere
Per una piccola impresa la protezione più efficace è una regola breve, scritta e condivisa: l'AI prepara, una persona controlla i fatti e firma. Chi poi vuole che l'assistente lavori sui dati veri dell'azienda (anagrafiche, listini, documenti) invece che su ciò che ricorda, arriva al passo successivo: collegarlo alle proprie informazioni, come spiegato nell'articolo su cosa funziona e cosa no quando si crea un gestionale con l'AI.
