di Alessandro Stazi
18 ottobre 2026
Senior Technical Writer in Umovity – PTV Group, dove guida la documentazione tecnica di PTV Optima e PTV Flows. Laureato in Ingegneria Informatica alla Sapienza di Roma, ha oltre 20 anni di esperienza nella comunicazione tecnica e nella content strategy, maturata in Engineering Group, CrossIdeas e IBM, dove è stato l’autore principale di un brevetto. Dal 2020 è membro di UNINFO e partecipa ai gruppi di lavoro ISO/IEC JTC 1/SC 7 su documentazione e qualità del software e alla commissione UNI CT 533 sull’Intelligenza Artificiale; è inoltre project leader del nuovo standard ISO/IEC/IEEE 26517, la cui pubblicazione è prevista per marzo 2027. È stato Vicepresidente di COM&TEC e membro del Board for Standards and Legislation di tekom Europe. Dal 2009 cura il blog Artigiano di Babele (https://artigianodibabele.blogspot.com/), dedicato alla comunicazione tecnica e alla scrittura professionale
_____________________________
Ogni volta che comprate un prodotto, avete il diritto di ricevere le informazioni ESATTE che vi consentono di usare quel prodotto.
Quando comprate una macchina industriale (ad esempio un tornio digitale o una macchina per tagliare il marmo o un decespugliatore), la documentazione tecnica associata deve rispondere a dei criteri cogenti, descritti nel Regolamento Macchine.
Quando comprate un software, vi consegnano anche il Manuale d’Installazione e il Manuale dell’Utente (in formato cartaceo o digitale). In questo caso, il produttore del software non deve rispettare regolamenti particolarmente stringenti, ma potrebbe comunque essere chiamato in tribunale da un consumatore che non potesse usare il prodotto per carenza delle informazioni necessarie.
Ma anche quando comprate un barattolo di vernice, sulla superfice esterna del barattolo trovate le istruzioni necessarie, ad esempio, per diluire la vernice.
INDIPENDENTEMENTE dal prodotto che comprate, avete il diritto di ricevere le informazioni per poterlo utilizzare.
E tali informazioni devono essere ESATTE. Ma cosa possiamo considerare ESATTO?
Una buona definizione, che non prtenede di essere esaustiva in ogni contesto, è la seguente:
Sarà ESATTA ogni informazione (una procedura, un valore, un avviso di sicurezza, un elemento di diagramma o una relazione) riconducibile a una fonte approvata. Tale affermazione deve essere verificata e non presentare contraddizioni. Ad esempio, ogni procedura è stata eseguita con esito positivo sulla versione del prodotto software che avete acquistato.
Cosa ha che fare tutto questo con l’AI?
Provate a chiedere ad un qualsiasi AI engine se è in grado di fornire sempre e comunque delle informazioni ESATTE su un certo argomento.
Vi risponderà più o meno così:
“Da me non puoi ottenere informazioni di cui sia garantita l’esattezza. Potrei comunque inventarmi un valore, un passaggio o una connessione, e potrei sembrare sicuro anche quando mi sbaglio. Pertanto, la “precisione” non può basarsi sulla fiducia in ciò che produco. Deve derivare da un processo in cui ogni affermazione viene verificata rispetto a una fonte approvata prima della pubblicazione. ”
Quindi annotiamo il primo concetto: possiamo usare l’AI per redigere un testo su un determinato argomento (ad esempio, la documentazione tecnica associate ad un certo prodotto), ma l’esattezza delle informazioni in esso contenuto DEVE DERIVARE DA UN PROCESSO che verifica ogni afferrmazione.
Questo significa che se volete ottenere informazioni esatte, dovete organizzare un processo che si pone ALDIFUORI del perimetro funzionale di un LLM.
Ed è l’LLM stesso che vi esorta a farlo, è l’LLM che in qualche modo si “autodenuncia” e afferma che la sua natura non gli consente di assicurare l’esattezza.
Vi ricorda qualcosa?
Quante volte ci hanno raccontato che “il prossimo modello X” avrebbe avuto al suo interno dei “controlli” in grado di impedire comportamenti “indesiderati”?
Ad oggi, gli esperti ci dicono cheè INTRINSECAMENTE IMPOSSIBILE ottenere questo, per la natura stessa degli LLM.
Negli ultimi 12 mesi abbiamo avuto notizia:
- Di vincoli di sicurezza aggirati organizzando un prompt in versi, come se fosse una poesia.
- Di istanze legali redatte da avvocati professionisti con l’aiuto del’AI, ma non sufficentemente verifcate, in cui si faceva riferimento a sentenze della Cassazione inesistenti
- Di informazioni ottenute e “apparentemente” plausibili ma non affidabili (concetto di epistemia).
In tutti questi casi è mancato un processo di verifica, di qualche tipo.
Chi deve organizzare i PROCESSI ESTERNI DI VERIFICA?
La domanda presuppone una risposta solo apparentemente banale: l’attore “UMANO”.
Ed è banale solo in apparenza perchè ad oggi il mondo si divide tra chi di queste cose ne parla, senza avere conoscenza diretta e approfondita di tutte queste dinamiche, e tra chi usa l’AI “consapevolmente”, toccando con mano tutti i vantaggi e rischi annessi.
Perchè poi si va a sbattere contro i problemi VERI: quando un AI è in grado di scrivere 5000 righe di codice in un paio di minuti, quale “umano”, usando i principi tradizionali dell’Ingegneria e della qualità del software, è in grado di verificare che quelle 5000 righe di codice siano “ben fatte”?
Io gestisco dal 2009 un blog e so quale fatica costa scrivere un articolo e giustificare ogni concetto che esprimo, andando a ricercare le giuste fonti e i riferimenti. Il mio blog non ha scopi commerciali… ma se li avesse, oggi dovrei competere con realtà che possono pubblicare 10 articoli al giorno, su qualsiasi argomento, nello stesso tempo in cui prima ne scrivevano uno.
E qui dobbiamo annotare il secondo concetto: il volume di materiale che l’AI può produrre supera la capacità di supervisone di un umano che usa sistemi di verifica tradizionali.
Quindi dobbiamo rinunciare al principio dello “Human in the loop” che troviamo chiaramente indicato in molti standard ISO, regolamenti e leggi nazionali che vengono emanate in tutto il mondo? Ovviamente no.
Ma non prendiamoci in giro: se “Human in the loop” è solo un a spunta in una check-list di un documento che finisce in fondo ad un cassette perchè “per essere conformi dobbiamo scrivere un documento che dice che siamo conformi”, il problema non è risolto.
Dobbiamo inziare ad immaginare e costruire SISTEMI DI VERIFICA ESTERNI ad un LLM che possano darci un’ effettiva capacità di VERIFICA di quanto prodotto da un LLM.
Questa è la prossima sfida da affrontare, per tutti noi.