L’intelligenza artificiale (IA) è ormai parte integrante della nostra vita quotidiana, utilizzata in applicazioni che vanno dai chatbot che rispondono alle domande, ai sistemi di raccomandazione dei contenuti, fino alle piattaforme che generano immagini o testi. Ma nonostante i progressi tecnologici, esiste un problema intrinseco nei modelli di AI più avanzati: le allucinazioni dell’AI. Questo fenomeno si manifesta quando un modello — soprattutto quelli di intelligenza artificiale generativa — produce risposte plausibili nella forma, ma del tutto false o inventate nella sostanza.

Cos’è una “allucinazione” nell’AI?

Il termine allucinazione applicato all’AI è una metafora presa in prestito dalla psicologia umana per descrivere un comportamento specifico delle macchine: la produzione di contenuti che sembrano verosimili ma non sono basati su fatti reali. A differenza delle allucinazioni umane — che riguardano percezioni sensoriali non corrispondenti alla realtà — le allucinazioni dell’IA derivano da un’elaborazione errata o approssimativa dei dati.

Quando un modello di intelligenza artificiale generativa riceve un prompt (cioè una richiesta o istruzione testuale fornita dall’utente), il suo obiettivo non è recuperare dati precisi da un database di fatti, ma prevedere e generare sequenze di parole statisticamente probabili in base all’addestramento su grandi quantità di testo. Questo approccio può portare a risposte che “suonano bene”, ma che non corrispondono alla realtà.

Allucinazioni AI: esempi concreti

Per capire meglio, vediamo alcuni esempi:

• una IA generativa che afferma che il James Webb Space Telescope ha catturato la prima immagine di un pianeta fuori dal nostro sistema solare quando in realtà non è così;
• chatbot che inventano citazioni legali o casi giurisprudenziali inesistenti, citandoli come se fossero reali;
• modelli che rispondono a domande di matematica con numeri o fatti che non esistono, come affermare dati statistici assurdi.

Questi esempi non sono solo curiosità tecniche: quando le allucinazioni si verificano in applicazioni critiche — come in medicina, diritto o giornalismo — il loro impatto può essere significativo e dannoso.

Perché accadono le allucinazioni di un modello di IA?

Le allucinazioni AI non sono “errori” nel senso tradizionale, né si possono correggere semplicemente come un bug software. Piuttosto, esse derivano dal modo in cui i modelli di IA generativa — e in particolare i LLM (Large Language Models) — sono progettati e addestrati.

Questi modelli apprendono modelli linguistici dai dati di addestramento: analizzano enormi quantità di testo per imparare come le parole e le frasi sono correlate tra loro. Poi, quando rispondono a un prompt, predicono la parola successiva più probabile, piuttosto che cercare direttamente informazioni accurate.

Se i dati di addestramento sono incompleti, distorti o inclini a bias, il modello può “colmare i vuoti” inventando informazioni che sembrano plausibili. Questo fenomeno è particolarmente visibile nei casi in cui il modello tenta di rispondere a domande fuori dal suo dominio di competenza o su argomenti poco rappresentati nei dati.

Allucinazioni intelligenza artificiale generativa: un problema sistemico

Nel caso dell’intelligenza artificiale generativa, che produce testi, immagini o altri contenuti nuovi, le allucinazioni sono una manifestazione degli stessi meccanismi di generazione creativa. Questi sistemi non “capiscono” i fatti; generano risposte basate su pattern statistici. Se il prompt richiede una risposta dettagliata su un fatto specifico, ma i dati di addestramento non contengono informazioni rilevanti, il modello può “inventare” dettagli per soddisfare la richiesta.

Questo significa che anche i modelli più avanzati — pur sorprendendo per coerenza e fluidità — possono produrre informazioni non veritiere, semplicemente perché sono progettati per generare linguaggio naturale e non per verificare accuratamente ogni fatto che presentano.

Prompt intelligenza artificiale e il ruolo del prompt engineering

Il modo in cui si formula una richiesta a un modello di IA può influenzare significativamente la qualità della risposta. Per questo motivo, nel campo dell’intelligenza artificiale è nato il concetto di prompt engineering, ovvero l’arte di progettare prompt in modo da ottenere risultati più affidabili possibile.

Un prompt chiaro, ben strutturato e specifico aiuta il modello a “capire” meglio cosa l’utente desidera. Tuttavia, nessuna formulazione di prompt può eliminare completamente le allucinazioni, perché esse sono collegate alla natura statistica del processo di generazione.

Per esempio, chiedere “Qual è la capitale della Francia?” è un prompt diretto con una risposta semplice e ben definita che riduce le probabilità di allucinazione. Al contrario, un prompt vago o ambiguo come “Raccontami una storia che unisce filosofia e sport” può generare risposte più creative, ma anche meno accurate nei dettagli se include fatti reali.

Una domanda che spesso si pone chi si avvicina a questi concetti è: “Quale tra le seguenti opzioni non è considerabile un principio chiave del prompt engineering?” Anche se la risposta dipende dal contesto specifico delle opzioni proposte, in generale principi chiave del prompt engineering includono:

• chiarezza e specificità nel linguaggio;
• limitare l’ambiguità del contesto;
• fornire vincoli espliciti per l’output.

Una opzione non considerata principio chiave potrebbe essere, ad esempio, “chiedere sempre output più lunghi possibile”, perché lunghezza e qualità non sono direttamente correlate in modo positivo nel prompt engineering.

Chi ha coniato il termine intelligenza artificiale?

Prima di proseguire nel discorso sulle allucinazioni, vale la pena ricordare un dettaglio storico: il termine “intelligenza artificiale” fu coniato da John McCarthy, un pioniere dell’informatica, durante la conferenza di Dartmouth nel 1956. McCarthy e altri ricercatori usarono questa espressione per descrivere la possibilità di creare macchine capaci di compiti associati all’intelligenza umana, dando così il nome a un intero campo di ricerca. Questo contesto storico aiuta a comprendere come i concetti moderni di IA si siano evoluti nel tempo, fino alle attuali tecnologie di AI generativa e ai problemi associati come le allucinazioni.

Le conseguenze delle allucinazioni dell’AI

Le allucinazioni non sono solo un fenomeno teorico: possono avere impatti reali e anche seri in applicazioni sensibili. Per esempio:

• un modello di AI utilizzato per supportare diagnosi mediche potrebbe interpretare un sintomo in modo errato e suggerire un trattamento non appropriato;
• in ambito legale, chatbot che inventano riferimenti giuridici possono portare a conclusioni sbagliate in cause reali;
• sistemi di assistenza clienti automatizzati possono fornire informazioni fuorvianti o addirittura dannose se basate su dati inesatti.

Queste implicazioni pongono l’accento sulla necessità di supervisione umana, verifiche incrociate e sistemi di controllo accurati quando si utilizzano strumenti di IA in contesti critici.

Allucinazioni di un modello di IA si possono evitare?

Una domanda centrale è: le allucinazioni di un modello di IA si possono evitare? La risposta breve è no, non completamente, almeno con la tecnologia attuale. Poiché i modelli linguistici generativi operano sulla base di modelli probabilistici, esisterà sempre una certa probabilità che producano output non corretti.

Tuttavia, le allucinazioni possono essere mitigate adottando diverse strategie:

• dati di addestramento di alta qualità ― più ampi, accurati e bilanciati sono i dati, minore è la probabilità che il modello generi risposte inventate;
• supervisione umana ― avere persone che rivedono e verificano gli output prima che vengano utilizzati;
• tecniche come la Retrieval Augmented Generation (RAG), che combinano la generazione con ricerche in tempo reale su basi di dati affidabili, aiutano a “ancorare” le risposte alla realtà;
• prompt engineering avanzato ― includere istruzioni che limitano il campo delle possibili risposte o richiedono fonti verificabili.

Nonostante queste misure, le allucinazioni rimangono un problema intrinseco dei sistemi di AI generativa e richiedono consapevolezza, valutazione umana e tecniche di controllo continuo.

Verso un uso responsabile dell’AI

Il fenomeno delle allucinazioni ci ricorda che, per quanto avanzata sia la tecnologia, l’AI non è infallibile. L’utilizzo consapevole dell’intelligenza artificiale richiede non solo competenze tecniche ma anche capacità critica da parte degli utenti e supervisione umana efficace.

In definitiva, comprendere cosa siano le allucinazioni dell’IA, riconoscere i segnali e adottare strategie per ridurle è essenziale per sfruttare al meglio le potenzialità dell’AI generativa, minimizzandone i rischi e massimizzandone i benefici.

Credits: AndrewLozovyi / DepositPhotos.com