Una macchina formula una risposta chiara, ben strutturata, talvolta brillante. Cita un concetto, sviluppa una spiegazione e non lascia trasparire alcun dubbio. A quel punto scatta in noi un riflesso molto umano: poiché il discorso assomiglia a quello del sapere, gli attribuiamo lo statuto del sapere. Il problema non è soltanto che l’intelligenza artificiale generativa possa sbagliare. Il problema è che il suo modo di sbagliare si adatta perfettamente al nostro desiderio di credere.

Due vecchi errori scientifici permettono di osservare questo riflesso da un’altra prospettiva. Non riguardano né dilettanti né truffatori colti sul fatto, ma due scienziati riconosciuti, Yves Rocard e Prosper René Blondlot. Ognuno lavorò su un fenomeno che si rivelò inesistente. Ognuno disponeva di un quadro sperimentale che riteneva serio. E ognuno ci ricorda che un metodo scientifico può perdere la propria forza quando serve soprattutto a confermare ciò che lo sperimentatore spera già di osservare.

Lo scienziato non è immune dalle aspettative

A partire dal 1957, Yves Rocard cerca una spiegazione fisica ai presunti poteri dei rabdomanti. Il suo percorso non lo predispone a una facile credulità: professore all’École normale supérieure, direttore del suo laboratorio di fisica e consulente scientifico del CEA, ha contribuito a diversi ambiti riconosciuti della ricerca. Eppure avanza l’idea che alcune persone possano percepire variazioni locali del campo magnetico terrestre legate alla presenza di acqua sotterranea.

Per verificare questa ipotesi, Rocard immagina in particolare un dispositivo nel quale un filo elettrico produce un campo magnetico controllato. Una persona che tiene un pendolo si colloca nelle vicinanze. L’inversione della corrente dovrebbe permettere di verificare se cambia anche il senso di rotazione del pendolo. Sulla carta, l’esperimento sembra organizzato attorno a una variabile fisica identificabile. Ma l’analisi critica del suo metodo e dei suoi risultati ha evidenziato distorsioni abbastanza importanti da rendere questo episodio un errore scientifico, non una frode.

Il caso di Prosper René Blondlot è più antico. Nel 1903 questo professore dell’Università di Nancy, membro dell’Accademia delle scienze, annuncia l’esistenza di raggi che chiama «N». Il contesto favorisce questa possibilità: i raggi X erano stati scoperti nel 1895, la radioattività nel 1896 e nel 1903 diverse figure legate a queste scoperte vengono premiate con il Nobel per la fisica. In quel periodo, in cui nuove radiazioni rivoluzionavano la scienza, la comparsa di un altro fenomeno sembrava meno assurda di quanto appaia oggi.

Blondlot sostiene che i raggi N, prodotti da una lampada dotata di una bacchetta ceramica incandescente, rendano leggermente più luminoso uno schermo debolmente illuminato. Tutto si basa quindi su una differenza quasi impercettibile, vicina alla soglia della percezione visiva, che solo un osservatore allenato sarebbe in grado di distinguere. In seguito crede di poter studiare la loro propagazione, rifrazione e diffrazione riprendendo i metodi dell’ottica classica.

Questi due casi condividono un punto decisivo: l’osservazione non è imposta chiaramente dal fenomeno. Dipende da un segnale debole, ambiguo e interpretabile. Il pendolo può sembrare reagire. Lo schermo può sembrare schiarirsi. Da quel momento, l’aspettativa del ricercatore non resta più all’esterno dell’esperimento. Entra nel risultato.

Il legame con l’IA non è tecnico, ma psicologico

Questo accostamento non appartiene a nessuno dei due casi: va presentato per ciò che è, un’analisi. A mio avviso, i raggi N e le allucinazioni dell’IA appartengono a epoche e dispositivi radicalmente diversi, ma attivano nell’osservatore la stessa debolezza. Valutiamo con più difficoltà un’affermazione quando la sua forma corrisponde già a ciò che ci aspettiamo.

Nel caso di Blondlot, la corsa alle nuove radiazioni rendeva plausibile l’esistenza di un fenomeno aggiuntivo. Nel caso di Rocard, un’ipotesi magnetica dava un’apparenza fisica a una pratica circondata da credenze. Con l’IA, la situazione si sposta: non osserviamo più uno schermo debolmente luminoso o un pendolo, ma un testo coerente, immediato e personalizzato. Il segnale ambiguo diventa una frase convincente.

Si possono individuare tre meccanismi comuni, a condizione di considerarli come una chiave di lettura e non come risultati dimostrati:

  • L’aspettativa orienta l’interpretazione. Quando speriamo in una risposta, una spiegazione o una conferma, individuiamo più facilmente ciò che va in quella direzione.
  • La competenza apparente rassicura. Uno scienziato prestigioso, un protocollo sofisticato o una prosa tecnicamente fluida possono dare peso a un’affermazione ancora prima della sua verifica.
  • La ripetizione crea normalità. Quando più persone accettano lo stesso quadro, il dubbio appare meno legittimo. L’accordo collettivo può allora sembrare una prova.

La fiducia eccessiva in un’IA non deriva quindi soltanto da una mancanza di conoscenze tecniche. Nasce anche da un fenomeno più comune: tendiamo a confondere coerenza e verità. Una risposta ben scritta ci sembra spesso più fondata di una esitante, anche se la sicurezza stilistica non garantisce nulla.

Un’IA può produrre novità senza produrre verità

Un terzo dibattito, questa volta contemporaneo, riguarda la creatività delle IA generative. Possono formare combinazioni originali o inattese a partire dai dati disponibili, mentre alcuni osservatori ritengono che si limitino a ricombinare stati appresi. Jean-Claude Heudin, da parte sua, esplora un’altra strada con algoritmi genetici basati su ricombinazioni, mutazioni e selezione, che descrive come una forma di creatività algoritmica.

Questo dibattito aiuta a precisare il problema. Una produzione può essere originale, sorprendente e persino utile senza essere corretta nei fatti. La novità non è una prova. Neppure l’eleganza. Un’IA può proporre un’associazione che nessuno aveva formulato in quel modo e, nello stesso momento, introdurre un’informazione inesistente. È proprio questa miscela a renderla persuasiva: il vero, il plausibile e l’inventato possono adottare la stessa voce.

Commetteremmo quindi un errore chiedendo soltanto: «Questa risposta sembra intelligente?». La domanda utile è più dura: «Che cosa, in questa risposta, resisterebbe a una verifica indipendente?». I vecchi errori scientifici non ci chiedono di disprezzare l’intuizione, la competenza o l’innovazione. Ci chiedono di non lasciare loro l’ultima parola.

Che cosa dovrebbero cambiare i raggi N nel nostro uso dell’IA

La prima lezione consiste nel separare la qualità dell’espressione dalla qualità delle prove. Una risposta chiara può essere falsa. Una formulazione prudente può essere più affidabile di una presentazione spettacolare. Di fronte a un’affermazione importante, bisogna cercare ciò che potrebbe confutarla, non soltanto ciò che la rende seducente.

La seconda lezione consiste nello spostare il controllo fuori dal sistema che produce l’affermazione. Rocard interpretava il proprio dispositivo. Blondlot si affidava a una percezione sottile riservata a osservatori allenati. Allo stesso modo, chiedere a un’IA di confermare la sua prima risposta non costituisce sempre una verifica reale: può semplicemente ricostruire una giustificazione compatibile con ciò che ha appena affermato. Il controllo deve tornare a una fonte distinta, a un documento accessibile o a una misura riproducibile.

La terza lezione riguarda il collettivo. Un errore condiviso resta un errore. Quando più utenti rilanciano la stessa risposta generata, la sua origine può scomparire e la ripetizione può conferirle un’autorità artificiale. Il numero delle riprese non sostituisce la solidità del fatto iniziale.

Il pericolo non è che l’IA ci obblighi a credere. È che ci dia esattamente la risposta che eravamo pronti ad accettare.

La scienza non si distingue per l’assenza di errori, ma per la capacità di esporli e di rivedere le proprie conclusioni. Il caso dei raggi N viene infatti presentato come una celebre illusione collettiva e, nello stesso tempo, illustra questa capacità di rimettersi in discussione. È forse il modello migliore da applicare alle IA generative: usarle ampiamente, ma organizzare attorno a esse una cultura attiva della contraddizione.

Rocard e Blondlot non ci guardano da un passato ingenuo. Ci porgono uno specchio. Il loro errore non fu immaginare un’ipotesi audace. Fu lasciare che l’ipotesi insegnasse ai loro occhi ciò che dovevano vedere. Oggi i nostri occhi leggono schermi più luminosi e risposte più rapide. La nostra responsabilità resta la stessa: non lasciare mai che la convinzione preceda troppo a lungo la prova.