Une machine formule une réponse nette, bien structurée, parfois brillante. Elle cite un concept, déroule une explication et ne laisse paraître aucun doute. Nous avons alors un réflexe très humain : puisque le discours ressemble à celui du savoir, nous lui accordons le statut du savoir. Le problème n’est pas seulement que l’intelligence artificielle générative puisse se tromper. Le problème est que sa manière de se tromper épouse parfaitement notre envie de croire.

Deux anciennes bavures scientifiques permettent de regarder ce réflexe autrement. Elles ne concernent ni des amateurs ni des fraudeurs pris la main dans le sac, mais deux savants reconnus, Yves Rocard et Prosper René Blondlot. Chacun a travaillé sur un phénomène qui s’est révélé inexistant. Chacun disposait d’un cadre expérimental qu’il jugeait sérieux. Et chacun nous rappelle qu’une méthode scientifique peut perdre sa force lorsqu’elle sert surtout à confirmer ce que l’expérimentateur espère déjà observer.

Le savant n’est pas immunisé contre l’attente

À partir de 1957, Yves Rocard cherche une explication physique aux prétendus pouvoirs des sourciers. Son parcours ne le destine pas à la crédulité facile : professeur à l’École normale supérieure, directeur de son laboratoire de physique, conseiller scientifique du CEA, il a contribué à plusieurs domaines reconnus de la recherche. Pourtant, il avance l’idée que certaines personnes pourraient percevoir des variations locales du champ magnétique terrestre liées à la présence d’eau souterraine.

Pour tester cette hypothèse, Rocard imagine notamment un dispositif dans lequel un fil électrique produit un champ magnétique contrôlé. Un sujet tenant un pendule se place à proximité. L’inversion du courant doit permettre de vérifier si le sens de rotation du pendule change lui aussi. Sur le papier, l’expérience paraît organisée autour d’une variable physique identifiable. Mais l’analyse critique de sa méthode et de ses résultats a mis en évidence des biais suffisamment importants pour faire de cet épisode une bavure scientifique, non une fraude.

Le cas de Prosper René Blondlot est plus ancien. En 1903, ce professeur de l’université de Nancy, membre de l’Académie des sciences, annonce l’existence de rayons qu’il nomme « N ». Le contexte encourage cette possibilité : les rayons X ont été découverts en 1895, la radioactivité en 1896, et l’année 1903 consacre plusieurs figures liées à ces découvertes par le prix Nobel de physique. Dans cette période où de nouveaux rayonnements bouleversent la science, l’apparition d’un autre phénomène semble moins absurde qu’elle ne nous paraît aujourd’hui.

Blondlot affirme que les rayons N, produits à partir d’une lampe munie d’un bâtonnet céramique incandescent, rendent un écran faiblement éclairé légèrement plus lumineux. Tout repose donc sur une différence presque imperceptible, proche du seuil de perception visuelle, que seul un observateur entraîné serait capable de discerner. Il croit ensuite pouvoir étudier leur propagation, leur réfraction et leur diffraction en reprenant les méthodes de l’optique classique.

Ces deux affaires partagent un point décisif : l’observation n’est pas franchement imposée par le phénomène. Elle dépend d’un signal faible, ambigu, interprétable. Le pendule peut sembler répondre. L’écran peut sembler s’éclaircir. Dès lors, l’attente du chercheur ne reste plus à l’extérieur de l’expérience. Elle entre dans le résultat.

Le lien avec l’IA n’est pas technique, il est psychologique

Ce rapprochement n’appartient à aucune des deux affaires : il faut le présenter pour ce qu’il est, une analyse. À mes yeux, les rayons N et les hallucinations de l’IA appartiennent à des époques et à des dispositifs radicalement différents, mais ils activent chez l’observateur une même faiblesse. Nous évaluons moins facilement une affirmation lorsque sa forme correspond déjà à ce que nous attendons.

Chez Blondlot, la course aux nouveaux rayonnements rendait plausible l’existence d’un phénomène supplémentaire. Chez Rocard, une hypothèse magnétique donnait une apparence physique à une pratique entourée de croyances. Avec l’IA, la situation se déplace : nous n’observons plus un écran faiblement lumineux ou un pendule, mais un texte cohérent, immédiat et personnalisé. Le signal ambigu devient une phrase convaincante.

Trois mécanismes communs peuvent être dégagés, à condition de les considérer comme une grille de lecture et non comme des résultats démontrés :

  • L’attente oriente l’interprétation. Lorsque nous espérons une réponse, une explication ou une confirmation, nous repérons plus facilement ce qui va dans son sens.
  • La compétence apparente rassure. Un savant prestigieux, un protocole sophistiqué ou une prose techniquement fluide peuvent donner du poids à une affirmation avant même sa vérification.
  • La répétition fabrique une normalité. Quand plusieurs personnes acceptent un même cadre, le doute paraît moins légitime. L’accord collectif peut alors ressembler à une preuve.

La confiance excessive dans une IA ne vient donc pas uniquement d’un manque de connaissances techniques. Elle vient aussi d’un phénomène plus banal : nous confondons volontiers cohérence et vérité. Une réponse bien écrite nous paraît souvent mieux fondée qu’une réponse hésitante, alors que l’assurance stylistique ne garantit rien.

Une IA peut produire du nouveau sans produire du vrai

Un troisième débat, contemporain celui-là, porte sur la créativité des IA génératives. Elles peuvent former des combinaisons originales ou inattendues à partir des données disponibles, tandis que certains observateurs estiment qu’elles ne font que recombiner des états appris. Jean-Claude Heudin, de son côté, explore une autre voie avec des algorithmes génétiques fondés sur recombinaisons, mutations et sélection, qu’il décrit comme une forme de créativité algorithmique.

Ce débat aide à préciser le problème. Une production peut être originale, surprenante et même utile sans être factuellement juste. La nouveauté n’est pas une preuve. L’élégance non plus. Une IA peut proposer une association que personne n’avait formulée de cette manière et, dans le même mouvement, introduire une information inexistante. C’est précisément ce mélange qui la rend persuasive : le vrai, le plausible et l’inventé peuvent adopter la même voix.

Nous commettrions donc une erreur en demandant seulement : « Cette réponse semble-t-elle intelligente ? » La question utile est plus rude : « Qu’est-ce qui, dans cette réponse, résisterait à une vérification indépendante ? » Les anciennes bavures scientifiques ne nous demandent pas de mépriser l’intuition, l’expertise ou l’innovation. Elles nous demandent de ne pas leur donner le dernier mot.

Ce que les rayons N devraient changer dans nos usages

La première leçon est de séparer la qualité d’expression de la qualité de preuve. Une réponse claire peut être fausse. Une formulation prudente peut être plus fiable qu’un exposé spectaculaire. Face à une affirmation importante, il faut chercher ce qui permettrait de la réfuter, pas seulement ce qui la rend séduisante.

La deuxième leçon est de déplacer le contrôle hors du système qui produit l’affirmation. Rocard interprétait son propre dispositif. Blondlot s’appuyait sur une perception subtile réservée aux observateurs entraînés. De la même manière, demander à une IA de confirmer sa première réponse ne constitue pas toujours une vérification réelle : elle peut simplement reconstruire une justification compatible avec ce qu’elle vient d’affirmer. Le contrôle doit revenir à une source distincte, à un document accessible ou à une mesure reproductible.

La troisième leçon concerne le collectif. Une erreur partagée reste une erreur. Lorsque plusieurs utilisateurs relaient la même réponse générée, son origine peut disparaître et sa répétition lui donner une autorité artificielle. Le nombre de reprises ne remplace pas la solidité du fait initial.

Le danger n’est pas que l’IA nous oblige à croire. C’est qu’elle nous donne exactement la réponse que nous étions prêts à accepter.

La science ne se distingue pas par l’absence d’erreurs, mais par sa capacité à les exposer et à revoir ses conclusions. L’affaire des rayons N est d’ailleurs présentée comme une illusion collective célèbre tout en illustrant cette faculté de remise en question. C’est peut-être le meilleur modèle à appliquer aux IA génératives : les utiliser largement, mais organiser autour d’elles une culture active de la contradiction.

Rocard et Blondlot ne nous regardent pas depuis un passé naïf. Ils nous tendent un miroir. Leur erreur n’était pas d’avoir imaginé une hypothèse audacieuse. Elle fut de laisser l’hypothèse apprendre à leurs yeux ce qu’ils devaient voir. Aujourd’hui, nos yeux lisent des écrans plus lumineux et des réponses plus rapides. Notre responsabilité reste la même : ne jamais laisser la conviction précéder trop longtemps la preuve.