Una máquina formula una respuesta clara, bien estructurada, a veces brillante. Cita un concepto, desarrolla una explicación y no deja entrever ninguna duda. Entonces tenemos un reflejo muy humano: como el discurso se parece al del conocimiento, le concedemos el estatus de conocimiento. El problema no es solo que la inteligencia artificial generativa pueda equivocarse. El problema es que su manera de equivocarse encaja perfectamente con nuestras ganas de creer.

Dos antiguos errores científicos permiten contemplar este reflejo de otra manera. No afectan ni a aficionados ni a estafadores sorprendidos con las manos en la masa, sino a dos científicos reconocidos, Yves Rocard y Prosper René Blondlot. Cada uno trabajó sobre un fenómeno que resultó inexistente. Cada uno disponía de un marco experimental que consideraba serio. Y cada uno nos recuerda que un método científico puede perder su fuerza cuando sirve sobre todo para confirmar lo que el experimentador ya espera observar.

El científico no es inmune a las expectativas

A partir de 1957, Yves Rocard busca una explicación física para los supuestos poderes de los zahoríes. Su trayectoria no lo predispone a una credulidad fácil: profesor en la École normale supérieure, director de su laboratorio de física y asesor científico del CEA, contribuyó a varios campos reconocidos de la investigación. Sin embargo, plantea la idea de que algunas personas podrían percibir variaciones locales del campo magnético terrestre relacionadas con la presencia de agua subterránea.

Para poner a prueba esta hipótesis, Rocard imagina, entre otros recursos, un dispositivo en el que un cable eléctrico produce un campo magnético controlado. Cerca de él se sitúa una persona que sostiene un péndulo. La inversión de la corriente debe permitir comprobar si también cambia el sentido de rotación del péndulo. Sobre el papel, el experimento parece organizado en torno a una variable física identificable. Pero el análisis crítico de su método y de sus resultados reveló sesgos lo bastante importantes como para convertir este episodio en un error científico y no en un fraude.

El caso de Prosper René Blondlot es más antiguo. En 1903, este profesor de la Universidad de Nancy y miembro de la Academia de Ciencias anuncia la existencia de unos rayos que denomina «N». El contexto favorece esta posibilidad: los rayos X se habían descubierto en 1895, la radiactividad en 1896 y, en 1903, varias figuras vinculadas a estos descubrimientos reciben el Premio Nobel de Física. En aquella época, en la que nuevas radiaciones transformaban la ciencia, la aparición de otro fenómeno parecía menos absurda de lo que nos parece hoy.

Blondlot afirma que los rayos N, producidos por una lámpara provista de una varilla cerámica incandescente, hacen que una pantalla débilmente iluminada parezca un poco más luminosa. Todo depende, por tanto, de una diferencia casi imperceptible, próxima al umbral de la percepción visual, que solo un observador entrenado sería capaz de distinguir. Después cree poder estudiar su propagación, su refracción y su difracción aplicando los métodos de la óptica clásica.

Estos dos casos comparten un punto decisivo: la observación no viene impuesta claramente por el fenómeno. Depende de una señal débil, ambigua e interpretable. El péndulo puede parecer que responde. La pantalla puede parecer que se aclara. A partir de ahí, la expectativa del investigador deja de permanecer fuera del experimento. Entra en el resultado.

El vínculo con la IA no es técnico, sino psicológico

Esta comparación no forma parte de ninguno de los dos casos: hay que presentarla como lo que es, un análisis. A mi juicio, los rayos N y las alucinaciones de la IA pertenecen a épocas y dispositivos radicalmente distintos, pero activan en el observador una misma debilidad. Evaluamos con más dificultad una afirmación cuando su forma ya coincide con lo que esperamos.

En el caso de Blondlot, la carrera por descubrir nuevas radiaciones hacía plausible la existencia de un fenómeno adicional. En el de Rocard, una hipótesis magnética daba apariencia física a una práctica rodeada de creencias. Con la IA, la situación se desplaza: ya no observamos una pantalla débilmente luminosa o un péndulo, sino un texto coherente, inmediato y personalizado. La señal ambigua se convierte en una frase convincente.

Pueden identificarse tres mecanismos comunes, siempre que se consideren una clave de lectura y no resultados demostrados:

  • La expectativa orienta la interpretación. Cuando esperamos una respuesta, una explicación o una confirmación, detectamos con más facilidad lo que va en esa dirección.
  • La competencia aparente tranquiliza. Un científico prestigioso, un protocolo sofisticado o una prosa técnicamente fluida pueden dar peso a una afirmación incluso antes de que se verifique.
  • La repetición fabrica normalidad. Cuando varias personas aceptan un mismo marco, la duda parece menos legítima. El acuerdo colectivo puede entonces parecer una prueba.

La confianza excesiva en una IA no procede, por tanto, únicamente de la falta de conocimientos técnicos. También nace de un fenómeno más corriente: tendemos a confundir coherencia y verdad. Una respuesta bien escrita suele parecernos mejor fundamentada que una vacilante, aunque la seguridad estilística no garantiza nada.

Una IA puede producir novedad sin producir verdad

Un tercer debate, contemporáneo esta vez, se refiere a la creatividad de las IA generativas. Pueden formar combinaciones originales o inesperadas a partir de los datos disponibles, mientras algunos observadores consideran que solo recombinan estados aprendidos. Jean-Claude Heudin, por su parte, explora otra vía con algoritmos genéticos basados en recombinaciones, mutaciones y selección, que describe como una forma de creatividad algorítmica.

Este debate ayuda a precisar el problema. Una producción puede ser original, sorprendente e incluso útil sin ser factualmente correcta. La novedad no es una prueba. La elegancia tampoco. Una IA puede proponer una asociación que nadie había formulado de ese modo e introducir, al mismo tiempo, una información inexistente. Precisamente esta mezcla la vuelve persuasiva: lo verdadero, lo plausible y lo inventado pueden adoptar la misma voz.

Por tanto, cometeríamos un error si solo preguntáramos: «¿Esta respuesta parece inteligente?». La pregunta útil es más dura: «¿Qué parte de esta respuesta resistiría una verificación independiente?». Los antiguos errores científicos no nos piden que despreciemos la intuición, la experiencia o la innovación. Nos piden que no les concedamos la última palabra.

Lo que los rayos N deberían cambiar en nuestros usos

La primera lección consiste en separar la calidad de la expresión de la calidad de las pruebas. Una respuesta clara puede ser falsa. Una formulación prudente puede ser más fiable que una exposición espectacular. Ante una afirmación importante, hay que buscar qué permitiría refutarla, no solo qué la hace seductora.

La segunda lección consiste en desplazar el control fuera del sistema que produce la afirmación. Rocard interpretaba su propio dispositivo. Blondlot se apoyaba en una percepción sutil reservada a observadores entrenados. Del mismo modo, pedir a una IA que confirme su primera respuesta no siempre constituye una verificación real: puede limitarse a reconstruir una justificación compatible con lo que acaba de afirmar. El control debe volver a una fuente distinta, a un documento accesible o a una medición reproducible.

La tercera lección afecta al colectivo. Un error compartido sigue siendo un error. Cuando varios usuarios difunden la misma respuesta generada, su origen puede desaparecer y la repetición conferirle una autoridad artificial. El número de repeticiones no sustituye la solidez del hecho inicial.

El peligro no es que la IA nos obligue a creer. Es que nos dé exactamente la respuesta que estábamos dispuestos a aceptar.

La ciencia no se distingue por la ausencia de errores, sino por su capacidad para exponerlos y revisar sus conclusiones. El caso de los rayos N se presenta, de hecho, como una famosa ilusión colectiva y, al mismo tiempo, ilustra esta capacidad de cuestionamiento. Tal vez sea el mejor modelo para aplicar a las IA generativas: utilizarlas ampliamente, pero organizar a su alrededor una cultura activa de la contradicción.

Rocard y Blondlot no nos miran desde un pasado ingenuo. Nos tienden un espejo. Su error no fue haber imaginado una hipótesis audaz. Fue dejar que la hipótesis enseñara a sus ojos lo que debían ver. Hoy, nuestros ojos leen pantallas más luminosas y respuestas más rápidas. Nuestra responsabilidad sigue siendo la misma: no permitir nunca que la convicción se adelante demasiado tiempo a las pruebas.