Eine Maschine formuliert eine klare, gut strukturierte, manchmal brillante Antwort. Sie nennt ein Konzept, entfaltet eine Erklärung und lässt keinerlei Zweifel erkennen. Dann setzt bei uns ein sehr menschlicher Reflex ein: Weil die Sprache wie Wissen klingt, verleihen wir ihr den Status von Wissen. Das Problem besteht nicht nur darin, dass generative künstliche Intelligenz sich irren kann. Das Problem ist, dass die Art, wie sie sich irrt, perfekt zu unserem Wunsch zu glauben passt.

Zwei ältere wissenschaftliche Fehlleistungen ermöglichen es, diesen Reflex anders zu betrachten. Es geht weder um Amateure noch um Betrüger, die auf frischer Tat ertappt wurden, sondern um zwei anerkannte Wissenschaftler, Yves Rocard und Prosper René Blondlot. Beide arbeiteten an einem Phänomen, das sich als nicht existent erwies. Beide verfügten über einen experimentellen Rahmen, den sie für seriös hielten. Und beide erinnern uns daran, dass eine wissenschaftliche Methode ihre Kraft verlieren kann, wenn sie vor allem dazu dient, das zu bestätigen, was der Experimentator ohnehin zu beobachten hofft.

Wissenschaftler sind gegen Erwartungen nicht immun

Ab 1957 suchte Yves Rocard nach einer physikalischen Erklärung für die angeblichen Fähigkeiten von Wünschelrutengängern. Sein Werdegang ließ ihn kaum für leichtgläubig erscheinen: Als Professor an der École normale supérieure, Leiter ihres Physiklabors und wissenschaftlicher Berater des CEA hatte er zu mehreren anerkannten Forschungsgebieten beigetragen. Dennoch vertrat er die Idee, manche Menschen könnten lokale Schwankungen des Erdmagnetfelds wahrnehmen, die mit unterirdischem Wasser zusammenhängen.

Um diese Hypothese zu prüfen, entwickelte Rocard unter anderem eine Vorrichtung, in der ein elektrischer Draht ein kontrolliertes Magnetfeld erzeugte. Eine Versuchsperson mit einem Pendel stellte sich in die Nähe. Durch die Umkehrung des Stroms sollte überprüft werden, ob sich auch die Drehrichtung des Pendels änderte. Auf dem Papier schien das Experiment um eine klar bestimmbare physikalische Variable herum aufgebaut zu sein. Eine kritische Analyse seiner Methode und Ergebnisse zeigte jedoch so erhebliche Verzerrungen, dass diese Episode als wissenschaftliche Fehlleistung und nicht als Betrug gilt.

Der Fall Prosper René Blondlots liegt weiter zurück. 1903 verkündete der Professor der Universität Nancy und Mitglied der Akademie der Wissenschaften die Existenz von Strahlen, die er „N“ nannte. Der damalige Kontext begünstigte diese Möglichkeit: Röntgenstrahlen waren 1895 entdeckt worden, die Radioaktivität 1896, und 1903 wurden mehrere mit diesen Entdeckungen verbundene Persönlichkeiten mit dem Nobelpreis für Physik ausgezeichnet. In einer Zeit, in der neue Strahlungsarten die Wissenschaft revolutionierten, erschien ein weiteres Phänomen weniger absurd, als es uns heute vorkommt.

Blondlot behauptete, N-Strahlen, die von einer Lampe mit einem glühenden Keramikstäbchen erzeugt würden, ließen einen schwach beleuchteten Schirm etwas heller erscheinen. Alles beruhte damit auf einem beinahe unmerklichen Unterschied nahe der visuellen Wahrnehmungsschwelle, den angeblich nur ein geschulter Beobachter erkennen könne. Anschließend glaubte er, ihre Ausbreitung, Brechung und Beugung mit den Methoden der klassischen Optik untersuchen zu können.

Diese beiden Fälle haben einen entscheidenden Punkt gemeinsam: Die Beobachtung wird nicht eindeutig vom Phänomen selbst aufgezwungen. Sie hängt von einem schwachen, mehrdeutigen und interpretierbaren Signal ab. Das Pendel kann scheinbar reagieren. Der Schirm kann scheinbar heller werden. Von diesem Moment an bleibt die Erwartung des Forschers nicht mehr außerhalb des Experiments. Sie fließt in das Ergebnis ein.

Die Verbindung zur KI ist nicht technisch, sondern psychologisch

Dieser Vergleich gehört zu keinem der beiden Fälle selbst; er muss als das dargestellt werden, was er ist: eine Analyse. Meiner Ansicht nach stammen N-Strahlen und KI-Halluzinationen aus völlig unterschiedlichen Epochen und Versuchsaufbauten, doch sie aktivieren beim Beobachter dieselbe Schwäche. Eine Behauptung fällt uns schwerer zu beurteilen, wenn ihre Form bereits dem entspricht, was wir erwarten.

Bei Blondlot ließ der Wettlauf um neue Strahlungsarten die Existenz eines zusätzlichen Phänomens plausibel erscheinen. Bei Rocard verlieh eine magnetische Hypothese einer von Glaubensvorstellungen umgebenen Praxis einen physikalischen Anschein. Mit der KI verlagert sich die Situation: Wir beobachten keinen schwach leuchtenden Schirm oder ein Pendel mehr, sondern einen zusammenhängenden, sofort verfügbaren und personalisierten Text. Das mehrdeutige Signal wird zu einem überzeugenden Satz.

Drei gemeinsame Mechanismen lassen sich herausarbeiten, sofern man sie als Deutungsraster und nicht als bewiesene Ergebnisse versteht:

  • Erwartungen lenken die Interpretation. Wenn wir auf eine Antwort, Erklärung oder Bestätigung hoffen, nehmen wir leichter wahr, was sie stützt.
  • Scheinbare Kompetenz beruhigt. Ein angesehener Wissenschaftler, ein ausgefeiltes Protokoll oder technisch flüssige Prosa können einer Behauptung schon vor ihrer Überprüfung Gewicht verleihen.
  • Wiederholung erzeugt Normalität. Wenn mehrere Menschen denselben Rahmen akzeptieren, wirkt Zweifel weniger berechtigt. Kollektive Übereinstimmung kann dann wie ein Beweis aussehen.

Übermäßiges Vertrauen in eine KI entsteht daher nicht nur aus mangelndem technischem Wissen. Es beruht auch auf einem gewöhnlicheren Phänomen: Wir verwechseln Kohärenz gern mit Wahrheit. Eine gut geschriebene Antwort erscheint uns oft besser begründet als eine zögerliche, obwohl stilistische Sicherheit keinerlei Garantie bietet.

Eine KI kann Neues erzeugen, ohne Wahres zu erzeugen

Eine dritte, aktuelle Debatte betrifft die Kreativität generativer KI. Sie kann aus vorhandenen Daten originelle oder unerwartete Kombinationen bilden, während manche Beobachter meinen, sie rekombiniere lediglich gelernte Zustände. Jean-Claude Heudin verfolgt seinerseits einen anderen Weg mit genetischen Algorithmen, die auf Rekombination, Mutation und Selektion beruhen und die er als eine Form algorithmischer Kreativität beschreibt.

Diese Debatte hilft, das Problem genauer zu bestimmen. Ein Erzeugnis kann originell, überraschend und sogar nützlich sein, ohne sachlich richtig zu sein. Neuheit ist kein Beweis. Eleganz ebenso wenig. Eine KI kann eine Verbindung vorschlagen, die niemand zuvor auf diese Weise formuliert hat, und im selben Zug eine nicht existierende Information einführen. Gerade diese Mischung macht sie überzeugend: Wahres, Plausibles und Erfundenes können mit derselben Stimme sprechen.

Es wäre daher ein Fehler, nur zu fragen: „Wirkt diese Antwort intelligent?“ Die nützlichere Frage ist härter: „Was in dieser Antwort würde einer unabhängigen Überprüfung standhalten?“ Die alten wissenschaftlichen Fehlleistungen fordern uns nicht auf, Intuition, Fachwissen oder Innovation zu verachten. Sie fordern uns auf, ihnen nicht das letzte Wort zu überlassen.

Was N-Strahlen an unserem Umgang mit KI ändern sollten

Die erste Lehre besteht darin, die Qualität des Ausdrucks von der Qualität der Belege zu trennen. Eine klare Antwort kann falsch sein. Eine vorsichtige Formulierung kann verlässlicher sein als eine spektakuläre Darstellung. Bei einer wichtigen Behauptung sollten wir danach suchen, was sie widerlegen könnte, und nicht nur danach, was sie verführerisch macht.

Die zweite Lehre besteht darin, die Kontrolle aus dem System herauszuverlagern, das die Behauptung erzeugt. Rocard interpretierte seinen eigenen Versuchsaufbau. Blondlot stützte sich auf eine feine Wahrnehmung, die geschulten Beobachtern vorbehalten war. Ebenso ist es nicht immer eine echte Überprüfung, eine KI um Bestätigung ihrer ersten Antwort zu bitten: Sie kann einfach eine Begründung rekonstruieren, die zu ihrer soeben gemachten Aussage passt. Die Kontrolle muss bei einer unabhängigen Quelle, einem zugänglichen Dokument oder einer reproduzierbaren Messung liegen.

Die dritte Lehre betrifft das Kollektiv. Ein geteilter Irrtum bleibt ein Irrtum. Wenn mehrere Nutzer dieselbe generierte Antwort weitergeben, kann ihr Ursprung verschwinden und die Wiederholung ihr künstliche Autorität verleihen. Die Zahl der Wiederholungen ersetzt nicht die Belastbarkeit der ursprünglichen Tatsache.

Die Gefahr besteht nicht darin, dass die KI uns zum Glauben zwingt. Sie besteht darin, dass sie uns genau die Antwort gibt, die wir anzunehmen bereit waren.

Wissenschaft unterscheidet sich nicht durch die Abwesenheit von Fehlern, sondern durch ihre Fähigkeit, sie offenzulegen und ihre Schlussfolgerungen zu revidieren. Die Affäre um die N-Strahlen gilt als berühmte kollektive Illusion und veranschaulicht zugleich diese Fähigkeit zur Selbstkorrektur. Vielleicht ist dies das beste Modell für generative KI: sie umfassend zu nutzen, aber um sie herum eine aktive Kultur des Widerspruchs zu organisieren.

Rocard und Blondlot blicken uns nicht aus einer naiven Vergangenheit an. Sie halten uns einen Spiegel vor. Ihr Fehler bestand nicht darin, eine kühne Hypothese erdacht zu haben. Er bestand darin, der Hypothese zu erlauben, ihren Augen beizubringen, was sie sehen sollten. Heute lesen unsere Augen hellere Bildschirme und schnellere Antworten. Unsere Verantwortung bleibt dieselbe: Überzeugung niemals zu lange vor den Beweisen herlaufen zu lassen.