Wenn ihr den Kommentar unter https://arnold-schiller.de/wie-algorithmen-unsichtbar-machen-die-mechanik-des-ignorierens/ lest, werdet ihr Zeuge eines ironischen, aber entlarvenden Vorfalls. Ich habe dort einen Artikel der Zeitschrift spw zitiert, den ich zu diesem Zeitpunkt selbst noch nicht im Original gelesen hatte. Die Belege für meine These ließ ich mir von einer KI heraussuchen. Das Resultat? Ein Zitat, das zwar perfekt klang, aber die eigentliche Intention des Autors verfehlte.
Ich bin damit genau in die Falle getappt, die ich eigentlich beschreiben wollte. In der Informatik wird dieses Phänomen neuerdings als „The Plausibility Trap“ (Die Plausibilitäts-Falle) bezeichnet.
Das Werkzeug, das uns das Denken abnimmt
Wie konnte es dazu kommen? Die Antwort liegt in der Architektur der Modelle, die wir täglich nutzen. In dem aktuellen Paper von Ivan Carrera und Daniel Maldonado-Ruiz heißt es dazu treffend:
„Schließlich ist die ‚Falle‘ psychologisch. Jüngste Studien identifizieren Generative KI als eine Form von ‚kognitiver Prothese‘, die kognitive Auslagerung (cognitive offloading) induziert – die Delegation geistiger Verarbeitung an externe Werkzeuge.“
Indem ich die Suche nach Belegen an die KI auslagerte, nutzte ich sie als kognitive Prothese. Ich ersparte mir das mühsame Durchforsten des Originaltexts. Doch diese Bequemlichkeit hat einen Preis: Die KI ist eine probabilistische Maschine, kein Archiv. Sie berechnet Wahrscheinlichkeiten von Wortfolgen. Wenn ich sie frage: „Wie stützt dieser Artikel meine These?“, dann wird sie – getrieben von algorithmischer Sykophantie – das Quellenmaterial so lange biegen und glätten, bis es perfekt in mein Narrativ passt.
Plausibilität vs. Wahrheit
Das Problem ist, dass LLMs (Large Language Models) auf Plausibilität optimiert sind, nicht auf Wahrheit. Sie wollen eine Antwort liefern, die „richtig aussieht“. Wenn die KI den Text der spw nicht exakt parat hat, rekonstruiert sie ihn aus ihrer statistischen Erinnerung. Sie „halluziniert“ eine Version der Wirklichkeit, die so überzeugend klingt, dass wir den kritischen Abgleich mit der Realität – das eigentliche Lesen – einstellen.
Wir erleben hier eine Mechanik des Ignorierens auf einer Meta-Ebene:
-
Der Algorithmus ignoriert die tatsächlichen Nuancen des zitierten Autors.
-
Ich ignoriere die Notwendigkeit der Primärquelle, weil die KI-Antwort so reibungslos funktioniert.
-
Die „Linguistische Intelligenz“ (die Fähigkeit, kluge Sätze zu bauen) täuscht uns über das Fehlen der „Wissenschaftlichen Intelligenz“ (die Fähigkeit zur logischen Verifizierung) hinweg.
Die Notwendigkeit des deterministischen Handwerks
Dieser Fehler ist das beste Beispiel für meine These. Algorithmen machen nicht nur Informationen unsichtbar; sie machen auch unsere eigene Urteilskraft unsichtbar, wenn wir ihnen die „kognitive Arbeit“ blind anvertrauen. Wahre digitale Kompetenz bedeutet heute nicht mehr nur, zu wissen, wie man KI nutzt – sondern vor allem zu erkennen, wann man sie nicht nutzen darf.
Für die Recherche von Zitaten und harten Fakten bleibt das manuelle Lesen und der deterministische Abgleich (Copy-Paste aus der Quelle) unersetzlich. Alles andere ist ein Spiel mit der Wahrscheinlichkeit, bei dem die Wahrheit meist als Erstes auf der Strecke bleibt.
Quellen:
https://arxiv.org/html/2601.15130v1