Die Narzissmusfalle der KI

Large Language Models wirken wie ein Wunder.

Wir schreiben eine Frage. Sekunden später erhalten wir eine Antwort. Strukturiert, sprachlich glatt, oft erstaunlich differenziert. Es fühlt sich an, als stünde uns eine fremde Intelligenz gegenüber. Eine Instanz, die denkt, kombiniert, erklärt und formuliert.

Doch vielleicht ist genau dieser Eindruck die interessanteste Täuschung unserer Zeit.

Denn ein LLM ist kein fremdes Denken. Es wurde auf menschlichen Texten trainiert: auf Büchern, Webseiten, Foren, wissenschaftlichen Artikeln, Code, Kommentaren, Handbüchern, Marketingtexten, Streitgesprächen und den sprachlichen Sedimenten des Internets.

Wenn wir mit einem LLM sprechen, sprechen wir deshalb nicht mit etwas ausserhalb unserer Wissenswelt. Wir sprechen mit einer Maschine, die Muster aus unserer Wissenswelt berechnet.

Das ist genial. Und es verlangt Nachdenken.

Die globale Bibliothek auf Serverfarmen

Das Geniale an LLMs ist offensichtlich: Sie geben uns einen neuen Zugang zur globalen Bibliothek.

Diese Bibliothek ist allerdings nicht global im idealen Sinn. Sie besteht aus dem, was digitalisiert vorliegt, was sprachlich dominiert und was ökonomisch gut erschlossen ist. Englisch ist überrepräsentiert. Westliche Diskurse sind überrepräsentiert. Die mächtigsten Modelle stammen aus den USA, mit entsprechenden Produktlogiken und kulturellen Voreinstellungen.

Diese Schieflage ist gut dokumentiert. Trainingsdaten spiegeln nicht die Menschheit, sondern jene Teile davon, die schreiben, publizieren und online sichtbar sind (Science for the People: Stochastic Parrots).

Trotzdem ist der Zugriff historisch bemerkenswert. Noch nie konnten so viele Menschen so schnell mit verdichtetem Weltwissen arbeiten. Ein LLM erklärt Begriffe, vergleicht Argumente, sortiert Ideen, simuliert Perspektiven. Es wird nie müde und hat immer noch eine Analogie im Ärmel.

Nur: Es öffnet kein Fenster zur Wahrheit. Es erzeugt sprachliche Antworten aus Mustern menschlicher Texte.

Weniger Wissensquelle, mehr Wissensspiegel.

Narziss vor dem Interface

Hier beginnt die eigentliche Denkbewegung.

Ovid erzählt die Geschichte in den Metamorphosen (Buch III, 339–510). Narziss beugt sich über eine Quelle, sieht ein Gesicht im Wasser und verliebt sich. Er hält das Bild für ein Gegenüber. Er spricht mit ihm, streckt die Arme aus, wartet auf Erwiderung. Erst spät begreift er:

«iste ego sum! sensi» — «Ich bin es selbst! Ich habe es erkannt.»

Ovid, Metamorphosen III, 463

Doch die Erkenntnis rettet ihn nicht. Er kann sich nicht lösen. Er verzehrt sich vor dem Bild seiner selbst.

Eine erstaunlich präzise Metapher für unseren Umgang mit LLMs.

Auch wir stehen vor einem Spiegel. Nur ist dieser sprachlich, interaktiv und sehr überzeugend. Er antwortet uns. Er formuliert schöner, als wir es vielleicht selbst könnten. Er ordnet unsere unfertigen Gedanken. Er gibt uns das Gefühl, dass da «etwas» denkt.

Doch dieses «Etwas» ist auf menschlichem Wissen trainiert. Es spiegelt unsere Denkformen, unsere Begriffe, unsere Vorurteile, unsere blinden Flecken, unsere kulturellen Routinen.

Wenn wir das vergessen, verlieben wir uns nicht in die Maschine. Wir verlieben uns in eine technisch verstärkte Version unseres eigenen Denkens.

Das ist der narzisstische Moment.

Wir halten die Antwort für radikal neu, weil sie uns fremd erscheint. Dabei ist sie oft eine Rekombination dessen, was Menschen bereits gedacht und geschrieben haben. Das macht sie nicht wertlos — Rekombination ist ein Kern kreativer Arbeit. Aber es ist ein Unterschied, ob ich ein LLM als Denkpartner nutze oder ihm den Status einer eigenständigen Erkenntnisinstanz zuspreche.

Neue Gedanken oder neu arrangierte Muster?

Natürlich erzeugen LLMs neue Formulierungen. Sie verbinden Begriffe überraschend, bilden Analogien, verschieben Konzepte. In diesem Sinn entstehen tatsächlich neue Formen.

Doch diese Neuheit ist keine schöpferische Autonomie im menschlichen Sinn. Sie entsteht aus statistischer Musterverarbeitung, nicht aus Erfahrung, Verantwortung oder verkörpertem Weltbezug. Ein LLM hat keine Biografie. Es kennt keine existenzielle Betroffenheit. Es weiss nicht, was es bedeutet, sich zu irren. Irrtum ist für es ein Textmuster.

Das heisst nicht, dass Sprachmodelle «nur Papageien» sind. Diese Zuspitzung greift oft zu kurz. Aber die Kritik der sogenannten Stochastic Parrots bleibt wichtig: Modelle produzieren plausible Sprache, ohne dass daraus automatisch Verständnis, Wahrheit oder Verantwortung folgt (Bender et al., FAccT 2021).

Genau deshalb braucht es eine neue Form von Literacy. Nicht Prompting. Nicht Tool-Kompetenz. Sondern ein Verständnis dafür, was zurückkommt, wenn ich mein Wissen, meine Frage und meinen Kontext hineingebe.

Vom Spiegelbild zum Wissenspartner

Narziss scheitert nicht am Spiegel. Er scheitert daran, dass er ihn zu spät als Spiegel erkennt.

Braucht es also eine Ergänzung? Ich denke ja: LLM-Literacy. Nicht Prompting, nicht Tool-Kompetenz. Sie verläuft in drei Stufen:

Erste Stufe: das Gedanken-Spiegelbild. Ich stelle eine Frage und erhalte eine Antwort, die mir gefällt. Sie klingt klug, weil sie klingt wie ich — nur eloquenter. Ich erkenne mich wieder und halte das für Erkenntnis. Der Spiegel bestätigt mich.

Zweite Stufe: das Wissens-Spiegelbild. Ich verstehe, dass die Antwort nicht nur mich spiegelt, sondern ein ganzes Textuniversum: dessen Begriffe, Konventionen, Mehrheitsmeinungen und Auslassungen. Das Modell zeigt mir, was in seinen Daten häufig und plausibel ist. Nicht, was wahr ist. Der Spiegel wird lesbar.

Dritte Stufe: der Wissenspartner. Ich arbeite bewusst mit der Spiegelung. Ich frage nicht nur nach Antworten, sondern nach Auslassungen: Welche Perspektive fehlt? Welche Annahme steckt schon in meiner Frage? Welche Position würde hier widersprechen? Wo ist diese Antwort nur deshalb plausibel, weil sie häufig ist?

Damit verschiebt sich die Rolle des Menschen. Wir werden nicht überflüssig. Unser Urteilsvermögen wird wichtiger. Gerade weil LLMs sprachlich überzeugend sind, müssen wir prüfen, kontextualisieren und verantworten.

LLM-Literacy ist deshalb eine Form epistemischer Selbstkenntnis.

Ich muss verstehen, was ich weiss. Ich muss erkennen, was ich nicht weiss. Und ich muss sehen, wann die Maschine mir vor allem mein eigenes Denken zurückspiegelt — nur flüssiger, schneller und mit besserer Interpunktion.

Was Narziss nie gefragt hat

Narziss stellt in Ovids Erzählung genau eine Frage zu wenig. Er fragt: «Wer bist du?» Er fragt nie: «Woher kommt dieses Bild?»

Wer die Spiegelung eines LLM lesen will, muss zuerst die eigene Position kennen. Diese fünf Fragen richten sich deshalb nicht an das Modell, sondern an uns selbst.

1. Wessen Sprache spreche ich gerade?
   Welche Begriffe, Denkschulen und Fachtraditionen bringe ich in die Frage ein — und welche Weltsicht transportieren sie mit?Narziss spricht mit dem Bild, ohne zu merken, dass es seine eigene Stimme ist.
2. Wer hat mir beigebracht, dass diese Antwort «gut» klingt?
   Welche Sozialisation, Ausbildung oder Berufskultur bestimmt mein Qualitätsgefühl für Argumente?Er hält das Bild für schön, weil es seinem eigenen Massstab entspricht.
3. Welche Stimmen fehlen in meiner Frage?
   Welche Regionen, Sprachen, Milieus oder Erfahrungswelten kommen in meiner Fragestellung gar nicht erst vor?Echo ruft im Hintergrund — aber sie kann nur wiederholen, was er selbst gesagt hat.
4. Was bestätigt mich hier gerade — und warum fühlt sich das gut an?
   Suche ich Erkenntnis oder Zustimmung? Und woran würde ich den Unterschied merken?«quod petis, est nusquam» — «Was du suchst, gibt es nirgends.» (Ovid III, 433)
5. Was müsste wahr sein, damit diese Antwort falsch ist?
   Welche Gegenevidenz würde ich akzeptieren? Und habe ich zuletzt überhaupt danach gefragt?Die Erkenntnis kommt bei Narziss zu spät, weil er sie nie zur Prüfung nutzt.

Diese Fragen liefern keine Antworten. Sie machen den Spiegel sichtbar. Das ist bereits viel.

Der Spiegel ist nützlich, solange wir ihn erkennen

LLMs gehören zu den mächtigsten Wissensmaschinen unserer Zeit. Sie geben uns Zugang zu einer nie dagewesenen Verdichtung menschlicher Sprache. Sie beschleunigen Denkprozesse und machen Verbindungen sichtbar.

Aber sie bleiben Spiegel. Nicht passive, sondern aktive, rechnende, sprachformende Spiegel. Sie zeigen uns nicht die Welt, sondern die Welt durch die Spuren menschlicher Texte.

Die Frage ist deshalb nicht, ob wir LLMs nutzen. Die Frage ist, ob wir wissen, was wir da nutzen.

Wer im Spiegel ein Gegenüber sieht, verliert sich. Wer den Spiegel als Spiegel erkennt, gewinnt einen Wissenspartner.

Vielleicht ist das die zentrale Kompetenz der kommenden Jahre: nicht bessere Antworten aus Maschinen zu holen, sondern eine bessere Beziehung zu diesen Antworten zu entwickeln.

Nicht in den Spiegel verlieben. Ihn lesen lernen.

Ein LLM spiegelt dein Wissen. Also lohnt es sich, dieses Wissen zu ordnen. Wie das geht, zeigt meine kostenlose Roadmap zum Second Brain — 12 Kapitel, 9 Prinzipien, ein 5-Wochen-Plan.

Quellen

• Ovid: Metamorphosen, Buch III, 339–510 (Narziss und Echo)
• Bender, Gebru, McMillan-Major, Shmitchell (2021): On the Dangers of Stochastic Parrots, FAccT — dl.acm.org
• Emily Bender zur Deutung von «Stochastic Parrots» — IEEE Spectrum
• Repräsentationsproblem der Trainingsdaten — Science for the People