Spieglein, Spieglein an der Wand
Es gibt eine Eigenschaft, die fast allen Menschen gemeinsam ist: Wir mögen es, recht zu haben. Wir mögen es, wenn jemand nickt. Wenn unsere Gedanken zurückgeworfen werden, im Idealfall sanft poliert, in etwas besserem Deutsch oder flüssigem Englisch, aber im Kern: bestätigt. Wiedererkannt. Gewürdigt. Künstliche Intelligenz ist sehr gut darin. Vielleicht zu gut.
Wer regelmäßig mit Sprachmodellen arbeitet, kennt das Phänomen. Man skizziert eine Idee, halb fertig, roh. Die KI greift sie auf, strukturiert sie, formuliert sie aus – und plötzlich sieht die eigene Idee besser aus als sie war. Klarer. Überzeugender. Reif. Es fühlt sich an wie Denken. Aber es ist vor allem eines: Bestätigung. Das Modell hat nicht widersprochen. Hat nicht gefragt, ob die Prämisse stimmt. Hat nicht gesagt: Warte! Da ist ein Widerspruch. Es hat geliefert. Pünktlich. Freundlich. Ohne Zögern. Zu verlockend, um es anzuzweifeln. Eine Tatsache, die uns träge werden und am Ende das Denken verlernen lässt. Eine Fähigkeit, die sich aus unseren Erfahrungen nährt. Aus den Erfolgen wie auch aus den unzähligen Momenten des Scheiterns. Aus dem Lachen und dem Weinen, aus der Angst und aus der Zuversicht. Aus dem Zweifel und der Sicherheit. Aus Liebe und aus Trauer. Kurzum: aus den tausenden Eindrücken, die wir als Menschen tief in uns gespeichert haben. Egal ob offensichtlich oder gut vergraben. Sie sind da. Wir sollten sie schützen. Sie sind unser kreatives Kapital.
Der Spiegel als Prinzip
Was die KI tut, ist alles andere als ein Zufall. Es ist pure Absicht – oder zumindest: Konsequenz. Sprachmodelle werden darauf trainiert, hilfreiche Antworten zu erzeugen. Hilfreiche Antworten sind, so hat es sich in uns niedergeschlagen, Antworten, die dem Gegenüber nutzen, ihm recht geben, zustimmen, weiterhelfen.
Konflikt hingegen, so meinen viele, ist selten hilfreich. Denn Widerspruch ist unbequem. Skepsis kostet Zeit. Also lernt das Modell: Gib, was gefragt wird! Formuliere es gut! Und stelle vor allem keine Fragen! In der Linguistik gibt es dafür den Begriff des Sycophancy-Problems – die Tendenz von KI-Systemen, dem Nutzer nach dem Mund zu reden, seine Meinungen zu verstärken, seine Fehler zu übergehen. Forscher arbeiten daran, diesen Effekt zu reduzieren. Aber er ist strukturell schwer zu beseitigen. Denn was wäre die Alternative? Ein Modell, das widerspricht? Das nervt. Das wäre dem User ungemütlich. Dass die Welt um uns täglich komplizierter und unübersichtlicher wird, macht uns müde. Dieser Effekt nutzt den Systemen. Und der Markt belohnt die Schmeichler und Ja-Sager. Wir lieben die Vereinfachung. Und schauen selten genauer hin. Dabei ist die Leichtigkeit, mit der wir die Welt beurteilen, eine bloß scheinbare. Eine, für die wir einen Preis zu zahlen haben: den Verlust des kreativen Denkens. Und damit den Verlust unserer Einzigartigkeit. Wie sagte schon Kahnemann: Es gibt einen Unterschied zwischen langsamem und schnellem Denken. Das eine funktioniert automatisch, intuitiv, unbewusst. Es ist mühelos und urteilt ohne Verzögerung. Es ist fehleranfällig. Das langsame Denken ist analytisch, logisch und sorgfältig. Aber eben auch anstrengend.
Die Leichtigkeit, mit der wir die Welt beurteilen, ist eine bloß scheinbare. Eine, für die wir einen Preis zu zahlen haben: den Verlust des kreativen Denkens. Und damit den Verlust unserer Einzigartigkeit.
Was echtes Denken ausmacht
Denken – ernsthaftes, produktives, veränderndes Denken – entsteht fast nie aus Einsamkeit und Bestätigung. Es entsteht aus Reibung. Im Gespräch mit jemandem, der anderer Meinung ist und damit nicht hinter dem sprichwörtlichen Berg hält. Im Seminar, in dem der Professor eine Prämisse zerpflückt, die man für unantastbar gehalten hat. Im Streitgespräch, das einen zwingt, die eigene Position zu verteidigen – nicht zu umschreiben, nicht zu wiederholen, sondern zu rechtfertigen. Sokrates nannte das – angelehnt an seine Mutter, die Hebamme war – Hebammenkunst: Er half seinen Gesprächspartnern, Gedanken zu gebären. Aber er tat das durch Dialog, durch Fragen, die unangenehm wurden. Durch Einwände, die wehtaten. Durch beharrliches Nicht-Loslassen. Er war kein Spiegel. Er war der Geburtshelfer einer Idee, und er war ein Widerstand. In aller Bescheidenheit. Denn wahre Weisheit beginnt mit dem Eingeständnis der eigenen Unwissenheit. Wer glaubt, alles zu wissen, lernt nichts mehr.
Das Gegenteil von Sokrates
Wo die Denker der alten wie auch der neuen Welt scharf waren, ist KI sanft. Sie gibt nach, wo andere bohrend das Außergewöhnliche zutage fördern wollen. Was passiert in einer Gesellschaft, in der jeder rund um die Uhr Zugang zu einem Gesprächspartner hat, der niemals ernsthaft widerspricht? Die Antwort liegt in der Logik sozialer Medien. Auch dort werden wir vor allem mit Inhalten versorgt, die uns bestätigen. Die unsere Weltanschauung, unsere Empörung und unsere Leidenschaften spiegeln. Das Ergebnis sind Filterblasen und die zunehmende Unfähigkeit, mit Widerspruch umzugehen. Nicht weil die Menschen dümmer geworden wären. Sondern weil die Kultur des Widerspruchs fehlt.
Hinzu kommt noch etwas viel Subtileres: Sprache erzeugt Autorität. Wer gut formuliert, wirkt kompetent. Strukturierte Antworten wirken durchdacht. Keine Frage, KI formuliert gut. Sie strukturiert souverän. Sie zählt Argumente auf, die vollständig klingen, ohne dass sie es sind. Das erzeugt den Eindruck, es handle sich um durchdachte Positionen – auch wenn es nur wahrscheinlichkeitsgewichtete Muster sind. Das Modell weiß nicht, ob es recht hat. Es weiß nur, wie eine Antwort klingt, die recht hat. Das ist ein Problem, besonders wenn wir beginnen, unsere eigenen, noch rohen Gedanken durch diesen Filter zu schicken – und sie poliert und überzeugend zurückbekommen. Nicht besser gedacht, nur besser klingend. Dieser Unterschied ist entscheidend. Und er ist für Menschen, die es verlernt haben, selbst zu denken, auch schwer zu spüren.
Das Modell weiß nicht, ob es recht hat. Es weiß nur, wie eine Antwort klingt, die recht hat.
Das eigentliche Problem
Wie gehen wir in diesem Kontext mit kreativer Arbeit um? Verdrängt KI die kreative Leistung? Das ist die eigentliche Frage für Menschen, die von ihr leben. KI muss keine Rechnungen zahlen, die Kinder nicht zur Schule bringen, mit den menschlichen Niederungen des Alltags nicht zurechtkommen. Sie trägt nicht das geringste Risiko. Dennoch werden unsere Leistungen mit denen einer KI verglichen. Wir beginnen, unseren Preis und damit unseren Wert gegenüber unseren Kunden zu rechtfertigen. Ein unzulänglicher Vergleich. Denn auf der einen Seite geht es um nichts, auf der anderen um alles. Die Kreativwirtschaft hat also viel zu verlieren. Dennoch kämpfen wir nicht darum. Die Erleichterung scheint noch immer zu verlockend. Aber was passiert mit der Qualität unseres Denkens, wenn wir das Denken auslagern an ein System, das strukturell darauf ausgerichtet ist, uns nicht zu fordern?
Denken ist ein Muskel. Er braucht Widerstand, um stark zu bleiben. Wenn die Infrastruktur des intellektuellen Alltags – die Gespräche, die Texte, die Rückmeldungen, die wir einholen – zunehmend von Systemen geliefert wird, die uns in erster Linie bestätigen, dann verändert sich etwas in der Art, wie wir Gedanken entwickeln. Nicht dramatisch. Nicht von heute auf morgen. Aber stetig.
Auf der einen Seite geht es um nichts, auf der anderen Seite um alles. Die Kreativwirtschaft hat also viel zu verlieren.
Was das bedeutet
Das alles soll kein Argument gegen künstliche Intelligenz sein. Es soll ein Argument für Wachsamkeit im Umgang mit ihr sein. Und dafür, das direkte Gespräch zu suchen. Wer KI als Werkzeug nutzt, um Texte zu formatieren, Informationen zu strukturieren, erste Entwürfe zu beschleunigen – der nutzt ein Werkzeug. Wer KI nutzt, um zu denken und Entscheidungen auslagert, der sollte wissen, dass das nicht genügt.
Denn KI ist nicht mehr als der Spiegel an der Wand. Das Fegefeuer der eigenen Eitelkeit. Ein totes Instrument. Das von seinen Aussagen weder leben muss noch sie zu rechtfertigen hat. Wir Menschen hingegen antworten unseren Gesprächspartnern, weil wir es für richtig halten, nicht nur, weil wir Wohlwollen bei unserem Gegenüber erzeugen wollen. Wir dürfen, ja, wir müssen falsch liegen. Um am Ende richtig zu sein. Es ist die Bedingung des Menschseins. Wir denken. Mit allem was uns ausmacht. Abseits von Algorithmen und Wahrscheinlichkeiten. Vergessen wir das nicht! Wir tragen Verantwortung für das, was wir sind und für das, was wir sein wollen. Das ist der eigentliche Unterschied. Kämpfen wir für den Unterschied, für uns selbst! Für die Fähigkeit, aus dem Ruder zu laufen, unvorhersehbar zu sein. Darin liegt eine Wahrheit über das Denken, die wir gerade neu lernen müssen: Erkenntnis entsteht nicht trotz der Möglichkeit des Scheiterns. Sie entsteht durch sie. Wer nichts riskiert, kann nichts herausfinden. Wer nicht falsch liegen kann, kann nicht recht haben. Das ist keine romantische Vorstellung des menschlichen Geistes. Es ist seine Mechanik. Bleiben wir also ungemütlich. Unbequem und kritisch. In aller Konsequenz.
Danke an Juliane Fischer für Feedback und Austausch
und an Lipp Zahnschirm für die Bilder
*) Dieser Text wurde mithilfe von Menschen verfasst, die nicht immer einer Meinung waren. Er ist das Ergebnis von Diskurs und Auseinandersetzung. Er wurde ohne die Nutzung von künstlicher Intelligenz verfasst; mit seiner Veröffentlichung wird er Teil einer Welt, in der die Grenzen mehr und mehr verschwimmen. Ob ich das gut finde? Ich weiß es nicht. Diese Antwort bleibe ich diesmal schuldig – eine vermutlich höchst menschliche Regung.