Herr Mersch, kaum eine Woche vergeht, in der Techkonzerne nicht davor warnen, die KI-Branche rase auf eine apokalyptische „Superintelligenz“ zu. Ihre Bücher wirken dagegen fast beruhigend. Haben Sie keine Angst vor der Zukunft?
Künstliche Intelligenz kann in vielerlei Hinsicht nützlich und gefährlich sein. Dennoch darf man nicht den Werbesprüchen der Branche auf den Leim gehen. Ich glaube, wir müssen KI auf ihr Maß zurückbringen, sie als das betrachten, was sie wirklich ist. Es handelt sich um Mathematik-Maschinen, die zwar Beeindruckendes leisten, aber eine innere Grenze haben, über die sie nicht hinausgelangen. Genau diese Grenze will ich aufzeigen. Mir geht es um die Trivialisierung von KI einerseits und um die Aufwertung des spezifisch Menschlichen andererseits.
Ausgerechnet jetzt, da laufend neue Durchbrüche verkündet werden, sagen Sie, KI sei eine Trivialität?

Ich verwende „trivial“ in einem streng mathematischen Sinne: KI leistet Außerordentliches – ich benutzte sie selbst oft –, aber ihre Funktionsweise ist kein Wunderwerk. Wir haben es mit Algorithmen zu tun, die umsetzen, was in den mathematischen Modellen angelegt ist. Im Wesentlichen sind das Funktionen, die Daten optimieren und Muster erkennen. Das ist der Kern der gesamten KI-Bewegung. Grundsätzlich basieren die neueren, statistischen Modelle, über die heute meist gesprochen wird, auf Funktionen, die für eine Fragestellung die größtmögliche Wahrscheinlichkeit zu erreichen versuchen. Die Modellrechnungen selbst sind theoretisch nicht besonders anspruchsvoll, man könnte sie prinzipiell mit Stift, Papier und einfacher Gymnasialmathematik lösen – hätte man unendlich viel Zeit.
Aber ist das nicht das eigentliche Wunder: dass wir jetzt Maschinen haben, die mit einfacher Mathematik recht komplexen und relativ akkuraten sprachlichen Output erzeugen können?
Einerseits ja, andererseits liegt hier die Schranke, die den Modellen gesetzt ist. Sie können, das muss man immer wieder betonen, ausschließlich das, was sich mathematisieren lässt. Was nicht mathematisierbar ist, bleibt ihnen fremd. Und die Mathematik, auf der sie basieren, so meine These, verhindert, dass sie echtes Selbstbewusstsein und bedeutsames Denken erlernen können, wie wir beides vom Menschen her kennen. Denken hat mindestens diese konstitutiven Komponenten: Kreativität, Sinn und Reflexivität. Die Frage ist, inwieweit sich diese drei Momente ins Mathematische übersetzen lassen. Interessanterweise gab es in den Dreißiger- bis Fünfzigerjahren eine große Zeit der Philosophie der Mathematik, aus der drei Erkenntnisse hervorgegangen sind, die die Mathematisierbarkeit von Welt und Kognition stark einschränken.
Da sind zunächst die berühmten Gödelschen Sätze. Sie besagen, dass in jedem hinreichend komplexen mathematischen System wahre Sätze formulierbar sind, die sich weder beweisen noch widerlegen lassen. Das kann man verallgemeinern: Kein hinreichend komplexes System kann sich vollständig selbst beschreiben. Denn jedes System kann sich nur nach Maßgabe seiner eigenen Möglichkeiten und Einschränkungen beschreiben und nimmt daher diese Einschränkungen in seine Selbstbeschreibung mit hinein. Die zweite Erkenntnis stammt von Alan Turing. In seiner Dissertation zeigt er: Die Mathematik braucht Konzepte, aber die Erfindung eines Konzepts ist nicht wiederum Gegenstand mathematischer Formalisierung, sondern der Intuition. Echte Kreativität verlangt demnach andere Fähigkeiten als die, die innerhalb eines formalen Systems existieren. Übertragen auf KI heißt das: KI kann immer nur das, was die Datenbasis und ihre mathematische Strukturierung hergeben. Sie kann die Datenbasis variieren und darin neue Muster entdecken, die vorher kein Mensch erkannt hat. Aber sie kann nie darüber hinausgehen. Sie kann sozusagen nicht spontan von vorn anfangen und völlig neue Perspektiven einnehmen.

Und die dritte Beschränkung?
Sie stammt von Alfred Tarski. Weil mathematische Systeme immer nur formale, also syntaktisch funktionierende Systeme sind, lässt sich eine echte Semantik aus ihnen nicht ableiten. Gemeint ist etwa die Beurteilung von Daten als wahr oder falsch, aber auch die Unterscheidung, ob etwas relevant ist oder nicht. Das heißt nicht, dass KI-Systeme über keinerlei Semantik verfügen. Aber diese Semantiken sind selbst formal, also selbst wieder syntaktisch fundiert. Sie verfügen natürlich über eine beeindruckende Form von „Empirie“. Aber sie haben keinen Sinn für den Sinn, das ist das Entscheidende.
Das müssen Sie erklären.
Für KI-Systeme ist es mathematisch gleichgültig, ob sie Fakten oder Fakes präsentieren – beides sind Informationen. Anders ausgedrückt: Was immer sie tun, sie denken nicht über ihr „Denken“ oder ihre eigene „Denkweise“ nach, wenn man hier überhaupt von Denken sprechen will. Nehmen wir etwa an, wir fordern einen Computer auf, sein eigenes Funktionieren zum Gegenstand zu machen, gewissermaßen sein „Denken“ zu berechnen. Was würde passieren? Er würde seine Rechnung aufgrund von Rechenakten erstellen, die nicht wiederum selbst Teil der Rechnung sein können. Wird versucht, auch diese Rechenakte einzufangen und zu einem Output zu machen, sind neue Rechenakte erforderlich, die nicht Teil der ersten Rechenakte sein können usw. Der Versuch, sich selbst zu berechnen, führt ins Unendliche, wie ein Spiegel, der einen anderen Spiegel bespiegelt und dadurch unendlich viele Spiegel ineinander abbildet – bis der Speicher vollläuft und der Computer abbrechen muss.
Der Mensch verfügt über Reflexivität. Reflexivität ist etwas anderes als die eben beschriebene Rekursivität. Anders als der Computer bemerken wir, dass wir in unserem Denken des Denkens uns gleichsam immer schon vorweg sind. Das heißt: Denkakt und Denkinhalt kommen nie zur Deckung, in Ersterem steckt immer „mehr“, als sich im Inhalt ausdrücken lässt. Wir haben es mit einem „Überschuss“ zu tun, einer performativen Kreativität, die nicht auf die Inhalte des Denkens reduziert werden kann. Während also der Computer an reflexiver Selbstthematisierung scheitert, kann der Mensch genau diese Differenz von Denkakt und Denkinhalt, dieses Mehr des Denkens nutzen. Wir bemerken, dass wir denken, während wir denken. So hat der Mensch Zugang zu seiner Kognition nicht nur als nach festen Regeln erstelltem Output, sondern als ein Tun, als Praxis. Hier liegt der Schlüssel zur menschlichen Freiheit.
Die KI-Entwickler würden jetzt einwenden: Dafür gibt es jetzt Multiagenten- und Reasoning-Modelle. Die KI korrigiert inzwischen ihren Output selbst.
Das Besondere an KI-Modellen ist in der Tat ihre Simulativität, ihr So-tun-als-ob. Deshalb sieht es immer so aus, als sei der Unterschied zum Menschen kein echter. Die Idee der Backpropagation besteht darin, auf Vorhergehendes zurückzugreifen und Korrekturfunktionen einzusetzen. Diese Korrekturfunktionen sind aber rein formal. Sie rechnen die zugrunde liegenden Gleichungssysteme so um, dass sie sich während der Output-Erstellung weiter optimieren. Man könnte es auch so ausdrücken: Die Rechnung wird komplexer, aber sie ist nicht reflexiv im Sinne eines Bewusstseins. Sie kann es nicht sein, weil die eingesetzte Mathematik solche Formen der Reflexivität ausschließt. Mathematische Selbstkorrekturen können also nie grundlegend sagen: „Hoppla, ich erzeuge meinen Output immer gemäß bestimmter Rechenstrukturen, aber wäre es nicht besser, noch einmal ganz neu anzusetzen und eine Richtung einzuschlagen, die aus dem Rechensystem herausspringt und etwas nicht Vorgesehenes tut?“ Menschen machen so etwas ständig.

In Ihren Büchern weiten Sie Ihre „Kritik algorithmischer Rationalität“ aus und beziehen auch die Kunst mit ein, zu der KI grundsätzlich nicht in der Lage sei. Geht das nicht zu weit? Kreativität ist doch auf solch anspruchsvolles, reflexives Denken nicht angewiesen?
Darauf muss ich zunächst biographisch antworten. Als ich in den Siebzigern Mathematik und Philosophie studierte, war ich zugleich sehr aktiv in der Kölner Kunstszene. Ich habe mich immer gefragt: Was machen die da eigentlich? Mein Ansatz war zunächst recht naiv. Ich war neugierig und wollte wissen, warum wir das, was dort geschieht, Kunst nennen. Mit der Zeit habe ich verstanden, dass man nicht von einem einzelnen Werk ausgehen und fragen kann: Ist das Kunst oder nicht? Wer etwa vor Malewitschs „Schwarzem Quadrat“ steht und sagt: „Das kann ich auch, was soll daran Kunst sein?“, dem fehlen entscheidende Dimensionen.
Das Besondere dieses Bildes ist, dass es in der verdichtetsten Form die Frage nach dem Bild selbst stellt: Was ist ein Bild, was macht es aus? In seiner Armut, seinen elementaren Kontrasten sind wir mit einer Paradoxie konfrontiert. Ist das ein schwarzes Quadrat auf einem weißen Grund oder ein weißer Rahmen auf schwarzem Grund? Wir wissen nicht, was wir vor uns haben, und beginnen zu fragen: Ist das überhaupt ein Gegenstand, ist die Geometrie darin ein Gegenstand? Diese Dimensionen machen das „Bild“ erst aus. Und es hat eine lange künstlerische Vorgeschichte: die langsame Entfaltung genau dieser Grundfrage. All dies ist ohne einen Blick, der zugleich reflexiv seine Sehgewohnheiten und die Kunsttraditionen, in denen er steht, miteinbezieht, nicht verstehbar. Diese Einsicht hat mich von einer reinen Rezeptions- und Gefallensästhetik weggeführt. Künstlerische Praxis ist eine Denkpraxis. Sie arbeitet überwiegend nicht mit Begriffen und Argumenten, und dennoch ist sie der Philosophie vergleichbar. Deswegen kann KI nicht nur nicht denken, sie kann, weil sie nicht denkt, auch keine Kunst, zumindest nicht im strengen Sinne.

Aber ist die moderne Kunst mit ihren Selbstthematisierungen nicht ein Spezialfall und vieles andere von KI durchaus zu leisten, das dann täuschend echt aussieht?
Natürlich ist in der modernen Kunst Reflexivität in einer ganz expliziten Weise Thema. Dennoch würde ich meine These verallgemeinern. Nehmen Sie große Malerei wie Velázquez’ „Las Meninas“ oder Vermeers „Die Malkunst“: Dort ist jeweils eine ganze Philosophie der Kunst abgebildet. Das geschieht nicht nur in Selbstporträts, sondern auch durch Spiegel, geometrische Anordnungen oder Allegorik. Gefragt wird: Was sind wir eigentlich in der Welt? Wie verhalten sich Anschauung, Sehen und Blick zu unserem Weltverhältnis? Es geht immer um die Thematisierung eines Bezugs. Ähnliches gilt auch für weite Teile von Poesie, Literatur, Musik, Theater etc. KI-Kunst kann durchaus schön sein, vielleicht auch interessant – sie kann sogar bisherige menschengemachte Kunst extrem gut imitieren. Aber sie ist keine Kunst im Sinne einer Praxis, die sich reflexiv mit dem eigenen Sehen und der eigenen künstlerischen Tradition, mit elementaren Dimensionen unserer Existenz in der Welt auseinandersetzt. An dieser Unterscheidung müssen wir festhalten, auch wenn die Imitationen besser werden.
Das setzt einen Kunstbegriff voraus, der von der Produktionsseite her gedacht und durchaus anspruchsvoll ist.
Ja, mit voller Absicht. Mit meinen Büchern schreibe ich gegen weitverbreitete Trivialisierungen von Kunst und Denken an. Schon lange wird gesagt, Denken sei eigentlich nur Problemlösung oder Informationsverarbeitung und das Gehirn nichts weiter als ein Computer; kreativ sei alles, was in irgendeiner formalen Hinsicht neu erscheine; ferner bleibe Kunst prinzipiell undefinierbar und hänge schlicht von der Rezeption ab. All diese Reduktionismen werden im KI-Zeitalter fatalerweise zum Einfallstor für die Tech-Marktschreier, die verkünden, den Menschen ersetzen zu können. Die eigentliche Gefahr ist nicht, dass sie das wirklich schaffen, sondern dass wir die humane Intelligenz derart herabwürdigen, dass die monströse, unnatürliche Intelligenz der Mathematik-Maschinen identisch mit ihr erscheint.
Wie sähe eine Gesellschaft aus, die sich derartig den KI-Versprechen hingibt?
Die Folgen sieht man jetzt schon in der Wissenschaft. Viele meiner Kollegen sagen, seit es KI gibt, seien die Texte der Studierenden endlich besser geworden. Lesbarer sind sie, das stimmt. Aber es fehlt auch etwas. Das Interessante an der universitären Ausbildung ist ja, dass man mit jungen Menschen zu tun hat, und plötzlich liest man eine Stimme, die etwas ganz anders und neu sieht, auch wenn es vielleicht ungelenk oder verworren formuliert ist. Man hat Teil an einem genuinen Denkprozess, auch sprachlich. Unter KI-Bedingungen ist das nicht unmöglich, aber unwahrscheinlicher geworden. Soziologisch könnte ein solches Szenario – neben all den schon bekannten Problemen wie Deepfakes, Hacking, Falschinformation usw. – auf eine allgemeine Deprofessionalisierung und Stereotypisierung hinauslaufen.
Eine Annäherung des Menschen an das Maschinelle also.
In Kultur, Wissenschaft, Journalismus, Bildung wird man sich womöglich immer mehr mit scheinbar gut aussehenden oder funktionierenden Text- und Bildoberflächen zufriedengeben. Doch das Monstrum der Stereotypie lauert an allen Ecken: Die Texte werden klischeehaft, die Beobachtungen wiederholen sich, die Bilder wagen nichts mehr, die wissenschaftliche Erkenntnis bleibt unverstanden. Insgesamt droht uns eine gewaltige Verflachung unserer Kultur, die wir womöglich zu spät bemerken.
Dieter Mersch: „Eine monströse, unnatürliche Intelligenz“. Zur Kritik synthetischer Rationalität. Felix Meiner Verlag, Hamburg 2026. 341 S., Abb., br., 36,90 €.
Dieter Mersch: „Kann KI Kunst?“ Eine ästhetische Kritik. Herbert von Halem Verlag, Köln 2025. 410 S., Abb., br., 32,– €.
