Erst kürzlich war der Mathematikprofessor Steven Strogatz den Tränen nahe, als er gegenüber der „New York Times“ über die Auswirkungen von KI auf sein Fach sprach. Befinden wir uns an der Schwelle zu einem massiven Wandel – in Wissenschaft und Gesellschaft?
Wollen Sie, dass ich eine Prognose abgebe?
Eher eine Einschätzung der Lage.
Ich bin keine Mathematikerin, aber mir scheint das die falsche Sichtweise zu sein. Zunächst einmal ähnelt die Mathematik der Philosophie darin, dass die Antwort auf eine Frage gleich hundert weitere aufwirft. Das ist die Schönheit des Wissens: Sobald man eine Antwort hat, kann man immer eine weitere Frage stellen. Ein weiterer Punkt ist: Inwieweit diese Antworten tatsächlich richtig sind, bleibt unklar. Es wird sehr lange dauern, sie zu überprüfen. In einigen Fällen hat sich bereits gezeigt, dass Antworten, von denen man annahm, sie seien richtig, sich als falsch erwiesen. Und ein dritter Punkt bleibt, dass selbst in solchen Fällen, in denen KI eine richtige Antwort liefert, ein Prozess stattfindet, in dessen Verlauf wir die Antwort erst verstehen müssen: Gilt es tatsächlich als Verstehen, wenn wir es nicht verstehen? Wohl eher nicht.
Gibt es einen qualitativen Unterschied bei KI, den andere Technologien nicht aufweisen?
Jede Technologie bringt etwas qualitativ Neues mit sich und ist gleichzeitig einfach nur eine weitere Technologie. Künstliche Intelligenz verändert einige Arbeitsplätze. Andere bleiben dagegen unberührt. Es ist immer noch sehr aufwendig, sicherzustellen, dass der KI keine Fehler unterlaufen, sie zu überwachen.

In Ihrem neuen Buch „Die Macht der Prophezeiung“ beschreiben Sie KI als etwas, das gleich einem Spiegel funktioniert. Sie imitiert Sprache und Bilder. Beruht ein Großteil des Hypes damit letztlich auf einer narzisstischen Kränkung?
Man ist geblendet von einer Technologie, die uns sehr gut nachahmt. Doch wie Platon bereits wusste, ist die Nachahmung von etwas nicht das Ding selbst. Empathie ist ein gutes Beispiel: KI kann Empathie – zumindest sprachlich – bis zu einem gewissen Grad nachahmen. Das bedeutet aber nicht, dass es sich um echte Empathie handelt und dass wir daraus etwas ziehen könnten, was uns echte Empathie gibt. Ein Teil des Hypes dreht sich darum.
In den letzten Jahrzehnten wurde Rationalität vor allem mit bürokratischen Aufgaben wie Rechnen, Sortieren und Strukturieren in Verbindung gebracht. Hängt die Begeisterung für KI mit diesem speziellen Verständnis von Rationalität zusammen?
Wir haben die Bedeutung einer bestimmten Auffassung von Rationalität überschätzt und die Bedeutung von Vernünftigkeit unterschätzt.
Wir haben einer Logik der Effizienz große Bedeutung beigemessen, also dem Ziel, auf dem schnellsten und kürzesten Weg von einem Punkt zu einem anderen zu gelangen. Dabei haben wir es versäumt, grundlegende Fragen zu stellen: Warum wollen wir diesen Punkt überhaupt erreichen? Sollten wir lieber ein anderes Ziel anstreben?
Ihr Buch befasst sich im Wesentlichen mit Prophezeiungen. Was einst das Orakel von Delphi war, sind heute KI-Systeme – wäre die zugespitzte These. Wie unterscheiden sie sich?
Nicht genug, als dass man beruhigt sein könnte. Wenn Propheten an die Macht gelangen und Menschen beginnen, sich übermäßig auf Vorhersagen zu verlassen, ist das meist ein Zeichen für ein Machtvakuum. Das Vakuum wiederum ist oft ein Symptom dafür, dass Menschen Unsicherheit empfinden und in Panik geraten. Dann neigen sie dazu, sich einem Propheten zu unterwerfen und ihn zu fragen, wie die Zukunft aussieht und was sie tun sollen. Das ist aus demokratischer Sicht ein schwerwiegender Fehler, denn im Grunde überträgt man damit Macht an jemanden, der ebenso wenig weiß, wie die Zukunft aussieht, und möglicherweise nicht nach bestem Wissen und Gewissen entscheidet, sondern eigene Ziele verfolgt.

Wie agiert KI denn mittels Prophezeiungen?
Zum einen ist die Maschine selbst eine Vorhersagemaschine. Sie agiert durch Prognosen. Zum anderen spielen die Aussagen von Führungskräften aus der Techbranche eine Rolle, die – wenn man ihnen zuhört – mehr über die Zukunft als über die Gegenwart sprechen, was sehr bemerkenswert ist.
Sie sagten in einem Interview, dass die Zukunft durch Vorhersagen geschaffen wird. Wie meinen Sie das?
Wir neigen zu der naiven Sicht, dass es bei Vorhersagen darum geht, die Zukunft so zu sehen, als ob sie bereits da draußen wäre und feststünde. Vorhersagen erschaffen jedoch bereits die Welt, die man vorhersagt. Das gilt insbesondere für gesellschaftliche Vorhersagen, denn sie neigen dazu, sich selbst zu erfüllen.
Und welche Zukunft streben die heutigen KI-Propheten an?
Wenn ich Ihnen sage, dass wir in Zukunft KI für alles und überall nutzen werden, dann gebe ich Ihnen genau genommen eine Anweisung, diese Vision einer Welt zu verwirklichen. Sie könnten sich unsicher fühlen, wenn Sie keine KI nutzen – das Gefühl haben, dass Sie etwas verpassen und den Anschluss verlieren. Propheten verkaufen eine Zukunftsvision. Wenn Sie über genügend Glaubwürdigkeit verfügen, drängt das Menschen dazu, so zu handeln, dass ihre Vision letztlich wahr wird.
Sie wechseln zwischen Prophezeiungen und Prognosen. Dazu gibt es noch eine dritte Kategorie: Wahrscheinlichkeiten. All diese Kategorien befassen sich zwar mit der Zukunft, aber gibt es nicht einen wesentlichen Unterschied in ihren jeweiligen Funktionsweisen?
Nein. Ich habe das Buch über Prophezeiungen geschrieben, um darauf aufmerksam zu machen, dass keine Vorhersage jemals eine Tatsache sein kann. Bei einer Vorhersage geht es per definitionem um die Zukunft, und die Zukunft ist noch nicht eingetreten. Tatsachen gehören der Vergangenheit und der Gegenwart an, nicht der Zukunft. Und deshalb kann eine Vorhersage niemals eine Tatsache sein. Der Begriff Prophezeiung macht darauf aufmerksam, dass Vorhersagen hinterfragt werden sollten, und Wahrscheinlichkeit ist ein Werkzeug bei der Erstellung von Vorhersagen und Prophezeiungen. Bis zu einem gewissen Grad verwende ich die Begriffe Vorhersage und Prophezeiung als Synonyme.
Wenn wir uns KI-Systeme ansehen, die historische Fakten, Zitate und Ähnliches auch mal erfinden, müsste man dann nicht sagen, das Besondere an KI besteht darin, dass Vorhersagen über die Vergangenheit getroffen werden – also Fakten in Kontingenz verwandelt werden?
Nein. Wenn KI eine Vorhersage über die Vergangenheit trifft, ist das eine Art, Sprache zu nutzen. Es gibt aber Tatsachen über die Vergangenheit. Denn Fakten gehören zur Vergangenheit.
KI-Systeme bilden Sätze auf der Grundlage von wahrscheinlichen Zusammenhängen. Wenn sie etwas über die Vergangenheit schreiben, nutzen sie Vorhersagemodelle, um Aussagen über die Vergangenheit zu treffen.
Sprachmodelle treffen keine Vorhersagen über die Welt, sie treffen Vorhersagen über Sprache. Sie haben keine Vorstellung von der Welt, sie haben keine Erfahrung mit der Welt, sie analysieren Sprache. Wenn ein Sprachmodell erklärt, die Russische Revolution habe 1917 begonnen, betrachtet es nicht die Vergangenheit, sondern Sprache. Was haben andere Menschen darüber gesagt, wann die Russische Revolution begann? Und daher gibt es eine mögliche Antwort aus – „möglich“ in dem Sinne, dass es wahrscheinlich ist, eine Person würde die gleiche Antwort geben und eine andere sie als gültig akzeptieren.
Entwickler von KI-Systemen sprechen häufig von existenziellen Risiken. Handelt es sich dabei um eine Strategie, die eigene Technologie unverzichtbar zu machen?
Es funktioniert wie eine Marketingstrategie. Dabei werden die ganz realen Probleme ignoriert, die sich direkt vor unseren Augen abspielen – und zwar im Hier und Jetzt, nicht nur hypothetisch. Stattdessen wird der Fokus auf die Zukunft gerichtet. Perverserweise werden politische Entscheidungsträger und Bürger dazu verleitet, ebenjenen mehr Macht zu geben, die uns ganz unverblümt erzählen, dass sie etwas erschaffen, was möglicherweise das Ende der Welt bedeuten könnte. Würden wir sie ernst nehmen, stünde vermutlich schon die Polizei vor ihrer Haustür.
Angesichts der immensen Investitionen, die nicht nur in die KI-Labore selbst, sondern auch in die gesamte Infrastruktur geflossen sind: Ist das Vorhaben längst – wie Banken in der Finanzkrise 2008 – „too big to fail“?
Das ist sicherlich ein Grund zur Sorge. KI ist potentiell die teuerste Wette, die wir je eingegangen sind. Und die Frage ist: Wird sie sich auszahlen? Im Moment ist das noch sehr unklar. Und solange das so ist, stellt sich die Frage, ob wir nicht versuchen sollten, die potentielle Blase langsam zu reduzieren, anstatt darauf zu warten, dass sie auf einmal platzt. Hinzu kommt, dass „Künstliche Intelligenz“ nur ein leeres Etikett ist. Es bedeutet nichts. Wir versehen die Technologie nur mit einer Bezeichnung, die Menschen davon überzeugen soll, sie zu nutzen.
Was wäre eine bessere Bezeichnung?
Automatisierung oder maschinelles Lernen. Ich hoffe jedenfalls, dass wir in Zukunft eine bessere Technologie entwickeln werden – eine, die nicht auf Überwachung und Vorhersage basiert, den beiden wirksamsten Methoden der sozialen Kontrolle. Und eine, die nicht so energieintensiv und zuverlässiger ist. Wenn man sich die Misserfolge der KI ansieht, wird deutlich, dass bessere Technologie möglich ist.
Carissa Véliz: „Die Macht der Prophezeiung – Von den Orakeln der Antike bis zur KI“. Aus dem Englischen von Frank Sievers, Suhrkamp, 432 Seiten, 30 Euro.
