
Das sind die Randbedingungen für den diese Woche erwarteten Börsengang von Anthropic. Entsprechend setzt Firmengründer Dario Amodei auf ein Wunder. Das ist wörtlich gemeint: „Ich glaube, wenn wir das richtig angehen, können wir ein Zeitalter der Wunder erschaffen“, sagte er in einem Werbevideo für den Börsengang. Krebs, Alzheimer, Herzkrankheiten, psychische Leiden – all diese Krankheiten werden, so glaube er, in einem Jahrzehnt der Vergangenheit angehören. Welche grotesken Züge derartiger Glaube annehmen kann, beschrieb der Technologie-Chef des Softwareunternehmens Palantir jüngst in einem Interview: Softwareentwickler würden mit dem Rauchen anfangen, um ihr Vertrauen in die krebsheilenden Kräfte der KI zu untermauern.
Eine Kettenreaktion, die zur Superreaktion führt
Dabei steckt sehr wohl technologische Substanz hinter solchen Visionen. In einem Formular für die Börsenaufsicht schreibt Anthropic: „Unsere internen Schätzungen und unsere Erwartungen hinsichtlich zukünftiger Modelle […] deuten darauf hin, dass wir möglicherweise schon in Kürze unsere Definition von ‚durch KI bedingtem, dramatisch beschleunigtem Fortschritt‘ erfüllen werden.“ Das bedeutet, dass sich der KI-Fortschritt verdoppelt, und zwar dadurch, dass KI die Forschung an sich selbst übernimmt.
Das wäre tatsächlich ein großes Ding, im Guten wie im Schlechten. Forscher beschreiben den Prozess als „rekursive Selbstverbesserung“. Die KI optimiert sich selbst ein bisschen, und diese optimierte Version verbessert wiederum die nächste Generation und so weiter. Aus dieser Kettenreaktion geht irgendwann eine Superintelligenz hervor. Sie ist menschlicher Intelligenz überlegen, kann die Forschung an Dingen wie der Krebsmedizin beschleunigen und mehr oder weniger jeden Job übernehmen. Die Schattenseite ist, dass wir die KI dann nicht mehr verstehen könnten und sie sich unserer Kontrolle entziehen könnte. Die Horrorszenarien von der Auslöschung der Menschheit durch KI basieren zum Großteil auf der Erzählung der rekursiven Selbstverbesserung.
Experten sehen übermenschliche KI schon 2027 kommen
Teile der Industrie fragen gar nicht, ob dieser Kipppunkt in der KI-Entwicklung kommen wird, sondern nur noch, wann. Und die Antwort lautet: früher, als sie bisher dachten. Experten des „AI Futures Project“, die bisher ziemlich genau KI-Entwicklungen vorhergesagt haben, rechnen nun damit, dass der Kipppunkt bereits 2027 kommen wird – bisher waren sie von „irgendwann vor 2029“ ausgegangen. Buck Shlegeris, Chef der KI-Sicherheitsfirma Redwood Research, meint, dass wir nächstes Jahr eine Superintelligenz haben werden.
Worauf die Einschätzungen basieren
Metr mag finanziell von Anthropic unabhängig sein. Man muss aber bedenken, dass die Non-Profit-Organisation keine rein wissenschaftliche Einrichtung ist. Metr ist Teil der KI-Industrie – und hat dort eine herausgehobene Position: Als Anthropic-Chef Amodei im September vorschlug, dass KI-Firmen externe Sicherheitsgutachter in ihre Arbeit einbetten sollten, schlug er explizit Metr als Kandidaten vor.
Trotzdem kann man die Einschätzung als eine transparente Analyse des Fortschritts bei Anthropic lesen. Metr durfte Informationen anfragen und Anthropic-Mitarbeiter interviewen. Ein Kernpunkt der Analyse basiert auf Benchmarks. Das sind automatisch durchgeführte Tests, die die Fähigkeiten von Sprachmodellen bewerten. Metr konnte auch die Benchmarks von bisher unveröffentlichten Modellen einsehen. Auf dieser Grundlage basiert die Einschätzung der Beschleunigung: Die Benchmark-Werte der Anthropic-Modelle stiegen seit Oktober 2025 etwa 1,9-mal schneller als vorher.
Diese Detials wurden geschwärzt
Entscheidend ist, woher diese Beschleunigung rührt. Der Bericht kommt zu dem Schluss, dass die KI-Entwickler bei ihrer Arbeit nun besser durch KI unterstützt würden. Dass also Menschen dank der KI schneller Code schreiben oder Experimente durchführen können. Es ist also nicht die viel beschworene KI, die selbständig Beiträge zu ihrer eigenen Entwicklung leistet. Metr schließt diese Möglichkeit aber nicht aus: „Die Entwickler beschrieben jedoch deutliche ‚Lebenszeichen‘, die darauf hindeuten, dass solche Beiträge bald möglich sein könnten“, heißt es in dem Bericht. Doch Details zu diesem Punkt, wie zu vielen anderen, wurden von Anthropic vor der Veröffentlichung geschwärzt.
Eine weitere Unsicherheit ergibt sich aus den Benchmarks. Sie enthalten klar definierte und automatisch bewertbare Aufgaben. Echte Forschungsarbeit hingegen ist anders. Sie ist komplex und vielschichtig. Kann ein Benchmark also überhaupt messen, wie gut eine KI forschen und entwickeln kann? Das ist unklar. Und so kann es sein, dass die Benchmarks die realen Fähigkeiten der Modelle unter- oder überschätzen. Für das Unterschätzen nennt Metr selbst ein Beispiel: Obwohl sich die Benchmarks für Mathe-Aufgaben in letzter Zeit nicht großartig verbessert haben, war KI in der Lage, komplexe Millennium-Prize-Probleme aus der Mathematik zu lösen, an denen sich Menschen jahrzehntelang die Zähne ausgebissen haben.
Die anderen KI-Schmieden beschleunigen weniger
Die Verdoppelung beim Tempo ergibt sich ohnehin bloß aus dem Vergleich zu Anthropics eigener, früherer Entwicklungsgeschwindigkeit gemessen an den Benchmarks. Eine Erklärung, die man nicht ausschließen kann, lautet: Anthropic hat seine Modelle früher nicht so stark darauf optimiert, bei Benchmarks gut abzuschneiden. Eine Änderung dieser Praxis würde dann wie eine Beschleunigung der KI-Entwicklung aussehen, in Wahrheit aber gar nichts über die Fähigkeiten der Modelle aussagen.
Frage zu KI-Sicherheit aus dem Bericht gestrichen
Damit ist die Frage nach der „rekursiven Selbstverbesserung“ weiterhin offen – und zwar auch die Frage, ob sie jemals kommen wird. Klar ist aber: Die Fähigkeiten von KI-Modellen werden, gemessen an den Benchmarks, immer besser. Das bedeutet nicht unbedingt, dass die Systeme irgendwann superintelligent werden und Krebs besiegen. Es bedeutet aber, dass man verantwortungsvoll mit ihnen umgehen muss, weil sie Schaden anrichten können. Das weiß man spätestens, seit das Unternehmen Open AI seine KI-Agenten die Onlineplattform Huggingface angreifen ließ.
Anthropic unterstreicht diese Verantwortung gerne. Bei seiner Wunder-Ansprache sagte Amodei, dass sein Unternehmen die Risiken im Auge behält. Metr wollte das auch prüfen. Eine der Fragen in der Untersuchung lautete ursprünglich: Wie viel Rechenleistung investiert Anthropic in die Entwicklung von KI-Fähigkeiten und wie viel in die von KI-Sicherheit? Doch Anthropic habe sich mitten im Untersuchungszeitraum entschieden, sie zu streichen.
