Als Sören Auer Ende Mai einen Fachartikel für eine große KI-Konferenz begutachten sollte, witterte er Betrug. Der hannoversche Informatikprofessor hatte das PDF in eine Word-Datei umgewandelt, um den Text leichter bearbeiten zu können. Plötzlich kamen Sätze zum Vorschein, die im Original nicht zu sehen waren, weil sie in weißer Schrift auf weißem Hintergrund standen. Sie enthielten Anweisungen für Sprachmodelle, bestimmte Wendungen in ein mögliches Gutachten einzubauen. „In der Vergangenheit hatten Forschende auf ähnliche Weise versucht, positive Bewertungen zu erschwindeln. Also empfahl ich das Manuskript zur Ablehnung“, sagt Auer. Dann öffnete er das nächste Manuskript, und fand darin dieselbe Anweisung.
Nach einer kurzen Recherche stellte sich heraus: Nicht die Autoren hatten die Falle gelegt, sondern die Konferenz NeurIPS selbst. Die versteckten Anweisungen richteten sich an Gutachter, die ihre Arbeit unerlaubterweise von einer KI verrichten ließen. Diese KI sollte über die versteckten Instruktionen die gewünschten Wendungen in das Gutachten einbauen und die Übeltäter überführen.
Der Generalverdacht zeigt, wie tief Künstliche Intelligenz in den Forschungsbetrieb eingedrungen ist. Dass Gutachter auf Sprachmodelle zurückgreifen, hat mit dem rapiden Wachstum der Publikationstätigkeit seit der Einführung von ChatGPT und Claude zu tun. Das Verfassen von fachlich halbwegs korrekten Texten gelingt mittlerweile derart mühelos, dass Zeitschriften und Konferenzen mit Manuskripten und Anträgen überschwemmt werden.
Automatisierte Publikationsflut
Bei der Fachzeitschrift „Organization Science“ etwa stieg die Zahl der eingereichten Manuskripte seit der Veröffentlichung von ChatGPT Ende 2022 um 42 Prozent. Die Zunahme wird nahezu vollständig KI-verfassten Texten zugeschrieben. Besonders stark wachsen KI-Konferenzen. Ein soeben erschienenes Preprint der Universität Tübingen untersuchte Tausende Fachartikel, die im Dezember 2025 auf PubMed Central, einem wichtigen biomedizinischen Volltextarchiv, veröffentlicht worden waren. 89 Prozent wiesen Spuren von KI-Gebrauch auf, viel mehr als bei früheren Schätzungen. Bei der International Conference on Learning Representations ICLR, einer der größten, vervierfachten sich die Einreichungen von 2023 bis 2026.
Die Entwicklung trifft auf ein ohnehin überlastetes System. Laut einer aktuellen Umfrage des Verlag Frontiers unter rund 1600 Gutachtern verwenden 53 Prozent bei ihrer Arbeit Sprachmodelle, obwohl viele Verlage und Konferenzen das Hochladen von Manuskripten bei kommerziellen Anbietern verbieten. Die Deutsche Forschungsgemeinschaft beugte sich im April dem Realitätsdruck: Eine neue Leitlinie erlaubt einen begrenzten Einsatz von KI in der Begutachtung. Bis 2023 war er strikt untersagt.
„Wir stehen mitten in einem gewaltigen Wandel”, sagt Iryna Gurevych, Informatikprofessorin in Darmstadt und selbst Gutachterin. Früher hätten Doktoranden mindestens zwei Jahre Forschungspraxis gebraucht, bevor sie daran denken konnten, ein Manuskript bei einer führenden KI-Wissenschaftskonferenz einzureichen. „Heute tun das teilweise schon Bachelorstudenten, mithilfe von KI.“
Höher bewertete KI-Gutachten
Solange KI-Texte qualitativ schlechter sind als menschliche, bleibt zumindest ein Anreiz, sie zu erkennen und nachzubessern. Noch ist das in einigen Bereichen der Fall. Ein Bericht von „Organization Science“ hält fest, die Verständlichkeit der zusätzlich eingereichten KI-Manuskripte sei deutlich geringer als jene menschlicher Texte. Doch die Modelle machen enorme Fortschritte. „In einigen eng begrenzten Bereichen leistet KI als Gutachterin bereits Übermenschliches“, sagt James Evans, Professor für Soziologie und Datenwissenschaften in Chicago. „Sie kann beispielsweise tausende Seiten Code auslesen und jede einzelne Zeile auf Fehler überprüfen.”
Auch in der Breite werden die Modelle immer nützlicher. Die KI-Fachgesellschaft AAAI legte auf ihrer jährlichen Konferenz 2026 jedem eingereichten Manuskript im Hauptprogramm ein klar gekennzeichnetes KI-Gutachten bei. In einer freiwilligen Befragung mit 5834 Antworten wurden die KI-Gutachten bei sechs von neun Qualitätskriterien höher bewertet als die menschlichen. Die KIs legten zwar eher Wert auf unwichtige Details und brachten weniger nützliche Vorschläge. Sie waren aber besser darin, technische Fehler zu finden, auf neue Punkte hinzuweisen und sie wurden als gründlicher wahrgenommen. Eine noch nicht begutachtete Studie von Forschern der Northwestern University kam außerdem zum Schluss, dass die US-amerikanischen Gesundheitsinstitute NIH Forschungsanträge eher bewilligten, wenn sie von KI mitverfasst worden waren.
Wäre es ein Historienfilm, stünden wir wohl am Anfang eines großen Rückzugsgefechts. Menschliche Wissenschaftler werden von KI-Horden zurückgedrängt und ziehen sich in die letzte Bastion zurück: die Forschung selbst. Doch auch die zeigt Risse.
Verengung des Forschungsgegenstands
Vor wenigen Jahren konnten nur spezialisierte KI-Systeme in engen Bereichen zur Spitzenforschung beitragen, allen voran das nobelpreisgekrönte AlphaFold im Bereich der Proteinfaltung. Heute sind es immer öfter generelle Spitzenmodelle wie Anthropics Claude Fable 5 oder OpenAIs noch unveröffentlichtes Sprachmodell Astra, die die Durchbrüche erzielen. Beide lösten jüngst Probleme, an denen sich menschliche Mathematiker jahrzehntelang die Zähne ausgebissen hatten. Zum Vergleich: Noch 2021 schnitten selbst die besten Sprachmodelle bei einfachen Textaufgaben schlechter ab als Grundschüler.
„KI ist mittlerweile sehr gut darin, mit bestehenden Daten noch offene Fragen zu beantworten und damit Wissenslücken zu schließen“, sagt Evans. Eine 2026 in „Nature“ veröffentlichte Studie von ihm und Kollegen über 41,3 Millionen naturwissenschaftliche Arbeiten zeigt aber auch, dass die Verwendung von KI als Forschungsinstrument zu einer Verengung der untersuchten Themen führt. Die Forscher konzentrieren sich auf Gebiete, in denen bereits große Datenmengen existieren, anstatt neue Gebiete zu erschließen. „Was KI noch nicht gut kann, ist, neue Fragen aufzuwerfen und Paradigmen umzustoßen.“ Trotz dieses Mankos ist sie ein Karrierebeschleuniger: KI-nutzende Forscher publizieren dreimal so viel und werden fast fünfmal so oft zitiert wie ihre Kollegen, die bei ihrer Forschung um KI einen Bogen machen.
KI wird also in allen Bereichen des Forschungsbetriebs zunehmend allgegenwärtig. Sie forscht, schreibt und begutachtet. Das wirft die Frage auf: Wer sitzt dann noch am Steuerpult?
Forscher warnen seit geraumer Zeit vor der schrittweisen Abtretung menschlichen Einflusses an künstliche Systeme. Ökonomische und soziale Anreize könnten dies vorantreiben. Sobald KI-Systeme eine Aufgabe besser und günstiger erledigen, werden sie auf dem freien Markt stärker nachgefragt als menschliche Arbeitnehmer
Jan Kulveit, Forscher am Centre for Theoretical Studies an der Karls-Universität in Prag, meint: „Es würde mich nicht überraschen, wenn es bereits vereinzelte Teilgebiete gäbe, in denen Gutachter und Forschende den Output der KI nicht mehr vollständig verstehen.“ Noch laufe die Wissenschaft als Ganzes nicht Gefahr, die Kontrolle zu verlieren. Damit das so bleibe, müsse sie sich aber klarer darüber werden, worin ihre Funktion bestehe. „Historisch hatten wir vermutlich großes Glück: Die Neugier menschlicher Forschender führte bisher weitgehend zu Ergebnissen, die der Gesellschaft zugutekommen.” KI könnte diese beiden Entwicklungen entkoppeln, je nachdem, mit welchen Werten und Präferenzen wir sie ausstatten.
Gutachter und Forscher des KI-Gebrauchs zu überführen, wie es die versteckten Anweisungen bei Sören Auer tun sollten, wird auf Dauer kaum genügen. Zu eng ist KI schon mit der Forschung verflochten. „Wissenschaft wird in Zukunft AI First sein – KI zuerst”, ist Iryna Gurevych überzeugt. Um das Steuerpult nicht den Launen der KI zu überlassen, müssten die Systeme der Zukunft deshalb Aussagen überprüfbar machen und die Verantwortung damit beim Menschen lassen. „Die größte Herausforderung für das Wissenschaftssystem wird mittelfristig die Sicherheit und Kontrollierbarkeit dieser Systeme sein.“
