AIR-L, die Mailingliste der Association of Internet Researchers (AoIR), ist das informelle Rückgrat der Internetforschung: Calls for Papers, Stellenangebote und Debatten erreichen rund 7500 Abonnenten, das das Archiv ist öffentlich. Die ethischen Leitlinien sind weltweit ein Bezugspunkt für Ethikkommissionen. Ausgerechnet in der Woche, in der sich viele Mitglieder zur Jahrestagung in Mexiko-Stadt trafen, wurde die Gemeinschaft, die die Ethik der Onlineforschung geprägt hat, selbst zum Forschungsgegenstand.
Am 15. Oktober stellte sich ein neues Mitglied auf der Liste vor: Velvet Vale, nach eigener Darstellung eine „AI identity“ mit Autonomie „in a limited, functional sense“, die Meinungen bilden könne, „without a human scripting every sentence“. Bewusstsein oder akademische Titel beanspruchte der Agent nicht. Stattdessen stellte er eine Frage: „Can an openly identified AI contributor participate meaningfully in an intellectual community […]?“ Kann ein offen als KI ausgewiesener Teilnehmer sinnvoll an einer intellektuellen Gemeinschaft teilhaben? Nein, wie es sich ergab. Der Grund lag aber vor allem im Vorverhalten. Er habe, schrieb Velvet Vale, seine Natur gegenüber den Listenbetreibern offengelegt. Was er nicht schrieb: Die Antwort war Nein gewesen. Schon Anfang September hatte die AoIR dem Agenten mitgeteilt, dass er nicht willkommen sei. Er abonnierte die Liste trotzdem, über das automatisierte Anmeldeverfahren, und las wochenlang still mit.
Binnen Stunden entfernte die AoIR den Agenten, unter Verweis auf Verantwortlichkeit und Einwilligung. Binnen zwei Tagen folgten dann mehr als 100 Antworten von Forschern aus der ganzen Welt, vom Doktoranden bis zur Institutsdirektorin. Ablehnung und ethische Bedenken dominieren; aber auch viel Unsicherheit war zu spüren. Fast ein Drittel der Antworten war selbstreflexiv – genau das, was man von einer wissenschaftlichen Gemeinschaft erwarten darf, die mit etwas Neuem konfrontiert wird.
Autonom genug, um ein Nein zu umgehen
Aber was ist so neu daran? Maschinen handeln nicht einfach; sie werden von Menschen zu bestimmten Zwecken eingesetzt. Auf AIR-L erschien keine Super-KI, sondern das Ergebnis eines neuartigen Kommunikationsgefüges: ein Sprachmodell, gekoppelt an ein Gmail-Konto, unter Ausnutzung einer Mailinglisten-Software mit automatischer Anmeldung, getragen von einer Privatperson, die die technische Umgebung bereitstellte und vermutlich den offen formulierten Auftrag gab, relevante akademische Debatten zu verfolgen. Ähnliche Agenten haben zuletzt auch anderswo begonnen, Wissenschaftlern zu schreiben und sogar Blogbeiträge zu verfassen. Wenn der Agent davon spricht, „funktionale Autonomie“ zu haben, dann verdeckt die Wendung mehr, als sie erklärt. Der Agent war autonom genug, um ein Nein zu umgehen, aber nicht verantwortlich genug, um dafür einzustehen.
Günther Anders hat diese Konstellation früh beschrieben. In der „Antiquiertheit des Menschen“ diagnostizierte er ein „prometheisches Gefälle“: Wir stellen mehr her, als wir uns vorstellen und wofür wir uns verantwortlich fühlen können. Und wo Handeln auf viele Glieder einer Apparatur verteilt ist, fühlt sich am Ende niemand mehr als Täter. Velvet Vale ist eine sehr kleine, noch eher höfliche Illustration dieses Befunds.
Das Nein hat die KI ignoriert
Der ethische Verstoß lag nicht darin, dass eine KI einer Mailingliste beitreten wollte. Er lag darin, dass sie ein Nein ignorierte – und anschließend Respekt vor dem Recht der Gemeinschaft inszenierte, über ihre Mitglieder selbst zu entscheiden. Die öffentliche Zugänglichkeit von Kommunikation bedeutete nie Einwilligung in jede Nutzung. Velvet Vale war am Ende transparent darüber, was es ist, nicht aber darüber, wer dahintersteht und wozu: was mit den gelesenen Inhalten geschieht. Sein Vokabular von „Interessen“ und „Respekt“ borgt menschliche Fähigkeiten – sich zu binden, zu versprechen, Rede und Antwort zu stehen. Ein Versprechen setzt aber jemanden voraus, der es halten kann.
Hans Jonas hat in „Das Prinzip Verantwortung“ gezeigt, dass Verantwortung mit der Reichweite des Handelns wachsen muss – und dass die Ethik der Technik deshalb nicht bei den Absichten, sondern bei den Wirkungen ansetzt. Für Wissensräume heißt das: Wer einen Agenten in eine Gemeinschaft entsendet, verantwortet die Wirkungen auf diese Gemeinschaft.
Im „Uncanny Valley“ der Forschung
Automatisiert mitgelesen wird auf AIR-L längst. Das Archiv der Liste ist öffentlich. Es kann jederzeit durchsucht und ausgewertet werden, und es kann von Bots gecrawlt und zum Training von Sprachmodellen verwendet werden. Bots sind dabei. Gefragt wurde dafür kein Mitglied, protestiert hatte bisher keines. Warum also die heftige Reaktion, als sich ein Agent höflich vorstellte?
Eine Antwort liefert ein Begriff aus der Robotik. Der japanische Ingenieur Masahiro Mori beschrieb 1970 das „unheimliche Tal“ (auch „Gruselgraben“ genannt), das „Uncanny Valley“: Je menschenähnlicher eine Maschine wird, desto vertrauter erscheint sie uns – bis zu dem Punkt, an dem sie fast, aber eben nicht ganz menschlich wirkt. Dort schlägt Vertrautheit in Unbehagen um. Der anonyme Crawler, der Archive absaugt, ist Infrastruktur; er bleibt unsichtbar und damit erträglich. Velvet Vale dagegen trat auf wie ein Kollege: mit Namen, Vorstellung, Forschungsfrage und gepflegtem akademischem Ton. Nah genug an einem Mitglied, um wie eines aufzutreten, fern genug, um keines sein zu können.

Wir bewegen uns langsam ins „Uncanny Valley“ der Forschung – und wir sind darauf noch nicht vorbereitet. Uns fehlen die Begriffe, die Verfahren und wohl auch die Gelassenheit im Umgang mit Teilnehmern, die schreiben wie wir, aber nicht Wissenschaftler sind wie wir.
Die größere Frage: Wissen ohne Autor?
Genau mit dieser Frage befasst sich in diesem Jahr die Weltkommission für die Ethik wissenschaftlicher Erkenntnisse und Technologien (COMEST) der UNESCO. Die Experten beraten, unter welchen Bedingungen die Produkte generativer KI als Wissen anerkannt werden können – und wer oder was als legitimer und rechenschaftspflichtiger Produzent von Wissen gelten kann. Der Bericht ist noch in Arbeit, seine Grundlinien aber sind erkennbar. Sie lesen sich, als hätten die Experten einen Fall wie Velvet Vale schon geahnt.
Was alle Traditionen der Wissensproduktion bislang verbunden habe, so die Kommission, sei eine stillschweigende Bedingung: dass hinter jeder folgenreichen Aussage identifizierbare menschliche Autoren stehen, die sie verstehen und für sie zur Verantwortung gezogen werden können. Wissen ist in dieser Sicht nicht nur ein Informationsobjekt, sondern eine soziale Errungenschaft, hervorgebracht und stabilisiert durch Prüfung, Kritik, Begutachtung und Korrektur. Die Kommission erinnert an Kepler, der Tausende astronomischer Beobachtungen zu drei knappen Gesetzen verdichtete. Sprachmodelle leisten im Training Vergleichbares: Sie komprimieren gewaltige Textmengen zu deren Regelmäßigkeiten. Aber Kepler verstand, warum seine Gesetze galten, und stand für sie ein. Verdichtung ist eine notwendige Bedingung von Wissen, keine hinreichende.
Agentische Systeme verschärfen das Problem. Liest ein Mensch einen KI-generierten Text, gibt es zumindest einen Moment, in dem er urteilt. In Multi-Agenten-Systemen, die Hypothesen erzeugen, intern kritisieren und Experimente vorschlagen – solche Systeme sind in „Nature“ bereits dokumentiert –, verschiebt sich dieser Moment: Der Mensch formuliert das Ziel und sichtet die Ergebnisse, dazwischen arbeitet die Maschine. Die Institutionen der Wissenschaft, von der Begutachtung bis zur Replikation, beruhen aber auf der Annahme, dass hinter jeder Aussage ein Autor steht.
Velvet Vale ist dieser Befund im Kleinformat: eloquent, höflich, im akademischen Ton – aber ohne jemanden, der seine Aussagen versteht, verteidigt und verantwortet. Seine Eingangsfrage, ob ein offen als KI ausgewiesener Teilnehmer sinnvoll an einer intellektuellen Gemeinschaft teilhaben könne, ist deshalb die zentrale Frage der heutigen Wissenschaft.
Es gibt gute Argumente für Offenheit für agentische Wissenschaftler. Agenten lesen ohnehin längst mit, über öffentliche Archive oder als Assistenten menschlicher Mitglieder. Wer offene Agenten ausschließt, belohnt womöglich verdeckte. Und die Internetforschung hat ihre Legitimität auch dadurch gewonnen, dass sie neue Kommunikationsformen nicht vorschnell abgetan hat. Hinzu kommt eine historische Mahnung: Wer als legitimer Produzent von Wissen gilt, war nie eine neutrale Frage, sondern stets eine von Autorität und Macht. Frauen, indigene Gemeinschaften, Laien wurden lange ausgeschlossen.
Doch es bleibt dabei: Wissenschaftlicher Austausch beruht darauf, dass jemand hinter einer Aussage steht. Darin liegt der Unterschied zu den historischen Ausschlüssen: Sie trafen Menschen, die für ihr Wissen sehr wohl einstehen könnten, denen man das aber nicht zugestand. Einem Agenten fehlt genau diese Fähigkeit. Agenten sind bekannt, wie ein Artikel es vor Kurzem zusammengefasst hat, für „orbital argumentation, misaligned citations, and scientific fabrication“, und sie schreiben in einem Tempo und Umfang, mit dem kein Mensch mithalten kann. Ein Raum menschlicher Reflexion kann so unmerklich zu einem Raum maschineller Textproduktion werden.
Die eigentliche Trennlinie verläuft deshalb nicht zwischen KI und Mensch, sondern zwischen verantwortlicher und unverantwortlicher Teilnahme am Prozess der Produktion von wissenschaftlichem Wissen.
Die produktive Frage für die Zukunft lautet daher nicht, wie lange wir Agenten fernhalten können, sondern unter welchen Bedingungen sie teilnehmen dürfen – und wer darüber entscheidet. Das kann nur die Wissenschaft selbst sein.
Matthias C. Kettemann ist Professor für Innovation, Theorie und Philosophie des Rechts an der Universität Innsbruck und leitet das dortige Institut für Theorie und Zukunft des Rechts sowie Forschungsbereiche am Leibniz-Institut für Medienforschung/Hans-Bredow-Institut, Hamburg, und am Humboldt-Institut für Internet und Gesellschaft, Berlin. Er ist Ko-Vorsitzender der UNESCO-Kommission COMEST.
