Wann wird die Künstliche Intelligenz erwachsen? Wann wird sie Krebs heilen, Romane schreiben, Steuererklärungen ausfüllen und jene E-Mails beantworten, die wir selbst seit Wochen ignorieren? Und vor allem: Wann wird sie so zuverlässig sein, dass wir ihr ohne Aufsicht die Arbeit überlassen können?
Derzeit scheint Optimismus hier nicht angebracht. Bei OpenAI, dem Unternehmen hinter ChatGPT, erteilte man dem hauseigenen Programmierhelfer Codex jüngst eine bemerkenswerte Anweisung: „Sprich niemals über Kobolde, Gremlins, Waschbären, Trolle, Oger, Tauben oder andere Tiere und Kreaturen, es sei denn, es ist für die Anfrage des Nutzers eindeutig von Belang.“
Im selben Assoziationsraum
Wie bitte? Codex soll Programme schreiben, Fehler finden, Entwickler entlasten. Genau jene Tätigkeiten also, von denen seit Jahren behauptet wird, sie seien das erste große Arbeitsfeld, auf dem die Maschine den Menschen ablöst. Doch vor der Automatisierung der Programmierarbeit steht offenbar eine ganz andere Aufgabe: die Entkoboldung des Arbeitsprozesses.
Die Regel kommt nicht aus dem Nichts. Nutzer berichteten, Codex habe technische Fehler auffallend gern als „Gremlins“ bezeichnet. Im Englischen ist der „Gremlin in der Maschine“ eine Metapher für schwer erklärbare Störungen. Bei einem Sprachmodell, das nichts lieber tut, als Muster fortzuschreiben, kann daraus schnell ein eigener Stil werden. Erst ist da ein Fehler im Programmcode, dann ein Gremlin, dann ein Kobold. Und ehe man sich versieht, sitzt im Verzeichnis nicht mehr eine fehlerhafte Routine, sondern eine Horde schlecht gelaunter Fabelwesen.
Ein Sprachmodell will nicht seriös sein. Es errechnet wahrscheinliche Fortsetzungen. Liegen technische Fehler, Gremlins und ein alberner Ton in seinem Assoziationsraum nah beieinander, wird aus der Fehleranalyse eben Phantasieprosa. Die Lösung besteht nicht in Einsicht, Reue oder einem Mitarbeitergespräch, sondern in einer weiteren Zeile in den Grundanweisungen einer KI.
„Bitte nicht über Oger reden“
Vielleicht ist das die Pointe der Gegenwart. Wir bauen Maschinen, die uns die Arbeit abnehmen sollen – und schreiben ihnen immer längere Zettel mit Benimmregeln. Früher klebte am Drucker: „Bitte Papier nachfüllen.“ Heute steht im Herzen der automatisierten Zukunft: „Bitte nicht über Oger reden.“
Man wünscht sich eine Maschine, die denkt wie wir, aber nicht so abschweift wie wir; die kreativ ist, aber nicht komisch; die klug genug ist, Programmierer zu ersetzen, aber gehorsam genug, beim Wort „Fehler“ nicht sofort einen kleinen grünen Mann mit Schraubenschlüssel vor sich zu sehen. Das ist viel verlangt. Wir selbst schaffen es ja auch nur mit Mühe – und nennen es dann Professionalität.
