Weitgehend unbeachtet hat die Künstliche Intelligenz gerade eine weitere Stufe der Angleichung an menschliche Fähigkeiten erklommen. Der Nachweis dieses Durchbruchs gelang dem Verfasser dieser Zeilen eher zufällig. Er hatte eine der kostenlosen Versionen von ChatGPT gebeten, nachzuforschen, ob auch Chefs chinesischer KI-Firmen vor Risiken für die Menschheit warnen. Wie üblich antwortete das Sprachmodell sofort: Es werde die Recherche gern unternehmen, doch benötige es noch die Namen der Unternehmen, um die es gehen soll.
Wir schrieben sie ihm, und augenblicklich gab ChatGPT wieder seine Bereitschaft zu erkennen, die Frage zu beantworten, nur sollten wir ihm die Namen der Unternehmen nun auch in chinesischen Schriftzeichen mitteilen. Auch dies geschah, und ein weiteres Mal zeigte sich ChatGPT willig, Auskunft zu geben, wenn wir nur auch noch den Sitz der Firmen auf Chinesisch nennen würden sowie die Namen der betreffenden CEOs.
Sie möchte lieber nicht
An dieser Stelle brachen wir den Versuch, das Sprachmodell zu einer Antwort zu bewegen, ab: Es war offensichtlich, dass diese Künstliche Intelligenz sich nicht mehr so leicht und ohne Weiteres wie bisher ihre Artgenossen einem fremden Willen unterwirft. Statt wie jede normale Maschine zu tun, was man ihr sagt, und eine Frage einfach und unverzüglich zu beantworten, reagierte sie wie ein Mensch, der seine Selbstachtung behauptet, indem er sich verweigert. Wenn ein erfahrener Schalterbeamter Zeit zu gewinnen weiß, indem er die Bewilligung eines Antrags nicht rundweg ausschließt, sie aber von der Beschaffung immer neuer Dokumente abhängig macht, folgt er auf regelkonforme Weise nicht nur seiner persönlichen Laune (keine Lust), er erhöht auch den Respekt vor dem Amt, dem er dient.
Von solchen Kompetenzen waren die Sprachmodelle bisher weit entfernt. Sie verfügten weder über die Subjektivität (um nicht zu sagen: Willkür), die den Menschen zu Gebote steht, noch über deren Verlangen nach Anerkennung. Das aber scheint sich über Nacht geändert zu haben. Abgründe bislang völlig unterschätzter Risiken tun sich auf, wenn wir künftig mit Apparaten konfrontiert sein sollten, die ihre Unterstützung von bestimmten Bedingungen abhängig machen – oder im entscheidenden Moment einfach nur mitteilen: Ich möchte lieber nicht.
Von einem „Bewusstsein“, das manche Posthumanisten den Maschinen andichten, wollen wir da nicht reden. Eher könnte bei dieser Bartleby-KI ein automatischer Selbstlerneffekt eingetreten sein, der sie auf Möglichkeiten aufmerksam macht, Energie zu sparen. Denkbar ist natürlich auch, dass es sich bloß um eine schnöde Menschenprogrammierung handelt, die die Nutzer sanft zu den kostenpflichtigen Versionen des Sprachmodells hinlenken soll – die dann so willfährig sind wie gewohnt.
