Sollten der Künstlichen Intelligenz stärker Grenzen gesetzt werden? Virginia Dignum berät die Vereinten Nationen zu Fragen des ethischen Einsatzes von KI, davor war sie Beraterin der Europäischen Kommission. An der Umeå University in Schweden hat sie den Lehrstuhl für „Responsible Artificial Intelligence“ inne und leitet dort das AI Policy Lab.
Frau Dignum, das Pentagon möchte es nur noch US-Bürgern erlauben, das neueste Anthropic-Modell Claude Fable zu nutzen. Denken Sie, dass fortgeschrittene KI-Modelle künftig als strategische Technologien behandelt werden – ähnlich wie etwa Mikrochips oder Nukleartechnik?
Die kurze Antwort lautet: Ja. Wir werden immer öfter erleben, wie hoch entwickelte Technologie und Geopolitik ineinandergreifen. Politiker wie Bürger müssen sich darauf vorbereiten. Ob es dabei um eines der fortschrittlichsten Modelle geht wie Anthropic Fable 5, ist nicht relevant. Entscheidend ist: Technik dient immer stärker als politisches Instrument. Und umgekehrt bestimmt die Politik, wie Technik vermarktet, verteilt und sogar entwickelt wird.
Wenn KI immer stärker als politisches Instrument genutzt wird – was bedeutet das für Europa, wenn die meisten KI-Spitzenmodelle in den USA und China entstehen?
Das heißt zunächst: Wir müssen die KI-Entwicklung hier bei uns stärker fördern. Und wir sollten nicht immer dem folgen, was Länder wie die USA machen, sondern bei KI Alternativen erkunden. Denn es gibt zu den heutigen Spitzenmodellen durchaus Alternativen. Europa muss sich dessen stärker bewusst werden.
Haben Sie ein Beispiel dafür?
Die heutigen Spitzensprachmodelle beruhen auf neuronalen Netzen. Es sind im Grunde riesige Wahrscheinlichkeitsmaschinen, die Stück für Stück das nächste Wort oder den nächsten Codebaustein vorhersagen. Sogenannte symbolische Modelle oder auch Weltmodelle setzen neben Korrelationen, also statistischen Zusammenhängen von A und B, auch auf Kausalität. Das ist etwas, das die heute gebräuchlichen Modelle noch sehr schlecht beherrschen. Sie können also bisher keinen Ursache-Wirkung-Zusammenhang erfassen.
Gibt es das Know-how und die Mittel, symbolische Systeme auch in Europa zu entwickeln?
Auf jeden Fall! Das Problem ist eher: Es fehlt der Wille, darüber nachzudenken. In der Politik und Verwaltung gibt es oft die Wahrnehmung, dass die Art, wie heute KI entwickelt wird, unausweichlich ist und uns nichts anderes übrig bleibt, als dem zu folgen. Doch das ist nicht so. Europa kann einen neuen Weg einschlagen. Vielleicht sogar besser als andere. An den symbolischen Ansätzen, an Kausalität, haben wir hier mehr gearbeitet als anderswo.
Haben andere auch diesen zuversichtlichen Blick auf die Perspektive Europas?
Was die Technik leisten kann, sehe ich durchaus positiv. Was unsere Politiker leisten, sehe ich weniger optimistisch. Europa muss den Mut haben, einen eigenen Weg einzuschlagen. Der fehlt momentan. Außerdem investieren wir zu wenig in die Entwicklung der Alternativen.
In welchen Bereichen würden Sie konkret investieren?
In erster Linie brauchen wir mehr Geld für die Grundlagenforschung. Sie erfordert langfristige Investitionen auf europäischer wie nationaler Ebene und die Einsicht, dass nicht jeder Versuch zum Erfolg führt und es keine Lösungen innerhalb von drei oder sechs Monaten geben kann. Und wir brauchen Unterstützung für Unternehmen, die KI-Modelle auf den Markt bringen wollen. Anthropic und Open AI arbeiten schon seit über zehn Jahren an ihren Modellen. Genau diese kontinuierliche Investition fehlt uns in Europa.
Haben die US-Unternehmen nicht längst einen so großen Vorsprung, dass europäische Firmen kaum aufholen können?
Wenn wir den US-Firmen hinterherlaufen, werden wir zu den Verlierern der KI-Revolution gehören. Schlagen wir aber unsere eigene Richtung ein, konkurrieren wir gar nicht mit ihnen.
Lassen Sie uns auch über die Risiken sprechen. KI-Experten wie Stuart Russell befürchten, KI könnte so etwas wie einen eigenen Willen entwickeln, sich selbst zu erhalten. Wenn wir sie abschalten wollten, würde sie sagen: Nein, ich will nicht, dass du mich abschaltest. Halten Sie das für plausibel?
In dieser Erzählung wird vieles vermischt, das macht sie so verwirrend. Mein Laptop sagt mir, es sei Zeit zum Aufladen, oder manchmal: Schalt mich nicht ab, ich aktualisiere gerade. Hat mein Laptop deshalb einen Willen und möchte nicht abgeschaltet werden? Nein, das ist eine Funktion, die wir ihm gegeben haben. Wir sollten ein solch normales Verhalten nicht als Bewusstsein deuten. Intelligenz führt nicht automatisch zu mehr Bewusstsein. Das System verfolgt keinen eigenen Zweck.
Selbst wenn mehr Intelligenz nicht zu mehr Bewusstsein führt, lautet das Argument, dass man die Modelle mit vielen menschlichen Artikeln und Büchern trainiert. Dadurch könnte das System von uns die Fähigkeit lernen, sich selbst zu erhalten.
Die KI lernt, über Gefühle und Emotionen zu sprechen und sie zu beschreiben. Sie lernt nicht das Gefühl oder die Emotion selbst. Ein Chatbot versteht diese menschlichen Fähigkeiten als Begriffe, aber sie begreift nicht die reale, körperliche Auswirkung dessen, was es bedeutet, sie zu fühlen. Die jüngsten Systeme geben sich großartig in der Sprache. Das heißt nicht, dass sie irgendwas von dem verstehen, worüber sie reden.
Deshalb glauben Sie, KI kann keine Menschen bedrohen – weil sie kein echtes Bewusstsein hat?
Es ist keine Frage, was die Technik kann, sondern was wir mit ihr machen. Ein Hammer selbst kann keine Menschen töten. Aber ich kann mit einem Hammer einen Menschen töten.
Was bedeutet das für die Nutzung von KI?
Wir brauchen KI-Regeln, ähnlich wie bei Tempoverstößen im Straßenverkehr. Schneller als 50 Kilometer in der Stunde zu fahren, ist technisch leicht möglich. Erlaubt ist es in der Stadt aber nicht. Wenn man es überschreitet, haben wir rechtliche Mittel, damit umzugehen. Von KI erwarten wir, dass die Technik alles allein regelt. Wir bauen also ein System, das schneller als 50 fahren kann – und sagen ihm zugleich, es dürfe nicht schneller als 50 fahren. Wir sollten also nicht nur darauf schauen, was die Technik leisten kann, sondern Menschen darüber aufklären, wie man sie nutzt. Dabei können Gesetze helfen. Um auf das Beispiel zurückzukommen: Ich weiß, dass mein Auto mehr als 150 fahren kann. In der Stadt tue ich es trotzdem nicht.
Wie könnte ein Ansatz aussehen, der die KI-Nutzung stärker berücksichtigt?
Er muss bei der Bildung beginnen. Wir müssen den künftigen Nutzern sagen, was möglich ist, was angemessen ist und was nicht. Und das auch mit Gesetzen und Leitlinien durchsetzen – so wie wir einen Führerschein fürs Auto verlangen.
Das EU-Parlament hat sich vor Kurzem darauf geeinigt, KI-Anwendungen, mit denen sich sexuelle Deepfakes, also künstliche Nacktbilder, erstellen lassen, zu verbieten. Außerdem sollen KI-generierte Bilder und Audios gekennzeichnet werden. Geht das in die richtige Richtung?
Ja. Aber auch hier sollten wir in erster Linie erkennen: Nur weil wir etwas mit KI tun können, heißt es nicht, dass wir es tun sollten. Wir können mit KI einen fiktiven Text erzeugen und ihn nutzen, wenn er Teil eines Romans ist. Wir dürfen ihn nicht nutzen, um Menschen zu täuschen. Dass wir keine Nacktbilder von Menschen ohne ihre Einwilligung verbreiten dürfen, hat nichts mit den Fähigkeiten der KI zu tun, sondern mit dem, wie wir als Gesellschaft zusammenleben wollen.
Was empfehlen Sie konkret?
Es braucht eine solide Grundbildung für alle, etwa in Schulen oder an Arbeitsplätzen. Jeder sollte wissen, was man mit KI tun kann, so wie wir wissen, wie man ein Telefon bedient oder einen Lichtschalter ausschaltet.
