KI oder nicht KI? Das ist die Frage, welche die Europäische Union vom kommenden Montag an in Texten, Bildern und Videos beantwortet haben will. Am 2. August tritt die Kennzeichnungspflicht der Europäischen KI-Verordnung in Kraft. Sie soll dafür sorgen, dass jeder erkennen kann, ob er es mit einem von Maschinen oder von Menschen gemachten Werk zu tun hat. Dass das gelingt, darf man indes bezweifeln.
Denn ob etwas vollständig oder maßgeblich von der KI generiert worden ist, muss nur unter bestimmten Umständen angegeben werden. Diese Umstände legt die Europäische Kommission in dem ihr eigenen Fachchinesisch dar, das man selbst in dem vermeintlich auf Verständlichkeit getrimmten Frage-und-Antwort-Katalog nicht so leicht durchsteigt.
Gekennzeichnet werden müssen sogenannte „Deepfakes“ in Bild und Ton und KI-generierte oder mithilfe von KI bearbeitete Texte, „die zu Themen von öffentlichem Interesse veröffentlicht werden“. Zudem müssen Nutzer darüber informiert werden, wenn sie es mit einer interaktiven KI, einem Chatbot zum Beispiel, zu tun haben. So will die EU-Kommission „das Risiko von Täuschung und Manipulation“ verringern.
Was täuschend echt wirkt, soll markiert werden
Was täuschend echt wirkt, soll als KI-gemacht markiert werden, was als erkennbar fiktiv erscheint, nicht. Die Gattungen Kunst und Satire wären somit KI-kennzeichnungsfrei raus. Ebenso sind, wie der Fachanwalt und Presserechtler Georg Fechner im F.A.Z.–„Einspruch“ gerade dargelegt hat, „leichte redaktionelle Retuschen“ ohne Kennzeichnung erlaubt.
Bei Texten, die sich mit Informationen zu „Angelegenheiten von öffentlichem Interesse“ ans allgemeine Publikum wenden, ist man der Kennzeichnungspflicht ledig, wenn sie von Menschen lektoriert und redigiert sind. Rein formales Gegenchecken – Rechtschreibprüfung oder Grammatikkorrektur – reicht nicht aus, es braucht „menschliche Überprüfung oder redaktionelle Kontrolle“. Darunter versteht die EU-Kommission die „sorgfältige Prüfung des Inhalts“ und die „Kontrolle“ einer verantwortlichen Redaktion.
In der Praxis könnte das heißen, dass der eine oder andere Federstrich genügt, um der KI-Kennzeichnungspflicht zu entgehen. Damit wären Autoren, die großzügig mit KI-Textbausteinen arbeiten, wahrscheinlich fein raus. Sie müssten nicht mit „AI“ oder „KI-generiert“ vermerken, dass ihr vermeintliches Wissen und Schreiben vor allem der Künstlichen Intelligenz geschuldet ist.
Schwer abzuschätzen ist auch, wie der Experte Fechner festhält, wo die Grenze zwischen Kunst, Satire, Fiktion und Faktenwiedergabe insbesondere bei gewerblichen, werbenden Texten verläuft. Und was geschieht, wenn ein KI-gekennzeichnetes Video in den üblichen Social-Media-Schredder gerät, zitiert, gekürzt, zerpflückt und geteilt wird?
Mit solchen Fragen wird sich in Deutschland die Bundesnetzagentur beschäftigen müssen, die uns als Aufsichtsbehörde in der Rolle des „Digital Services Coordinator“, der über die Einhaltung der europäischen Digitalgesetze (Digital Markets Act, DMA, und Digital Services Act, DSA) wacht, schon jetzt heillos überfordert erscheint.
Man habe das KI-Gesetz und die Kennzeichnungspflicht in einem aufwendigen Prozess unter Beteiligung aller Betroffenen und fachlich Berufenen entwickelt, berühmt sich die EU-Kommission. Was das in der Praxis wert ist, werden wir von Sonntag an sehen. Unser Tipp lautet: Die Maulwurferei der KI hält der bürokratische Regelungsversuch der EU-Kommission nicht auf. Er wird sich als Gummiparagraph erweisen. Das Schlupfloch für die KI, das er lässt, ist – der Mensch.
