Giorgia Meloni: KI-Fotos und Deepfakes aus Sri Lanka

Die Nichtregierungsorganisation Reset Tech hat Hunderte im Netz kursierende und mittels Künstlicher Intelligenz hergestellte Fotos und Deepfake-Videos der italienischen Ministerpräsidentin Giorgia Meloni zu Internetadressen auf Sri Lanka zurückverfolgen können. Wie die in London ansässige NGO mitteilte, kursieren die KI-Fotos und Fake-Videos über ein Netzwerk von mindestens 90 kürzlich aktivierten Facebook-Seiten, die alle von Sri Lanka aus betrieben werden und sich an Nutzer in Italien beziehungsweise an italienischsprachige Nutzer in aller Welt richten.

Die Seiten gehörten alle derselben Kategorie an und verwendeten ein nahezu identisches Branding mit italienbezogenen Nutzernamen wie „Bella Italia“, „Life in Italy“ oder „La Dolce Vita“, schreibt Reset Tech. Die Kampagne mit Meloni sei offenbar Teil einer größeren Aktion, die darauf abzielt, zahlreiche europäische Länder mit KI-generierten Inhalten zu erreichen. Hunderte ähnlicher Seiten hätten in jüngerer Vergangenheit nationalistische oder patriotische Botschaften, antimuslimische Narrative und unverhohlene politische Propaganda zur Unterstützung bestimmter politischer rechter Parteien oder Politiker verbreitet, so Reset Tech.

Mitte Mai hatte auch die BBC von KI-generierten Inhalten in den sozialen Netzwerken aus Sri Lanka berichtet, die sich gegen die Labour-Regierung unter Premier Keir Starmer und namentlich gegen den Londoner Labour-Bürgermeister Sadiq Khan gerichtet hatten. Viele der mittels KI erstellten Inhalte ließen im Gegenzug Sympathien für Nigel Farage erkennen, den Chef der rechtspopulistischen Partei Reform UK. Der BBC-Bericht legte nahe, dass hinter den Deepfakes aus Sri Lanka vor allem das finanzielle Interesse der Hersteller stecke, weniger deren politische Überzeugung.

Wenn die KI-Fotos und Fake-Videos viral gehen, fließen anteilig erhebliche Summen von Betreiberseiten wie Facebook oder Instagram an die Provider der Inhalte. Die Betreiber der sozialen Medien – namentlich Meta – schalten kommerzielle Werbung zu Inhalten, die große Verbreitung finden, egal, ob diese Inhalte authentisch sind oder gefälscht. An die Hersteller der Inhalte wird ein Anteil der Werbeeinnahmen weitergeleitet, auch wenn diese Inhalte mittels KI erstellt beziehungsweise gefälscht wurden. In dem BBC-Bericht ist von einem bekannten Influencer auf Sri Lanka die Rede, der mit KI-generierten Inhalten für Facebook-Seiten migrationsfeindlichen, rassistischen und islamophoben Charakters für Nutzer in Großbritannien 300.000 Dollar verdient haben will.

In Italien hätten die KI-generierten Inhalte weniger eine politische Stoßrichtung, sondern seien explizit sexualisiert und zeigten manipulierte Bilder und Videos von Ministerpräsidentin Meloni, schreibt nun Reset Tech. Manche dieser Beiträge erzielten eine enorme Reichweite. Reset Tech hat eine Stichprobe von 12.000 Beiträgen ausgewertet, die kürzlich von dem italienischen Seitencluster veröffentlicht wurden. Diese Beiträge erreichten kumuliert neun Millionen Likes, 1,6 Millionen Kommentare und mehr als 326.000 Shares.

Die italienische Regierungschefin hat sich kürzlich selbst zu einem dieser sexualisierten KI-Bilder geäußert, die in den sozialen Medien kursierten und offenbar von der Fake-Fabrik aus Sri Lanka stammten. In einem Post auf der Plattform X wandte sie sich an einen Nutzer, der ein mittels KI erstelltes Bild Melonis in Dessous für bare Münze genommen, geteilt und mit scharfer Kritik an der „schamlosen“ Ministerpräsidentin versehen hatte. Meloni prangerte Deepfakes als „gefährliches Werkzeug“ an, weil damit „jeder manipuliert und jedem Schaden zugefügt werden kann“. Melonis Post wurde innerhalb kurzer Zeit millionenfach geteilt, ohne dass offenbar die Flut der Deepfakes über sie eingedämmt worden wäre.

Schon vor ihrer Wahl zur Ministerpräsidentin vom September 2022 hatte sich Meloni gegen Fake-Pornos zur Wehr gesetzt. Eine Anzeige Melonis von Frühjahr 2021 brachte die Ermittler auf die Spur zweier Webdesigner auf Sardinien, die Pornovideos manipuliert hatten, indem sie den Kopf Melonis auf die Schultern der darin zu sehenden Darstellerinnen montierten. In Italien ist gemäß aktualisiertem Artikel 612, Absatz 4 des Strafgesetzbuches die „unerlaubte Verbreitung von Inhalten, die mit KI-Systemen erzeugt oder verändert wurden“, unter Strafe gestellt. Das Erstellen von Deepfakes kann mit einer Freiheitsstrafe von einem Jahr bis zu fünf Jahren geahndet werden, sofern eine Person durch die Veröffentlichung oder Verbreitung von KI-Bildern, -Videos oder -Audios ohne deren Einwilligung unrechtmäßigen Schaden erleidet.

Auch in der EU bemühen sich Legislative und Exekutive um die Anpassung der Gesetzgebung an das sich rasch ausbreitende Phänomen der KI-Fakes. So soll EU-weit die nicht einvernehmliche Nutzung sogenannter „Nudifier-Apps“ verboten werden, um die ungezügelte Verbreitung KI-generierter, sexuell expliziter Inhalte im Internet einzudämmen. Gegenwärtig läuft ein entsprechendes Gesetzgebungsverfahren im Rahmen des KI-Omnibusgesetzes. Das Gesetzespaket konnte bis Ende dieses Jahres vom Rat der EU beschlossen und vom EU-Parlament verabschiedet werden.