Eine „Attentäter-Fanszene“ veröffentlicht auf der Plattform Tiktok Videos, in denen Attentäter und Amokläufer und deren Taten verherrlicht werden. Eine Schwerpunktuntersuchung der LFK, der Landesmedienanstalt für Baden-Württemberg, legt dar, wie der Algorithmus von Tiktok die Verbreitung dieser Videos verstärke und wie leicht Minderjährige in Kontakt mit den Inhalten kommen könnten.
Die „Attentäter-Fanszene“ auf Tiktok sei geprägt von der Faszination für drastische Gewalttaten, heißt es in der Untersuchung. Es handle sich um KI-generierte Videos, in denen Täter tanzen, Fan-Edits, in denen User Medieninhalte zusammenschneiden oder nachgespielte Anschläge. Um die automatische Löschung der Videos zu umgehen, nutzen viele der Beteiligten Umformulierungen, Umschreibungen oder Emojis.
Videos stiften zu realer Gewalt an
Gefährlich sei dieser Fankult, weil er zu realer Gewalt anstifte, heißt es in der Untersuchung. Im oberbayerischen Schongau hatte ein Sechzehnjähriger im Juli an einem Gymnasium zwei Mitschülerinnen mit einem Messer angegriffen. Er habe Kontakt zur Tiktok-Fanszene gehabt. Vor Beginn der Tat hatte er einen Livestream angekündigt.
Die LFK hat untersucht, wie leicht Minderjährige mit diesen Inhalten in Kontakt kommen und welche Rolle der Algorithmus von Tiktok dabei spielt. In den Community-Richtlinien des Unternehmens wird „die Verherrlichung von Gewalt oder die Förderung von Straftaten, die Menschen, Tieren oder Eigentum schaden könnten“ explizit verboten. Die Untersuchung hält indes fest, dass Tiktok diese Richtlinien nicht durchsetze und die Radikalisierung der „Attentäter-Fanszene“ verstärke.
Um das zu beweisen, simulierte ein Untersuchungsaccount der LFK dem Algorithmus ein Interesse an gewalttätigen Inhalten. Etwa 22 Prozent aller Videos auf der sogenannten „For You Page“, der personalisierten Startseite, hätten daraufhin Bezug zu Gewalttaten genommen, sie verharmlost und beschönigt: „Die Täter wurden heroisiert.“ In 18 Fällen meldete die LFK die Videos und forderte sofortige Löschung. Die Inhalte seien jedoch erst nach weiteren Meldungen über ein gesondertes Portal für Behörden entfernt worden.
Auf Nachfrage der F.A.Z. teilte Tiktok mit, man prüfe die Untersuchung der Medienaufsicht. Gegen Hass und gewalttätigen Extremismus gehe man vor, man schaffe „weiterhin einen sicheren, inklusiven Raum, in dem die globalen Communitys Neues entdecken, Kontakte knüpfen und kreativ tätig sein können“.
Der Fankult um Attentäter sei seit Jahren öffentlich bekannt. Der Konzern sei nicht konsequent dagegen vorgegangen, sagt hingegen die LFK. Es gehe nicht um einzelne Inhalte, das sei ein strukturelles Problem der Plattform. Die Untersuchung hat die LFK an die Europäische Kommission weitergeleitet, mit der Maßgabe, ein Verfahren gegen Tiktok einzuleiten.
