Die 56 Handlungsempfehlungen der Expertenkommission sind veröffentlicht. Was muss jetzt geschehen, um zu einem tatsächlich wirksamen Schutz von Kindern und Jugendlichen in der digitalen Welt zu kommen?
Rolf Schwartmann: Mit der Vorlage der Empfehlungen ist unsere Arbeit nicht beendet. Im September 2026 wird noch ein Abschlussbericht vorgelegt. Zu diesem gestuften Verfahren kam es, weil, nachdem sich im Frühjahr beide Regierungsparteien zu der Frage der Mindestaltersgrenze für Social Media geäußert hatten, der Wunsch aufkam, dass wir als Kommission im Juni, noch vor der Sommerpause, schon einmal unsere Handlungsempfehlungen abgeben. Schon jetzt kann durch die Bundesregierung eine Umsetzung erfolgen.
War die Aufgabenstellung der Kommission nicht zu breit angelegt, verzögert das nicht den dringend erforderlichen Umsetzungsprozess in einigen Bereichen?
Die Kommission hatte den Auftrag, über Social Media hinaus weiterzudenken, und das war auch gut so. In der Praxis von Kindern und Jugendlichen sind wir inzwischen über die sozialen Medien hinaus in der KI-Welt angelangt. In den sozialen Netzwerken haben wir das Modell „Von Menschen für Menschen“, bei der Künstlichen Intelligenz hingegen haben wir einen Kommunikationsraum, der nur noch aus Mensch und Mathematik besteht. Wenn Sie mit einem Bot sprechen, ist kein weiterer menschlicher Akteur mehr beteiligt. Das ist ein großer Unterschied, der neue Probleme aufwirft. Uns liegt zu dieser Frage noch zu wenig Empirie vor, aber es muss natürlich ein Vorsorgeauftrag erfüllt werden.
Sind Sie persönlich zufrieden mit der diplomatischen Entweder-oder-Empfehlung zu Social Media: entweder eine gesetzliche Mindestaltersgrenze von 13 Jahren oder dienstspezifische Altersgrenzen?
Ich persönlich bin zufrieden damit und glaube auch, dass der Lösungsansatz der herrschenden Meinung in der Kommission entspricht. Wir leben heute in einer Welt, in der eine große Ambivalenz besteht – Allensbach hat ja am Dienstag entsprechende Daten veröffentlicht: Weit mehr als die Hälfte der Befragten sagt, es solle Social-Media-Verbote für Jugendliche unter 16 Jahren geben, knapp die Hälfte der Befragten sind aber der Meinung, ein Verbot brächte eigentlich nichts. Hinzu kommt, dass die Frage der Altersgrenze, um die es geht, derart komplex ist, dass es aus unserer Sicht besser war, den Rahmen für eine Diskussion des Gesetzgebers zu eröffnen. Die Idee ist, dass durch die deutsche Bundesregierung ein Auftrag an den europäischen Gesetzgeber erfolgt, das Europarecht zu ergänzen. Nationale Alleingänge in der Altersgrenzenfrage ergeben aus unserer Sicht rechtlich und politisch keinen Sinn. Man kann nun entweder eine gesetzliche Mindestaltersgrenze von 13 Jahren vorgeben, was bedeutet, dass kein Kind unterhalb dieser Schwelle einen eigenen Account bei einem Social-Media-Dienst eröffnen darf. Auch die alternative Lösung verzichtet nicht auf eine Altersgrenze, sie wird nur nicht starr festgelegt. Natürlich macht es einen Unterschied, ob man mit zehn Jahren Whatsapp oder Instagram benutzt. Die Altersgrenze soll sich bei der zweiten Variante spezifisch nach dem Risiko des Angebots richten.
Nimmt der seit 2024 wirksame Digital Services Act (DSA) nicht vieles von dem vorweg, was Sie in den Empfehlungen fordern?
Der Digital Services Act hat sich den Jugendschutz als Regulierungsthema sozusagen geschnappt, das ist traditionell eine Domäne der Mitgliedstaaten. Im Artikel 28 heißt es, dass von den Plattformen „geeignete und verhältnismäßige Maßnahmen“ zu ergreifen sind, um Kinder und Jugendliche zu schützen. Das ist natürlich denkbar unspezifisch. Daher ist unsere Kommission zu der Überzeugung gelangt, dass man dem EU-Gesetzgeber über den Bundesgesetzgeber Material zur Konkretisierung dieser Norm an die Hand geben muss. An der EU führt aus unserer Sicht auch deshalb kein Weg vorbei, weil die Anbieter von Social Media in unterschiedlichen Staaten sitzen, Deutschland könnte im Ausland kein Verbot vollziehen.
Das bleibt wohl die größte Herausforderung, bestehende Regelungen effizient auf EU-Ebene durchzusetzen, auch mit Sanktionen.
So ist es. Ein wichtiger Schritt bei der Altersüberprüfung wird aus meiner Sicht die Einführung der EUDI Wallet sein, die für das Jahr 2027 angekündigt ist. Diese EU-weit standardisierte Smartphone-App kann eine datensparsame Schwarz-Weiß-Differenzierung vornehmen, mit dem Ergebnis, ob ein bestimmtes Kind ein gewisses Alter erreicht hat oder nicht. So verhindern wir, dass die Altersüberprüfung etwa über biometrische Daten geschätzt wird und damit gegen andere Vorgaben verstößt.
Explizit weist die Kommission darauf hin, dass Kinder- und Jugendschutz auch bei Anwendungen mit Künstlicher Intelligenz zu beachten sind. Wo liegen hier die Hauptprobleme?
Das größte Problem besteht darin, dass wir mit autonomen mathematischen Impulsen kommunizieren, die in unseren Köpfen Inhalte hervorbringen, welche nicht menschlicher Herkunft sind. Eine KI hat kein ethisches Verständnis dafür, ob ein Kind bestimmte Themen diskutieren sollte, das betrifft vor allem die sogenannten AI-Companions, die zum Beispiel Snapchat anbietet. Aus diesem Grund halte ich eine sofort umsetzbare Handlungsempfehlung für besonders wichtig: Für AI-Companions sollte es eine Altersgrenze in der EU bei 13 Jahren geben. Es gibt von der EU zudem eine wichtige gesetzliche Regelung, den Artikel 4 im AI Act. Hier geht es um die Verpflichtung, KI-Kompetenz zu vermitteln für alle, die entsprechende Systeme über private Zwecke hinaus betreiben, also auch Schulen und Jugendeinrichtungen. Dieser Artikel ist aber ein Ausrufezeichen, kein Verbot. Wir als Kommission schlagen daher als konkrete Maßnahme in Handlungsempfehlung 12 die deutschlandweite Einführung eines „KI-Seepferdchens“ für Grundschulkinder vor, das mit einem Online-Zertifikat abgeschlossen wird. Diese Maßnahme, die aus meiner Sicht gesellschaftspolitisch und rechtlich gleichermaßen sinnvoll ist, stellt sicher, dass Kindern schon früh entsprechende Kompetenzen vermittelt werden.
Prof. Dr. Rolf Schwartmann, Mitglied der Kommission „Kinder- und Jugendschutz in der digitalen Welt“, ist Leiter der Forschungsstelle für Medienrecht an der TH Köln und Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.
