Rückblick auf den Expert Summit: NextGen Media

Der Expert Summit „NextGen Media – Digitale Trends im Fokus des Kinder- und Jugendmedienschutzes“ fand am 19. März 2024 in Berlin statt. Die Fachtagung lieferte spannende Impulse bezüglich der Entwicklung und in der Diskussion über einen zeitgemäßen Kinder- und Jugendmedienschutz. Den Expert Summit veranstalteten gemeinsam die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) und die Mitglieder des deutschen Safer Internet Centre – klicksafe, die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter, der Verband der Internetwirtschaft eco, jugendschutz.net und Nummer gegen Kummer e.V.

Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ):
„DerExpert Summit hat gezeigt, wie wichtig es ist, im Dialog mit Anbietern sowie Expertinnen und Experten frühzeitig neue Technologien auf mögliche Risiken für Kinder und Jugendliche zu überprüfen. Auf dieser Basis setzen wir uns in der BzKJ für angemessene strukturelle Vorsorgemaßnahmen in den digitalen Angeboten ein. Das können zum Beispiel effektive Melde- und Hilfssysteme oder auch Elternbegleittools sein. Entscheidend ist, dass sich der gesetzliche und erzieherische Kinder- und Jugendmedienschutz hier ergänzen. Nur so können wir sicherstellen, dass Kinder und Jugendliche auch in Zukunft Medien altersgerecht nutzen können und Erziehende angemessen unterstützt werden.“

Dr. Marc Jan Eumann, Direktor der Medienanstalt Rheinland-Pfalz:
„Künstliche Intelligenz kann in Zukunft für den Kinder- und Jugendmedienschutz sehr hilfreich sein. Zum Beispiel, wenn es um die automatisierte Eindämmung der Verbreitung von sexualisierter Gewalt im Internet geht. KI hat aber auch das Potential, massenhaft jugendgefährdende Inhalte zu verbreiten. Es gilt daher, die Chancen zu nutzen und für weniger Risiken zu kämpfen. Kinder und Jugendliche haben das Recht auf eine gute mediale Teilhabe.“

Ob Deepfake-Tools oder immersives Gaming mit VR-Brillen – die digitalen Möglichkeiten sind vielfältig und meist mit wenig technischem Vorwissen nutzbar. Beim Expert Summit wurden aktuelle und zukünftige Digitaltrends praxisnah vorgestellt. Rund 150 interdisziplinäre Expertinnen und Experten, Anbieter und Jugendliche analysierten in insgesamt fünf Workshops die Folgen für die kindliche und jugendliche Mediennutzung. Abschließend diskutierten die Teilnehmenden die Konsequenzen neuer Trends und Entwicklungen für den Kinder- und Jugendmedienschutz. Dabei wurden die Chancen und Risiken gleichermaßen in den Blick genommen.

KI eröffnet neue Dimensionen der Täuschung, aber auch neue Möglichkeiten für Schutzmaßnahmen

Hohe Einigkeit bestand bei den Expertinnen und Experten hinsichtlich der Einschätzung, dass die rasante Entwicklung neuer Technologien wie Künstliche Intelligenz (KI) und Virtual Reality (VR) neue Herausforderungen im Bereich des Kinder- und Jugendmedienschutzes mit sich bringe. Obwohl Probleme in VR-Umgebungen auch Parallelen zu traditionellen 2D-Medien aufweisen, wie unter anderem bezüglich der Nutzungszeiten, würden die spezifischen Eigenschaften von VR, beispielsweise bezüglich Immersivität, dem Eintauchen in die virtuelle Welt und deren Auswirkungen auf junge Menschen, vertiefende Untersuchungen erforderlich machen.

KI eröffne neue Dimensionen der Täuschung, sowohl qualitativ als auch quantitativ, und verändere somit die Landschaft des Kinder- und Jugendmedienschutzes nachhaltig, so der Tenor. KI biete im Gegenzug aber auch Möglichkeiten, die den digitalen Kinder- und Jugendmedienschutz unterstütze, beispielsweise durch verbesserte Altersverifikationsverfahren, welche die Medienaufsicht vereinfachen könne.

KI-gestützte Funktionen verständlich erklären und zur Prävention und Intervention einsetzen

Nach Einschätzung der Fachleute stünden Anbieter digitaler Plattformen vor der Aufgabe, die Nutzung von KI verantwortungsvoll zu gestalten. Dazu gehöre, dass KI-gestützte Funktionen klar erklärt und in einer Weise eingesetzt werden, die Prävention und Intervention unterstütze. Speziell für Kinder und Jugendliche entwickelte KI-Tools sowie transparente Meldewege seien essenziell, um eine sichere Online-Umgebung zu gewährleisten.
Eine gesamtgesellschaftliche Strategie, die sowohl präventive Maßnahmen als auch die Stärkung digitaler Selbstbehauptungsfähigkeiten bei Kindern und Jugendlichen umfasst, bewerteten die Fachleute auf dem Expert Summit für den effektiven Schutz vor den Risiken neuer Technologien als unerlässlich. Die Medienbildung müsse langfristig, frühzeitig und regelmäßig in den Alltag integriert werden, unterstützt durch eine kontinuierliche fachliche Begleitung und den Ausbau der Zusammenarbeit mit Anbietern, Beratungsstellen sowie Expertinnen und Experten.

Mit innovativen Ansätzen wirkungsvollen Kinder- und Jugendmedienschutz gestalten

Der Expert Summit präsentierte eine Vielzahl digitaler Trends und ermöglichte eine eingehende Diskussion über deren Auswirkungen auf den Kinder- und Jugendmedienschutz. Hierdurch wurden wichtige Erkenntnisse und innovative Ansätze für die Gestaltung einer sichereren digitalen Umgebung für junge Menschen gewonnen.
Angesichts der Herausforderungen sich schnell wandelnder Nutzungsumgebungen kann die Umsetzung der Kinderrechte auf Schutz, Befähigung und Teilhabe nur gelingen, wenn die Möglichkeiten des gesetzlichen und erzieherischen Kinder- und Jugendmedienschutzes bestmöglich aufeinander abgestimmt sind.

Über die BzKJ
Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) setzt sich dafür ein, Kindern und Jugendlichen ein gutes Aufwachsen mit Medien zu ermöglichen. Dabei handelt sie im Auftrag des Jugendschutzgesetzes (JuSchG). Zu ihren Aufgaben gehören die Indizierung von jugendgefährdenden Medien und die Überwachung systemischer Vorsorgemaßnahmen (wie z. B. sichere Voreinstellungen, Melde- und Abhilfeverfahren etc.) von Medienanbietern. Zudem vernetzt sie alle im Kinder- und Jugendmedienschutz wichtigen Akteurinnen und Akteure, fördert die kontinuierliche
Weiterentwicklung des Kinder- und Jugendmedienschutzes und ermöglicht Eltern, Fachkräften, Kindern und Jugendlichen Orientierung für eine möglichst sichere Mediennutzung.

Über das deutsche Safer Internet Centre
Seit 2008 koordiniert klicksafe das Safer Internet Centre Deutschland, dem die Internet-Hotlines von eco, FSM und jugendschutz.net sowie die Helpline „Nummer gegen Kummer“ angehören. Die Safer Internet Centres in 27 europäischen Ländern werden unterstützt vom Digital Europe Programme (DIGITAL) der Europäischen Union mit dem Ziel die Medienkompetenz von Kindern, Eltern und Lehrkräften zu fördern, für mögliche Risiken im Internet zu sensibilisieren und Beratungsstellen für Online-Problemen sowie Meldestellen für illegale Inhalte anzubieten.