Im Fokus des aus der ZUKUNFTSWERKSTATT der BzKJ ausgerichteten Online-Roundtable standen Möglichkeiten und Herausforderungen zur Ausgestaltung von anbieterseitigen Vorsorgemaßnahmen, auch unter Einsatz von Künstlicher Intelligenz (KI) und Algorithmen-basierter Empfehlungssysteme, um junge Menschen bei der Bildung ihrer Demokratiefähigkeit zu unterstützen. Die Teilnehmenden waren sich einig, dass Befähigungs- und Orientierungsmaßnahmen im Bereich der Demokratieförderung für Kinder und Jugendliche eine besondere Bedeutung einnehmen.
Auch Sebastian Gutknecht, Direktor der BzKJ, unterstreicht die Wichtigkeit von demokratiefördernden Maßnahmen im digitalen Raum und bedankt sich für die Teilnahme und das Engagement:
„Gerade unter Beachtung aktueller medialer und gesellschaftlicher Entwicklungen zeigt sich, dass die Wahrung der Demokratiefähigkeit junger Menschen im digitalen Raum eine zentrale Aufgabe des Kinder- und Jugendmedienschutzes ist. Der von der BzKJ durchgeführte interdisziplinäre Austausch hat einmal mehr verdeutlicht, wie sinnvoll und zielführend die Beteiligung von Anbietern, weiteren Expertinnen und Experten und von Kindern und Jugendlichen selbst ist.“
KI-gestützte Maßnahmen gegen Online-Gefährdungen
In verschiedenen Beiträgen und unter Einbindung der bisherigen Ergebnisse der ZUKUNFTSWERKSTATT-Strecke „Gefährdung der Demokratiefähigkeit“ ermittelten die Teilnehmenden zentrale Bedarfe und prüften konkrete Maßnahmen. Neben dem Fokus auf KI und Algorithmen-basierten Empfehlungssystemen bildete die Verbesserung der anbieterseitigen Vorsorgemaßnahmen einen wichtigen Schwerpunkt.
Die Vertreterinnen von YouTube/Google und Microsoft stellten in diesem Zusammenhang KI-gestützte Maßnahmen in ihren Angeboten vor, um (KI-gestützte) Manipulation (beispielsweise Deepfakes, Desinformation) und Radikalisierung junger Menschen frühzeitig zu erkennen und einzudämmen. Dr. Nikolai Horn vom iRights.Lab gab Input zum Thema „KI-Potenziale, Grenzen und Gefährdungen für die Demokratiefähigkeit von Kindern und Jugendlichen online“.
Stärkung von Online-Demokratiefähigkeit: Gemeinsame Aufgabe im Kinder- und Jugendmedienschutz
Der Roundtable fungierte als interdisziplinärer Austausch sowie zur Diskussion und Erarbeitung konkreter Maßnahmen zum Schutz der Demokratiefähigkeit von Kindern und Jugendlichen im digitalen Raum. Im Zusammenhang mit KI sollten auch die damit einhergehenden Vorteile verstärkt geprüft werden. Im Bereich der anbieterseitigen Vorsorgemaßnahmen wurde deutlich, dass hier verschiedene Maßnahmen zusammenwirken müssen, um Demokratiefähigkeit im digitalen Raum positiv zu unterstützen.
Die Beteiligten betonten ihr großes Interesse, mit der BzKJ hierzu weiter im konstruktiven Austausch zu bleiben. Gleichzeitig unterstrich die BzKJ, weitere Anbieter in die nächsten Schritte zur konkreten Umsetzung zielführender Maßnahmen einzubeziehen. Gemeinsames Ziel ist es, die Demokratiefähigkeit junger Menschen online zu unterstützen und digitale Angebote so zu gestalten, dass sie hierauf bestmöglich einzahlen.
Weiterführende Informationen zur ZUKUNFTSWERKSTATT der BzKJ.
Über die BzKJ
Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) setzt sich dafür ein, Kindern und Jugendlichen ein gutes Aufwachsen mit Medien zu ermöglichen. Dabei handelt sie im Auftrag des Jugendschutzgesetzes (JuSchG). Zu ihren Aufgaben gehören die Indizierung von jugendgefährdenden Medien, die kontinuierliche Förderung der Weiterentwicklung des Kinder- und Jugendmedienschutzes sowie die Vernetzung aller im Kinder- und Jugendmedienschutz wichtigen Akteurinnen und Akteure. Zudem bietet sie Eltern, Fachkräften, Kindern und Jugendlichen Orientierung für eine möglichst sichere Mediennutzung. Die bei der BzKJ eingerichtete und unabhängige „Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten“ (KidD) überwacht die Einhaltung struktureller Vorsorgemaßnahmen (z. B. sichere Voreinstellungen, Melde- und Abhilfeverfahren etc.) von Online-Plattformen mit Sitz in Deutschland nach dem europäischen Digital Services Act (DSA).