In dem digitalen Austauschformat „KI und digitale sexuelle Gewalt – Roundtable zwischen Chancen und Risiken“ kamen Expertinnen und Experten der Kinder- und Jugendmedienschutzfachszene, Vertreterinnen von Strafverfolgungsbehörden, Spezialistinnen und Spezialisten aus dem Bereich KI und IT-Entwicklung sowie Anbieter digitaler Dienste zusammen.
Die Vertreterinnen und Vertreter von YouTube/Google, Snap und Microsoft erläuterten, welche KI-gestützten Schutz- und Befähigungsmaßnahmen bereits in ihren Angeboten umgesetzt werden und wie sie gegen problematische KI-generierte Inhalte im Kontext sexueller Gewalt, beispielsweise Deepfakes oder Deepnudes, vorgehen.
Der anschließende Austausch veranschaulichte, dass der Bedarf an Aufklärung, Prävention und Unterstützungsstrukturen sowohl bei Kindern und Jugendlichen als auch bei Erwachsenen groß ist.
„KI-basierte, sexualisierte Gewalt stellt ein großes, gesamtgesellschaftliches Risiko dar. Es ist dringend erforderlich, für das Thema zu sensibilisieren und es weiter in die Öffentlichkeit zu tragen. Dafür braucht es einerseits ausreichende und verständliche Angebote, um sich über sexuelle Gewalt und Belästigung im Internet zu informieren und um Hilfe in Anspruch nehmen zu können. Daneben bedarf es wirksamer Meldesysteme und struktureller Vorsorgemaßnahmen in digitalen Diensten. KI-basierte Präventions- und Unterstützungsmaßnahmen enthalten zudem großes Potenzial“,
so Isabell Rausch-Jarolimek, zuständige Referatsleiterin der BzKJ.
Erfahrungsberichte aus der Kinder- und Jugendarbeit stellten heraus, dass es für junge Menschen heutzutage „normal“ sei, „Dickpics“ zu erhalten oder zum Versand von Nacktfotos aufgefordert zu werden. Diesem „Gewöhnungseffekt“ von digitaler, sexueller Belästigung sahen die Anwesenden mit großer Sorge entgegen. Eine weitere Erkenntnis des Austausches war, dass Kinder und Jugendliche gerne KI-Bots nutzen, um sich über Themen zu informieren oder Hilfe zu suchen — vor allem bei schambehafteten Themen, die ihre sexuelle Entwicklung und Selbstbestimmung betreffen.
Die Ergebnisse des Online-Roundtables fließen in weitere Formate in der Schwerpunktstrecke „Sexuelle Gewalt und Belästigung im digitalen Raum“ ein. Diese zahlen alle auf das gemeinsame Ziel ein, Kinder- und Jugendliche vor sexueller Gewalt und Belästigung in digitalen Angeboten zu schützen, ohne ihnen ihre Rechte auf Teilhabe und Befähigung abzusprechen.
Ziel der ZUKUNFTSWERKSTATT-Veranstaltungen ist es, den Kinder- und Jugendmedienschutz gemeinsam mit allen Beteiligten so weiterzuentwickeln, dass er in einer dynamischen, digitalen Medienumgebung stetig Wirkung entfaltet. Weiterführende Informationen zur ZUKUNFTSWERKSTATT gibt es auf der Internetseite der BzKJ unter: www.bzkj.de/bzkj/zukunftswerkstatt.
Über die BzKJ
Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) setzt sich dafür ein, Kindern und Jugendlichen ein gutes Aufwachsen mit Medien zu ermöglichen. Dabei handelt sie im Auftrag des Jugendschutzgesetzes (JuSchG). Zu ihren Aufgaben gehören die Indizierung von jugendgefährdenden Medien, die kontinuierliche Förderung der Weiterentwicklung des Kinder- und Jugendmedienschutzes sowie die Vernetzung aller im Kinder- und Jugendmedienschutz wichtigen Akteurinnen und Akteure. Zudem bietet sie Eltern, Fachkräften, Kindern und Jugendlichen Orientierung für eine möglichst sichere Mediennutzung. Die bei der BzKJ eingerichtete und unabhängige „Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten“ (KidD) überwacht die Einhaltung struktureller Vorsorgemaßnahmen (z. B. sichere Voreinstellungen, Melde- und Abhilfeverfahren etc.) von Online-Plattformen mit Sitz in Deutschland nach dem europäischen Digital Services Act (DSA).