Nicht zuletzt die Entwicklungen rund um den Chatbot ChatGPT haben Künstliche Intelligenz (KI) in den Fokus der Öffentlichkeit gerückt. Kinder und Jugendliche kommen in ihrem medialen Alltag zunehmend mit verschiedensten KI-Technologien in Berührung. Dabei sind sie mitunter auch Risiken ausgesetzt. Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) betont im Editorial der Ausgabe: „Ein agiler Kinder- und Jugendmedienschutz sollte Chancen und Risiken solcher Entwicklungen konstruktiv begleiten.“ Die Artikel der vorliegenden BzKJAKTUELL schaffen Orientierung und leisten dazu einen Beitrag.
Einführung in eine Schlüsseltechnologie
KI prägt zahlreiche Lebensbereiche und befindet sich in einer dynamischen Phase ihrer Entwicklung. Insbesondere Fortschritte im Bereich der generativen KI, wie bei ChatGPT und DALL-E, machen KI für die breite Öffentlichkeit erlebbar. Dominique Facciorusso und Deborah Woldemichael von der EU-Initiative klicksafe geben im ersten Schwerpunktbeitrag „Künstliche ‚Intelligenz‘ – Einführung in eine Schlüsseltechnologie“ einen grundlegenden Überblick zum Thema.
Die Autorinnen zeigen auf, dass trotz der Potenziale auch verstärkte Gefahren im digitalen Raum entstehen, was zu einer gesellschaftlichen Debatte über die Ausrichtung und Bedingungen dieser Schlüsseltechnologie führt. Sie weisen darauf hin, dass KI-Technologien per se „neutral“ sind und es auf die gesellschaftliche Nutzung und Debatte darüber ankommt, um souverän und kritisch mit diesen Technologien umzugehen.
Chancen und Risiken im Medienalltag von Kindern und Jugendlichen
Auch wenn KIs bereits seit einigen Jahren den digitalen Alltag beeinflussen, sind sie oft unauffällig. Sprachsteuerungssysteme wie Alexa, Siri und Google Home sowie künstliche Intelligenzen in Navigationssystemen wie Google Maps sind weit verbreitet. Kinder und Jugendliche haben heute vermehrt Kontakt mit KIs in sozialen Netzwerken, Musikstreaming-Portalen und auf anderen Plattformen. In der Folge können personalisierte Inhalte basierend auf vergangenen Interaktionen entstehen und potenziell zu Meinungsblasen führen. Seit November 2022 hat der sprach- und textbasierte Chatbot ChatGPT das Interesse KI in der Gesellschaft deutlich gesteigert.
Markus Sindermann und Karolina Albrich von der Fachstelle für Jugendmedienkultur NRW beleuchten im zweiten Schwerpunktbeitrag „Chancen und Risiken: Künstliche Intelligenz im Spannungsfeld des Kinder- und Jugendmedienschutzes“ den Einfluss von Künstlicher Intelligenz auf den Medienalltag von Kindern und Jugendlichen.
Einsatzmöglichkeiten Künstlicher Intelligenz im Kinder- und Jugendmedienschutz
Die zunehmende Digitalisierung und die verstärkte Nutzung des Internets durch Kinder und Jugendliche erhöhen die Notwendigkeit, den Kinder- und Jugendmedienschutz durch technische Maßnahmen zu stärken. KI-Technologien bieten dazu vielfältige Möglichkeiten.
Professor Dr. Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie setzt sich vor diesem Hintergrund im dritten Schwerpunktbeitrag mit den Einsatzmöglichkeiten von „Künstliche[r] Intelligenz als Instrument des Kinder- und Jugendmedienschutzes“ auseinander. Technische Maßnahmen, wie beispielsweise das „Maschinelle Lernen“ haben sich im Rahmen von KI als vielversprechend erwiesen, da sie in unstrukturierten Medieninhalten Muster erkennen können, um potenziell problematische Inhalte zu identifizieren.
Projekt „Digitales Deutschland“: Aktuelle Studienergebnisse
Dr. Niels Brüggen vom JFF – Institut für Medienpädagogik in Forschung und Praxis stellt im Beitrag „Künstliche Intelligenz im Kontext des Kinder- und Jugendmedienschutzes“ in der Rubrik „Wissenswert“ aktuelle Ergebnisse aus dem Projekt „Digitales Deutschland | Monitoring zur Digitalkompetenz der Bevölkerung“ vor. Im Rahmen des Projektes werden u. a. Medien- und Digitalkompetenzen der Bevölkerung in verschiedenen Altersgruppen analysiert.
Zwei qualitative Studien, die den Einfluss algorithmischer Empfehlungssysteme als Beispiel für KI-Anwendungen untersucht haben, zeigen auf, dass viele Kinder und Jugendliche die Verantwortung für unerwünschte Inhalte in ihren Social-Media-Feeds in erster Linie bei sich selbst sehen. Der Beitrag beschreibt daher auch die Notwendigkeit, nicht allein auf technische Lösungen zu setzen. Vielmehr sollten auch die Kompetenzen der Bevölkerung im Umgang mit neuen Technologien fokussiert und Kinder und Jugendliche befähigt werden.
Kinderrechte im digitalen Umfeld
In einem zweiten Beitrag in der Rubrik „Wissenswert“ gibt Daniel Schaaf von der Koordinierungsstelle Kinderrechte des Deutschen Kinderhilfswerkes (DKHW) Einblicke in das vom DKHW initiierte Gutachten „Kinderrechte im digitalen Umfeld Deutschlands“. Der Beitrag betont die Notwendigkeit einer umfassenden Begleitung durch Politik, Zivilgesellschaft und Wissenschaft angesichts der fortschreitenden Digitalisierung und Medialisierung der Lebenswelten junger Menschen.
Im Weiteren wird ausgeführt, dass insbesondere in Zeiten globaler Demokratiegefährdung die Gewährleistung von Grund- und Kinderrechten in der digitalen Welt essenziell sei. „Die Allgemeine Bemerkung Nr. 25“ des UN-Kinderrechteausschusses diene dabei u. a. als Leitlinie für die Umsetzung der Kinderrechte im digitalen Umfeld.
Spruchpraxis: Diskriminierende Botschaften in Kinderbüchern
Der Beitrag in der Rubrik „Spruchpraxis“ befasst sich mit diskriminierenden Botschaften in Kinderbüchern als Indizierungstatbestand in der Spruchpraxis der bei der BzKJ angesiedelten Prüfstelle für jugendgefährdende Medien.
Das 12er-Gremium der Prüfstelle hatte jüngst über zwei sich an Kinder im Vorschul- und Grundschulalter richtende Bücher zu entscheiden. Die Bücher enthalten jeweils kurze und teils mit Illustrationen versehene Geschichten über Tiere aus dem Wald. In beiden Büchern können die Tiere sprechen und erleben verschiedene Konfliktsituationen, die sie jeweils gemeinsam zu bewältigen haben. Das Gremium hat beide Werke als jugendgefährdend eingestuft. Die jugendgefährdende Wirkung ergebe sich jeweils aus einzelnen Kapiteln, die u. a. durch die Verwendung des Stilmittels der Bildsprache diskriminierende Botschaften zu Lasten von Migrantinnen und Migranten, geflüchteten Menschen und Menschen jüdischen Glaubens enthalten.
ZUKUNFTSWERKSTATT
Die Rubrik „ZUKUNFTSWERKSTATT“ informiert über die aktuellen Veranstaltungen und stellt Bezüge zum Schwerpunktthema dieser Ausgabe her. KI als Instrument des Kinder- und Jugendmedienschutzes, aber auch als Bestandteil des digitalen Alltages von Kindern und Jugendlichen war über die Veranstaltungen hinweg ein wiederkehrendes Thema. Besonders anschaulich zeigte sich die Relevanz von KI im lebensweltlichen Kontext von Kindern und Jugendlichen bei der Veranstaltung der BzKJ am 16. Juni 2023 zum Thema „Anbieter in der ZUKUNFTSWERKSTATT – Maßnahmen gegen eine mediale Gefährdung der Demokratiefähigkeit“.
Im Diskursformat ZUKUNFTSWERKSTATT kommen im Sinne eines dialogischen Ansatzes Medien- anbietende und interdisziplinäre Expertinnen und Experten aus der Forschung sowie kinderrechtlichen wie medienpädagogischen Praxis zum gemeinsamen, konstruktiven Austausch zusammen. Die BzKJ strebt dabei mit der ZUKUNFTSWERKSTATT eine Förderung der gemeinsamen Verantwortungsübernahme von Staat, Wirtschaft und Zivilgesellschaft an.
Zu den fachredaktionellen Online-Beiträgen der BzKJAKTUELL 4/2023.
Über die BzKJAKTUELL
Die Fachzeitschrift BzKJAKTUELL wird von der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) herausgegeben. Sie enthält den öffentlichen Listenteil der aktuellen Indizierungen von Filmwerken, Spielen, Schriftwerken, Tonwerken und Multimediawerken. Im redaktionellen Teil bietet sie mit Fachbeiträgen aus Praxis, Wissenschaft und Politik ein offenes Diskussionsforum für das breite Spektrum kinder- und jugendmedienschutzrelevanter Themen, Entwicklungen und Haltungen.