Gefahren für Kinder und Jugendliche im Netz verschärfen sich durch KI

Maximilian Klieber

Kinder und Jugendliche sind im digitalen Raum zunehmend gefährdet. Das zeigt der aktuelle Jahresbericht von jugendschutz.net, dem Kompetenzzentrum für Jugendschutz im Internet. Im Jahr 2023 bearbeitete die Organisation 7.645 Fälle von Verstößen, wobei zwei Drittel auf sexualisierte Gewalt zurückzuführen waren. Auch Extremismus, Mobbing und gesundheitsgefährdende Inhalte wurden in alarmierendem Ausmaß festgestellt.

Ein großer Risikofaktor ist die zunehmende Verbreitung von Deepfakes und anderen KI-generierten Inhalten. Diese machen es immer schwerer, zwischen Realität und Fälschung zu unterscheiden, was das Risiko für Übergriffe, Mobbing und die Verbreitung extremistischer Propaganda erhöht. Stefan Glaser, Leiter von jugendschutz.net, warnt: „Deepfakes sind täuschend echt und leicht zu erstellen, was die Hemmschwelle für Missbrauch im Netz senkt.“ Der Bericht zeigt zudem, dass KI auch zur Verbreitung von gesundheitsgefährdendem Verhalten eingesetzt wird.

Im Kampf gegen diese Bedrohungen wurden 3.210 Fälle an Plattformbetreiber gemeldet, 105 Verstöße an die Kommission für Jugendmedienschutz (KJM) weitergeleitet und 3.582 schwerwiegende Fälle zur Strafverfolgung gegeben. Trotz dieser Bemühungen wird die Reaktion der Plattformen als unzureichend bewertet. Die Altersverifikation von Nutzern wird oft mangelhaft umgesetzt, und viele Anbieter reagieren nur schleppend auf Meldungen von Verstößen.

Bundesjugendministerin Lisa Paus fordert daher die konsequente Umsetzung des Digital Services Act, der Plattformen dazu verpflichtet, Minderjährige vor ungeeigneten Inhalten zu schützen und ihre Privatsphäre zu wahren. „Kinder und Jugendliche haben ein Recht auf eine sichere Teilhabe an der digitalen Welt“, so Paus. Auch Dr. Marc Jan Eumann, Vorsitzender der KJM, betont, dass die Altersprüfung der Schlüssel zu sicherem Surfen sei und Technologien zur Altersverifikation, wie die Schätzung des Alters mittels Gesichtserkennung, stärker genutzt werden sollten.

In Rheinland-Pfalz wurde zudem der „Pakt gegen sexualisierte Gewalt“ ins Leben gerufen, um durch ressortübergreifende Zusammenarbeit den Schutz junger Menschen zu stärken. Katharina Binz, Jugendministerin von Rheinland-Pfalz, unterstreicht die Bedeutung eines ganzheitlichen Ansatzes, der sowohl Prävention als auch die Unterstützung von Betroffenen umfasst.

Angesichts der dynamischen Entwicklung im digitalen Raum bleibt der Schutz von Kindern und Jugendlichen eine dringende Herausforderung, die nur durch eine enge Zusammenarbeit von Plattformanbietern, Behörden und Gesellschaft bewältigt werden kann.