Braucht Deutschland ein Social-Media-Verbot für Kinder? Welche Risiken gehen von generativer KI aus? Mit diesen Fragen setzte sich der Deutsche Ethikrat auseinander und stellte heute seine Empfehlungen vor. Die Stellungnahme des Gremiums wurde von Bundestagspräsidentin Julia Klöckner (CDU) angeregt. Epoch Times sprach dazu mit der stellvertretenden Vorsitzenden des Deutschen Ethikrats, Prof. Dr. Judith Simon. ________________________________________________________________
Unterstützen Sie unabhängigen Journalismus mit einem Abonnement, digital oder als Wochenzeitung: 👉 https://angebot.epochtimes.de/
Wir freuen uns über rege, themenbezogene Diskussionen. Bitte achten Sie dabei auf eine angemessene Umgangsform! Beleidigungen sind nicht erwünscht. Danke. ________________________________________________________________
The German Ethics Council argues against a blanket age limit for social media, proposing instead a risk-based, tiered approach. The council emphasizes the dangers of generative AI, such as cyber-grooming and deepfakes, and calls for stricter EU-wide regulations via the Digital Services Act to force platform operators to change addictive business models.
Braucht Deutschland ein Social-Media-Verbot für Kinder?
Und welche Risiken gehen von der generativen KI aus?
Mit diesen Fragen setzt sich der Deutsche Ethikrat auseinander.
Und stellt er öffentlich seine Empfehlung vor.
Angeregt hatte die Stellungnahme
die Bundestagspräsidentin Julia Klöckner.
Wir sprechen dazu mit der stellvertretenden
Ethikrat-Vorsitzenden.
Frau Simon, die spannende Frage.
Ab wann sollten, laut dem Ethikrat,
Kinder Zugang zu den sozialen Medien bekommen?
Und was halten Sie von einem Social-Media-Verbot?
So wie es andere Länder gemacht haben.
Also, dass man da eine Altersgrenze festlegt.
Wir haben uns vom Deutschen Ethikrat
gegen eine pauschale Altersgrenze für soziale Medien ausgesprochen.
Stattdessen muss geschaut werden, welche Art von Technologien,
welche Medien sollen Kinder verwenden und welche nicht.
Deswegen soll es eher ein gestuftes, risikobasierten Ansatz geben.
Wo man schaut, wenn die bestimmte Funktionen haben,
die gefährlich sind, dann ist es eher für Ältere.
Und wenn es aber einfach total kinderfreundlich ist,
dann können es auch jüngere Kinder schon nutzen.
Deswegen haben wir gesagt, ein Social-Media-Verbot
ist gleichzeitig ein Stück zu weit.
Weil es einfach Teilhabe und Befähigung
beschneidet von Kindern und Jugendlichen.
Auf der anderen Seite ist es viel zu eng,
weil es die ganzen anderen digitalen Technologien,
KI-Chatbots, Messenger usw. aus dem Blick nimmt.
Und nur spezifisch eng auf soziale Medien fokussiert.
Generative KI erleichtert ja das Vortäuschen von Identitäten.
Wodurch Anbahnungsversuche Erwachsener zu Kindern
in sexueller Absicht, das sogenannte Cyber-Grooming,
schwerer oder gar nicht mehr erkennbar wird.
Welche Schutzmechanismen schlägt der Ethikrat vor?
Inwiefern sind hier Gesetzgeber und Plattformbetreiber gefordert?
Ein großer Schwerpunkt war, dass wir gesagt haben,
generative KI muss viel stärker in den Blick genommen werden,
als das im Moment der Fall ist.
Das muss zum einen dazu führen,
dass bestimmte gesetzliche Regelungen
wie im Jugendschutz verändert werden,
um auch generativer KI Rechnung zu tragen.
Und auf der anderen Seite, gerade für dieses Grooming
und für diese Anbahnung, da geht es natürlich wieder
ein Stück weit über die sozialen Medien.
Wo wir gesagt haben, in sozialen Medien,
bei denen Kinder schon Zugriff haben oder Kinder und Jugendliche,
da sollten diese Anbahnungskontaktmöglichkeiten
durch Fremde unterminiert werden oder verhindert werden.
Das heißt, wir haben unterschiedliche Hebel,
wo man da ansetzen müsste.
Einerseits bei bestimmten Einschränkungen
der Nutzung von generativer KI selber
und bei dem anderen bei der Verwendungsweise
beispielsweise für Grooming.
Wo ist denn da der Plattformbetreiber
und wo der Gesetzgeber gefordert?
Also der Plattformbetreiber muss das umsetzen.
Aber da die vieles nicht freiwillig machen,
muss der Gesetzgeber bestimmte Dinge eben einfordern.
Und ein Hebel wäre eben da im Digital Services Act.
Also wir haben uns sehr stark für Lösungen auf europäischer Ebene
und für eine Unterstützung und einfach eine effektivere Umsetzung
des Digital Services Act ausgesprochen.
Und eine Möglichkeit wäre da, es gibt ja begleitende Leitlinien
zu dem Artikel 28 beim DSA,
der sich mit Kinder- und Jugendschutz beschäftigt.
Und dass man diese Leitlinien auch verbindlich macht
und eben genau sagt, welche Funktionen,
welche Features müssen denn ausgestellt werden
von den Plattformbetreibern,
wenn sie ihre Services Kindern und Jugendlichen zugänglich machen.
Das erfordert aber sozusagen eine Einstimmigkeit
unter den EU-Mitgliedsländern.
Ist es da nicht sicher, auch eine nationale Lösung zu finden
oder würde die nicht weit genug gehen?
Also das Problem ist ja, dass alle gesetzlichen Regelungen,
die Plattformbetreiber adressieren,
sowieso durch die Vollharmonisierung des Digital Services Act
auf europäischer Ebene stattfinden müssen.
Das heißt, in dem Moment, wo es nationale Alleingänge ist,
adressieren die ohnehin nicht wirklich die Plattformen.
Und ein Problem wäre auch,
wenn wir jetzt unterschiedliche nationale Lösungen haben,
dass es zu einer Fragmentierung kommt
und noch zu schwereren Rechtsdurchsetzungen.
Deswegen müsste es einheitliche Lösungen geben.
Den DSA gibt es ja auch schon.
Das heißt, es geht ja nicht darum, neue Einigkeit zu haben,
sondern tatsächlich den einfach effektiver umzusetzen
und eben diese Leitlinie noch hochzuziehen
in den Gesetzestext selber.
Die einfache Möglichkeit,
pornografische Bilder mithilfe von Deepfakes erstellen zu können,
kann dazu führen, dass Kinder selbst KI nutzen,
um andere Kinder zu mobben.
Wie bewertet der Ethikrat diese Gefahren
und wie kann dem vorgebeugt werden?
Ja, der Umgang gerade sozusagen mit solchen Deepfakes
in diesem Kontext wird ja im Moment politisch
auch noch mal unabhängig diskutiert,
in welcher Art und Weise
auch die Verbreitung von solchen Bildern unterbunden werden soll.
Das ist ein ganz wichtiges Thema,
was gar nicht nur unbedingt bei den Plattformen eben ansetzen muss.
Da kann es eben auch nationale Lösungen geben,
dass man eben sagt,
die Verbreitung von solchen Informationen
wird unter Strafe gestellt.
Das haben wir jetzt nicht spezifisch uns angeschaut,
aber natürlich unter dem Thema generative KI
als eine neue Quelle für neue Risiken,
aber auch bekannte Risiken, ganz klar.
Wie wichtig ist ein gesamtgesellschaftlicher Ansatz
jetzt beim Umgang mit Social-Media-Plattformen,
aber auch generativer KI?
Also wie stark sind da auch die Elternhäuser gefordert,
Bildungseinrichtungen,
um die Medienkompetenz zu fördern?
Das ist ganz wichtig.
Das kann keine Aufgabe sein,
wo wir mit einem Verbot alleine hinkommen,
sondern Menschen müssen sensibilisiert werden
für die Gefahren, natürlich auch für die Chancen
von vielen von diesen Technologien,
für die Arten und Weisen, wie man sinnvoll
mit sozialen Medien oder KI umgeht,
aber eben auch sensibilisiert werden für die Probleme,
damit irgendwie Kinder selber und Eltern
mit Kindern darüber reden können
und sich schützen können,
dass in die Schulen da auch eingewoben werden,
da unterstützend tätig zu werden.
Wir haben auch über Kinderärztinnen und Kinderärzte geredet,
die vielleicht schon ganz früh,
weil sie eben durch diese Kinderuntersuchung
alle Eltern irgendwie auch schon ganz klein haben,
dass sie sensibilisieren über die Nutzung
von digitalen Technologien und mögliche Schäden,
auch wenn die Eltern vielleicht bestimmte Praktiken vorleben.
Ich glaube, es ist ganz wichtig,
dass es da einen breiten gesellschaftlichen Diskurs
darüber gibt und einen Austausch darüber,
wie auch Kinder und Jugendliche besser online
geschützt werden können.
Und wie würden Sie die aktuelle Situation einschätzen?
Halten Sie unsere Kinder und Jugendlichen
für fit in der Hinsicht
oder haben Sie den Eindruck,
man kann diese Gefahren und Risiken
noch gar nicht abschätzen und es ist doch viel
Aufklärungsarbeit
und Bewusstmachung noch nötig?
Ja, also ich halte Kinder und Jugendliche
schon oft für fit, aber das Problem ist tatsächlich,
dass ja auch die Eltern, auch die Lehrerinnen
und Lehrer, Erzieherinnen, dass er die gesamte Bevölkerung
verstehen muss, wie diese Technologien
funktionieren und ich finde,
es kann nicht immer nur über die Aufklärung
und das auf den Rücken von den Einzelnen liegen,
sondern ganz oft sind diese, also das Grundproblem ist ja,
dass diese Software so gebaut ist,
dass sie unsere Schwächen ausnutzt,
dass sie eben genau so gebaut ist, die Aufmerksamkeit zu ziehen
und deswegen müssen wir auch
unsere digitalen Umwelten einfach umgestalten,
sodass sie für Kinder und Jugendliche besser geeignet
sind, aber auch für uns alle, dann müssen
wir nicht Kinder von Sachen wegsperren, sondern haben
einfach da angesetzt, wo das Problem liegt,
nämlich bei den Geschäftsmodellen von diesen
Online-Plattformen. Was schwebt Ihnen da genau
vor, wenn Sie sagen, die Umwelt
umgestalten? Also was wir sagen,
ist einerseits, dass wir süchtig machende
Funktionen von sozialen Medien prinzipiell
verbieten sollten. Es ist die
Logik, warum wir diese Endlos-Feeds
und Endlos-Scrolls haben und diese
ganzen überall Blinks und Pieps ist ja,
damit wir mehr Zeit auf diesen Plattformen
verbringen. Das Gleiche ist ja auch bei Chatbots.
Es gibt ja keinen Grund, warum Chatbots
einen mit Ich anreden müssen oder signalisieren,
dass sie einen verstehen oder hören, diese ganze
vermenschlichte Sprache von Chatbots.
Die Idee ist ja, je mehr
Zeit wir auf diesen Plattformen mit diesen
Chatbots verbringen, umso mehr Datenspuren
hinterlassen wir, umso mehr wissen diese Plattformen
und das ist das eigentliche Geschäftsmodell davon
und das spricht natürlich gegen so eine
Autonomie und Selbstständigkeit von Nutzerinnen
und Nutzer, diese Dinge auch mal wegzulegen und deswegen
müssen wir auch an diese Geschäftsmodelle
dran, damit sich da was ändern kann.
In seiner Stellungnahme formulierte
der Ethikrat 13 Empfehlungen
und machte deutlich, dass der Schutz
von Kindern vor den
Risiken der digitalen Welt
eine gesamtgesellschaftliche
Aufgabe ist. So
wären Gesetzgeber,
Plattformbetreiber, Elternhäuser
aber auch Betreuungs- und
Bildungseinrichtungen gefordert.