Sharenting im Zeitalter der KI

Michael In Albon, Jugendmedienschutzbeauftragter von Swisscom, im Interview mit der Redaktion. (Source: Netzmedien)

Michael In Albon, Jugendmedienschutzbeauftragter von Swisscom, im Interview mit der Redaktion. (Source: Netzmedien)

Welche Aspekte unterschätzen Eltern häufig, wenn es um den digitalen Fussabdruck ihrer Kinder geht - insbesondere angesichts der heutigen Technologien?

Michael In Albon: Erstens ist der digitale Fussabdruck grösser, als man denkt. Er entsteht nicht nur dort, wo alle mitschauen können - also auf den sozialen Medien -, sondern auch bei Messaging-Diensten, in Direct Messages und so weiter. Man muss sich bewusst sein: Der digitale Fussabdruck jeder Person, die in den digitalen Medien unterwegs ist, ist deutlich grösser, als viele Eltern annehmen. Das Zweite ist: Eltern haben in diesem Zusammenhang oft ein mangelndes Problembewusstsein. Es ist natürlich sehr einfach und auch sehr herzerwärmend, wenn man wunderschöne, herzige Kindervideos von kleinen Dreikäsehochs sieht, wie sie etwas schaffen oder etwas Lustiges sagen. Dann möchte man das teilen. Das ist an sich etwas Wunderbares und fast schon ein Vorteil der digitalen Medien. Aber gleichzeitig vergessen die digitalen Medien nichts. Wenn es alle sehen können, dann sehen es unter Umständen eben auch Personen, die solche Inhalte missbrauchen. Vielen Eltern ist nicht wirklich bewusst, wie schnell Inhalte im digitalen Raum zweckentfremdet werden können.

Anfang Jahr sorgte der KI-Chatbot Grok mit sexualisierten Bildern, unter anderem auch von Minderjährigen, für Aufsehen. Wie beeinflussen aus Ihrer Sicht öffentliche Debatten über Deepfakes und KI-Missbrauch den gesellschaftlichen Umgang mit Kinderbildern?

KI funktioniert wie ein Katalysator. Sie verschnellert die ganze Diskussion. Aber die Sharenting-Diskussion - also was tue ich meinem Kind an, wenn ich Inhalte über es oder mit ihm im Netz teile - die gab es schon vor 10 bis 15 Jahren. Schon damals hat man versucht und gemahnt, dass das Internet nie vergisst. Was heute lustig ist, findet der Junge in 10 Jahren im Gymnasium oder in der Oberstufe vielleicht gar nicht mehr lustig. Aber mit der künstlichen Intelligenz und den unbeschränkten Möglichkeiten wird es wahrscheinlich noch intensiver. Ich hoffe, dass Eltern sich an der eigenen Nase nehmen und sich auch fragen, ob sie weiterhin Fotos ihrer Kinder teilen sollten.

Worin sehen Sie aktuell die wirksamsten und effizientesten Massnahmen, um den spezifischen Gefahren von Sharenting und Deepfakes zu begegnen?

Einerseits gibt es den regulatorischen Weg. In Deutschland gibt es einen Vorstoss eines Kinderhilfswerks, Kinderbilder von unter 7-Jährigen auf sozialen Medien zu verbieten. Das kann man machen - ob es auch durchsetzbar ist, steht auf einem anderen Blatt geschrieben. Andererseits gibt es den Weg der Förderung der Medienkompetenz, indem Eltern darauf hingewiesen werden, dass sie solche Inhalte entweder gar nicht, nur sehr bewusst oder in einer anderen Form teilen sollen, damit alle Rechte des Kindes, insbesondere die Persönlichkeitsrechte, jederzeit geschützt sind. Ein dritter Weg wäre, dass man technische Massnahmen ergreift, die das verhindern. Auch hier muss man aber sagen: Diese funktionieren für einen grossen Teil des Problems, aber es werden immer 10 bis 20 Prozent der Fälle durch die technischen Hürden schlüpfen und das Problem nicht lösen. Die Förderung der Medienkompetenz bei den Eltern ist einerseits ein löblicher Weg, andererseits aber auch ein beschwerlicher Weg. Er braucht extrem lange Überzeugungsarbeit und die Verinnerlichung von Verhaltensweisen, die man unter Umständen so nie gelernt hat.

Haben sich durch KI die Prioritäten in der Präventionsarbeit rund um Sharenting verändert?

Also für die polizeiliche Arbeit auf jeden Fall. Aus dem einfachen Grund, dass es mit sehr wenigen Klicks, mit sehr wenig Geld und dem richtigen KI-Tool möglich ist, mit Bildern, die ich auf Instagram geteilt finde, pornografische und kinderpornografische Inhalte zu produzieren. Das Strafgesetzbuch, Artikel 197, in der Schweiz verbietet die Herstellung von kinderpornografischen Inhalten - ungeachtet der Tatsache, ob sie echt oder unecht sind. Das heisst also: KI-generierte Fake-Pornovideos sind genau gleich illegal wie Pornovideos mit echten Kindern. Das ist wichtig zu verstehen. Die Polizei hat dadurch neue mögliche Zugriffe, indem sie Gesichter auf kinderpornografischen Beweismitteln und im Netz findet und so eine Relation herstellen kann. Für die Arbeit, die wir machen - zum Beispiel Elternabende, wie wir vor einem Jahr einen grossen Online-Elternabend gemacht haben -, um die Eltern zu sensibilisieren, hat sich im Prinzip nicht sehr viel geändert. Es gab aber eine leichte Verschiebung. Wenn es früher vor allem darum ging, die Persönlichkeitsrechte des Kindes bestmöglich zu schützen und es nicht der Gefahr auszusetzen, dass es in 10 oder 15 Jahren in der Schule wegen eines alten Fotos gemobbt wird, dann kommt heute die andere Gefahr hinzu, dass Inhalte unter Umständen für pornografische und kinderpornografische Zwecke missbraucht werden.

Welche Potenziale sehen Sie im Einsatz von KI, um Kinder zu schützen, beispielsweise bei der Erkennung von sensiblen Inhalten?

Die meisten KI-Systeme sind sehr gut im Erkennen von Mustern. Insofern ist KI natürlich ein sehr starkes Werkzeug, um bestimmte Inhalte im Netz aufzudecken oder Zusammenhänge zwischen zwei verschiedenen Inhalten darzustellen. Es gibt aber auch sehr hohe Vorbehalte gegenüber der Technologie, weil es sehr oft falsch-negative und falsch-positive Zuordnungen gibt. Das ist natürlich auch wieder sehr gefährlich, weil plötzlich Personen in Verruf geraten, die eigentlich gar nichts falsch gemacht haben. Da muss man sehr vorsichtig sein. Die Justiz ist momentan auch noch mit einem grossen Vorbehalt gegenüber der Technologie unterwegs. Aber was auf jeden Fall als Potenzial auf dem Tisch liegt, ist die Kapazität von künstlicher Intelligenz, Muster zu erkennen.

Wer trägt aus Ihrer Sicht die grösste Verantwortung für den Schutz von Kinderfotos und welche Rolle spielen dabei digitale Plattformen mit KI-gestützten Funktionen?

Wir kriegen den Geist nicht mehr zurück in die Flasche - er ist da. Damit meine ich die Plattformen. Natürlich müssen sie sich in Zukunft so weiterentwickeln, dass sie eine gewisse Verantwortung für die Inhalte übernehmen, die auf ihren Plattformen auftauchen und entstehen. Akut liegt die Verantwortung aber bei den Eltern, weil sie den grössten Hebel haben. Sie haben die Möglichkeit, durch ihr eigenes Verhalten Sharenting zu verhindern, indem sie keine Inhalte publizieren. Sie können ihr Verhalten auch dahingehend verändern, dass sie Influencerinnen und Influencern, die mit Kindern arbeiten und damit Geld verdienen, nicht mehr folgen, sie quasi "canceln", sodass das ganze Geschäftsmodell unattraktiver wird. Kurzfristig ist dort wahrscheinlich am meisten zu holen.

Sehen Sie in der Schweiz einen Bedarf an gesetzlichen Richtlinien, die den KI-basierten Missbrauch von geteilten Kinderinhalten adressieren? 

Als Vertreter der Wirtschaft kann ich natürlich nicht gegen Regulationen sein. Aber regulatorische Massnahmen, die wirklich dem Schutz des Kindes dienen und nicht einfach nur kompliziert sind, auf jeden Fall in unserem Sinne. Ich denke allerdings nicht, dass Internet-Service-Provider hier viel ausrichten können. Es braucht deutlich mehr politisches Commitment. Aber es ist durchaus richtig, wenn sich die gesamte Branche, die ganze Wertschöpfungskette, ihrer Verantwortung bewusst ist und diese wahrnimmt - jeder in seinem Rahmen.

Welche Empfehlungen geben Sie Eltern mit auf den Weg, die Inhalte ihrer Kinder trotzdem online teilen möchten?

Erstens: Keine persönlichen Daten des Kindes mitteilen. Also den Namen nicht teilen, keine Adresse, keine Telefonnummer - das braucht es alles nicht. Zweitens: Das Kind unkenntlich darstellen. Zum Beispiel, indem man das Gesicht anschneidet, das Kind nur von hinten zeigt oder die Gesichter unscharf stellt. Am allerbesten wäre natürlich, wenn man das Kind im Kontext des Posts gar nicht thematisiert, weil es in dem Moment oft gar nicht zustimmen kann; in dem Alter, in dem es nicht zustimmen kann, sollte man es eigentlich nicht machen. Wenn ein Kind älter ist und sagt: Ich finde es cool, mit meiner Mutter gezeigt zu werden, dann ist das ein bewusster Entscheid. Aber auch da sind die Eltern in der Verantwortung, begleitend zur Seite zu stehen und zu sagen: Vielleicht ist es keine so gute Idee - aus Grund X oder Y. 

Welche Rolle spielt dabei die Aufklärung über KI-Risiken?

KI sollte von Eltern gemeinsam mit den Kindern exploriert werden. Eltern sollten mit den Kindern die ersten Schritte machen, sehen, wie es funktioniert, was funktioniert und was nicht, und dadurch ein besseres Verständnis dafür bekommen, wozu diese Tools fähig sind. Auch hier ist Begleitung zentral: Die Eltern sollen mitgehen, schauen, erklären, kontextualisieren. So können Eltern viel dazu beitragen, dass KI richtig verstanden wird und später auch in die richtige Richtung eingesetzt wird.

Lesen Sie hier den Hintergrundbericht "So verschärft KI das Problem von Kinderfotos im Netz".