„Besseres Design statt pauschaler Verbote“ - Prof. Dr. Sandra Cortesi zu digitaler Sicherheit von Kindern und Jugendlichen

Wie können Kinder und Jugendliche im digitalen Raum besser geschützt werden, ohne ihre Selbstständigkeit einzuschränken? Diese Frage steht im Zentrum einer aktuellen Veröffentlichung im Fachjournal „Science“. Eine internationale Expertinnen- und Expertengruppe unter Leitung von Prof. Dr. Sandra Cortesi, Leiterin der Professur für Participation and Diversity in Digital Societies und Prof. Dr. Urs Gasser, Leiter des Lehrstuhls für Public Policy, Governance and Innovative Technology, zeigt: Pauschale Verbote und Altersbeschränkungen greifen zu kurz. Stattdessen braucht es digitale Umgebungen, die Sicherheit, Teilhabe und Entwicklungsmöglichkeiten von Anfang an mitdenken.

Digitale Technologien eröffnen jungen Menschen heute vielfältige Chancen: Sie ermöglichen Zugang zu Bildung, fördern Kreativität und bieten Räume für Austausch und gesellschaftliche Teilhabe. Gleichzeitig sind sie mit Risiken verbunden – von Cybermobbing über problematische Inhalte bis hin zu potenziellen Auswirkungen auf die psychische Gesundheit. Die Forschung zeigt jedoch, dass einseitige Einschränkungen diesen komplexen Herausforderungen nicht gerecht werden. Vielmehr können sie unbeabsichtigte Folgen haben, etwa indem sie Vertrauen untergraben oder dazu führen, dass Kinder digitale Angebote im Verborgenen nutzen.

Im Interview erklären die beiden Forschenden, welche Rolle Plattformdesign, Künstliche Intelligenz und Bildung dabei spielen und warum Vertrauen wichtiger ist als Kontrolle.

In den USA sind Meta und Google vor wenigen Tagen wegen mangelnden Schutzes von Kindern und Jugendlichen auf ihren Social-Media- beziehungsweise Video-Plattformen zu hohen Strafzahlungen verurteilt worden. Welche Bedeutung haben die Urteile vor dem Hintergrund der Ergebnisse Ihrer Arbeitsgruppe?

Urs Gasser: Diese Urteile können wegweisend sein, weil sie unterstreichen, dass die Kindersicherheit in der digitalen Welt nicht nur eine Frage schädlicher Inhalte ist, sondern auch eine Frage des Designs der Plattformen. Die Gerichte haben sich angeschaut, wie Plattformen aufgebaut sind, welche Risiken ihre Funktionen mit sich bringen und ob Unternehmen zur Verantwortung gezogen werden können, wenn diese Risiken vorhersehbar sind und nicht ausreichend berücksichtigt werden. Diese Fragen treffen den zentralen Punkt der Empfehlungen unserer Arbeitsgruppe: ein Design, das digitale Räume von Anfang an so gestaltet, dass sie Sicherheit, Handlungsfähigkeit und Wohlbefinden von Kindern und Jugendlichen gewährleisten. Bezogen auf die in den USA verhandelten Fälle, dass sie Funktionen ausschließen, die süchtig machen können, und dass sie Schutz vor Missbrauch durch Erwachsene bieten. 

Mehrere Länder haben Kindern bis zu einem bestimmten Alter soziale Medien verboten oder planen diesen Schritt. Warum halten Sie nichts von einem Verbot?

Urs Gasser: Wir sprechen uns nicht per se gegen Regulierung aus, gesetzliche Vorgaben sind unverzichtbar. Allerdings sind wir der Ansicht, dass die Politik mehr tun sollte als rote Linien zu ziehen. Vielmehr sollte sie die Anbieter verpflichten, ihre Plattformen und Produkte kindgerecht zu gestalten. Das ist anspruchsvoller als ein pauschales Verbot, aber auch vielversprechender. Denn wir wollen ja eigentlich, dass Kinder und Jugendliche lernen können, die Medien selbstbestimmt und mit einer für sie positiven Wirkung einzusetzen. 

Ein zentraler Gedanke der zugrunde liegenden Studie ist, digitale Sicherheit nicht nur als Schutz vor Gefahren zu verstehen, sondern als aktive Gestaltungsaufgabe. Digitale Räume sind kein neutraler Hintergrund, sondern das Ergebnis konkreter Designentscheidungen. Werden diese Entscheidungen gezielt an den Bedürfnissen von Kindern und Jugendlichen ausgerichtet, können sie sowohl Schutz bieten als auch Entwicklung fördern. Im Fokus stehen dabei drei eng miteinander verbundene Prinzipien: die Rechte von Kindern, ihre Selbstbestimmung und ihr Wohlbefinden. Diese Perspektive verschiebt den Blick von reaktiven Maßnahmen hin zu proaktiven Lösungen, die Risiken frühzeitig berücksichtigen und gleichzeitig positive Nutzungsmöglichkeiten stärken.

Die Arbeitsgruppe schlägt vor, KI einzusetzen, um die Plattformen sicherer zu machen.

Sandra Cortesi: Neben dem Bann von eindeutig schädigenden Funktionen können neue Tools ältere Kinder und Jugendliche befähigen, in einem altersgerechten Rahmen selbstbestimmt zu handeln. Künstliche Intelligenz kann erkennen und intervenieren, wenn Heranwachsende in Gefahr geraten. KI könnte beispielsweise sagen: „Ich sehe, dass du in letzter Zeit ganz viele Posts zum Abnehmen angeschaut hast. Ich sehe, dass du mit drei Personen im Austausch bist, die das unterstützen. Ich empfehle dir jetzt drei Posts mit einer anderen Perspektive.“ Die KI könnte auch erkennen, dass eine Jugendliche ein Selfie mit viel nackter Haut machen will, und fragen: „Bist du sicher, dass du dieses Selfie machen möchtest? Überleg doch mal, was du damit machen willst.“ Oder ein Kind wird von jemandem kontaktiert, der sonst nur Kontakt mit Erwachsenen hat, sodass die KI davon ausgehen kann, dass es sich um einen Erwachsenen handelt und einen entsprechenden Hinweis anzeigen kann. 

Das klingt so, als würden die Anbieter sehr viel Privates über die Jugendlichen erfahren.

Sandra Cortesi: Solche Auswertungen dürfen ausschließlich auf den Endgeräten stattfinden und nicht an die Betreiber übermittelt werden. Aber auch wenn die Privatsphäre sichergestellt ist, wäre es ideal, wenn sich die Familien gemeinsam überlegen würden: Welchen Medienkonsum wollen wir? Wie ist sozusagen unser Ernährungsplan für die Digitalwelt? Und dann zeigt uns das Gerät oder die Plattform all die Möglichkeiten, die wir dafür an- oder ausstellen können. Zum Beispiel: Ich möchte hauptsächlich positive Inhalte sehen und wenn die KI merkt, dass ich dabei aus der Spur gerate, unterstützt sie mich. Oder ältere Jugendliche entscheiden: Ich will jetzt mal drei Monate meine eigenen Erfahrungen machen und möchte nicht, dass mir die KI dabei zuschaut und mir irgendetwas sagt. Auch auf der Ebene der Familien halten wir Verbote für weniger sinnvoll als eine solche Auseinandersetzung. Zum einen, weil so Vertrauen und Selbstwirksamkeit gestärkt werden. Zum anderen wissen viele Kinder und Jugendliche sowieso, wie sie die von ihren Eltern eingestellten Beschränkungen auf den Smartphones umgehen können. Es ist aber klar, dass nicht alle Familien Zeit und Kompetenzen dafür haben, weshalb schützende Standardeinstellungen sehr wichtig sind.

Auch die besten Einstellungen und gesetzlichen Vorgaben werden wohl nicht vollständig verhindern können, dass Jugendliche verstörende Inhalte oder digitale Gewalt erleben. Was sollte dann geschehen?

Urs Gasser: Die Forschung zeigt, dass es wichtig ist, dass ältere Kinder und Jugendliche solche Inhalte und Verletzungen anonym melden können und sofort Beistand bekommen. In vielen Fällen schämen sie sich und fühlen sich schuldig. Dann ist es wichtig, dass eine solche Meldung nicht wochenlang im Nirgendwo verschwindet, sondern dass unmittelbar Verständnis gezeigt und Hilfe angeboten wird. Idealerweise sind es andere junge Menschen, die sagen: Ich verstehe dich, ich habe das auch schon erlebt. In einigen Ländern gibt es bereits Hilfsangebote, bei denen dafür trainierte Jugendliche mit Unterstützung von Profis als Ansprechpartnerinnen und Ansprechpartner bereit stehen. Solche Angebote sollten zum Standard werden. 

Neben technischen Lösungen betont die Studie auch die Bedeutung von Bildung und Beteiligung. Kinder und Jugendliche sind nicht nur zu schützende Nutzerinnen und Nutzer, sondern aktive Mitgestalter digitaler Räume. Studien zeigen, dass Resilienz besonders dann entsteht, wenn digitale Kompetenzen in den Alltag integriert werden und junge Menschen an der Entwicklung von Lösungen beteiligt sind. Schulen können hier eine Schlüsselrolle spielen, indem sie digitale Themen nicht isoliert behandeln, sondern in verschiedene Fächer einbinden und gemeinsam mit den Schülerinnen und Schülern weiterentwickeln.

Die Arbeitsgruppe schlägt außerdem vor, dass nicht nur Unternehmen Kinder und Jugendliche in den Designprozess einbinden. Auch die Schulen sollten mehr auf Beteiligung setzen.

Sandra Cortesi: Ganz viele junge Menschen sagen heute, dass sie sich nicht wohl fühlen und nicht glücklich sind. Sie sehen in eine Zukunft mit vielen Gefahren und haben das Gefühl, das Heft des Handelns nicht in der Hand zu haben. Indem sie Kinder und Jugendliche beteiligen, haben die Schulen eine riesige Chance, ihnen zum einen eine Zukunft aufzuzeigen, in der die digitale Welt nicht nur voll von tausend Risiken ist, und ihnen zum anderen Selbstwirksamkeit zu ermöglichen. Die Botschaft wäre nicht: „Wir zeigen euch, wie die digitale Welt funktioniert.“ Sondern: „Wir als Schulen haben einiges von euch zu lernen, weil wir vielleicht nicht alle Tools kennen, aber ihr genau wisst, wie man sie nutzen kann. Wir als Erwachsene haben aber auch Wichtiges beizutragen, sei es unsere gesellschaftlichen Werte oder unsere Erfahrung. Also lasst uns die Lerninhalte gemeinsam erstellen.“ Damit würde für die digitale Sicherheit von Kindern und Jugendlichen viel erreicht werden.

Im Projekt „Frontiers in Digital Child Safety“ haben mehr als 40 Expertinnen und Experten aus Wissenschaft, Kinderrechtsorganisationen und gemeinnützigen Einrichtungen aus den Bereichen Sozialwissenschaften, Technologie, Design, Psychologie und Recht zusammengearbeitet. Gefördert wurde das Projekt von Apple Inc. Die Projektgruppe wurde am TUM Think Tank von Prof. Sandra Cortesi und Prof. Urs Gasser in Zusammenarbeit mit Forschenden der Harvard University und der Universität Zürich koordiniert. Der TUM Think Tank bringt Wissenschaft, Zivilgesellschaft, Politik und Wirtschaft zusammen, um gemeinsam Lösungsvorschläge und Instrumente zu drängenden Problemen zu entwickeln.

Zur Publikation “Digital child safety at the frontier: From evidence to action”
Zur Übersicht der Publikation

Kontakt:

Prof. Dr. Sandra Cortesi
Professur für Participation and Diversity in Digital Societies
Am Olympiacampus 11
80809 München

Tel.: +49 89 289 24515
E-Mail: sandra.cortesi@tum.de

Prof. Dr. Urs Gasser
Lehrstuhl für Public Policy, Governance and Innovative Technology

Tel.: +49 89 907793 270
E-Mail: urs.gasser@tum.de

Text: Klaus Becker/Bastian Daneyko
Foto: IKMZ / UZH / Claudia Thomas / Andreas Heddergott / TUM