Digital
Social Media

Jugendschutz: Instagram will Nacktbilder in Direktnachrichten verstecken

Meta will mehr Sicherheitsmassnahmen auf seinen Plattformen einführen, um Minderjährige zu schützen.
Der Meta-Konzern will Minderjährige vor Sextortion schützen.Bild: imago-images.de

Darum will Instagram Nacktbilder in Direktnachrichten verstecken

Der Jugendschutz auf Social-Media-Plattformen wie Instagram steht schon lange in der Kritik. Mark Zuckerbergs US-Konzern Meta plant nun verbesserte Sicherheitsmassnahmen – ausgerechnet mit KI.
12.04.2024, 15:17
Mehr «Digital»
Ein Artikel von
t-online

Der US-Konzern Meta hat einen besseren Schutz von minderjährigen Nutzerinnen und Nutzern vor sexueller Erpressung angekündigt. Meta teilte am Donnerstag mit, es werde erprobt, eine von künstlicher Intelligenz (KI) unterstützte Software einzusetzen.

Diese Software solle automatisch Nacktbilder entdecken, die über die Instagram-Direktnachrichtenfunktion an Minderjährige versendet werden und sie unkenntlich machen. Zudem sollen an alle User, die solche Inhalte versenden, automatisch Sicherheitstipps versendet werden.

Schutz vor gefährlichem Kontakt

Allerdings wird das Bild nicht endgültig unkenntlich gemacht. «Der Empfänger hat die Wahl, ob er das Bild sehen möchte oder nicht», sagte Capucine Tuffier, die bei Meta Frankreich für den Kinderschutz zuständig ist, der Nachrichtenagentur AFP. Mit den neuen Massnahmen sollten junge Menschen vor «ungewolltem und potenziell gefährlichem Kontakt» bewahrt werden, hiess es von Meta weiter.

Ziel des «Nudity Protection»-Tools ist der bessere Schutz vor sogenannter Sextortion. Dabei bringen die Täter oft minderjährige Opfer dazu, sexuell eindeutige Bilder oder Videos zu erstellen und ihnen zu senden. Die Täter drohen daraufhin mit der Veröffentlichung des Materials, um Geld oder weitere Bilder zu erpressen.

Die neue Funktion soll zunächst in mehreren Ländern in Mittel- und Lateinamerika getestet und in den kommenden Monaten weltweit eingesetzt werden.

Zu wenig Moderation auf Plattformen

«Die Frage ist, warum sie das nicht längst schon getan haben», sagte der Informationswissenschaftler Olivier Ertzscheid von der Universität Nantes. Die nötige Software gebe es bereits seit einigen Jahren. Er warnte auch vor falschen Anzeigen, etwa bei Bildern von Frauen in Badeanzügen. «Bei sämtlichen Plattformen herrscht ein Mangel an Moderation durch Menschen», kritisierte er.

Meta hatte bereits im Januar einen verstärkten Jugendschutz auf der Plattform Instagram angekündigt. Um ein Konto von privat auf öffentlich zu setzen, muss ein Jugendlicher demnach die Zustimmung seiner Eltern einholen.

Kritik am Jugendschutz bei Meta

Zum Meta-Konzern gehören unter anderem Facebook, Instagram und Whatsapp. Das Unternehmen steht massiv in der Kritik, weil es seine Nutzer und vor allem Kinder nicht genug schütze. Kritiker werfen Meta seit Jahren vor, dass insbesondere pädophile Nutzer seine Online-Netzwerke und Messenger-Dienste zu leicht für die Verbreitung von kinderpornografischem Material nutzen können.

Mehr als 40 US-Bundesstaaten haben Meta bereits wegen des aus ihrer Sicht unzureichenden Schutzes insbesondere von Kindern durch den Konzern verklagt. Auch die EU-Kommission hat eine Untersuchung zu den Kinderschutzmassnahmen von Meta und anderen Digitalkonzernen eingeleitet.

Verwendete Quellen:

  • Nachrichtenagentur AFP

(t-online/dsc)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Du solltest nicht alles auf Social Media glauben
1 / 38
Du solltest nicht alles auf Social Media glauben
quelle: x
Auf Facebook teilenAuf X teilen
Ehemalige Facebook-Mitarbeiterin enthüllt Geheimnisse
Video: watson
Das könnte dich auch noch interessieren:
4 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
4
Annalena Baerbock spricht von «russischem Angriffskrieg auf allen Ebenen» – und reagiert
Die deutsche Regierung könnte alle russischen Diplomaten in Deutschland zu unerwünschten Personen erklären, berichtet der «Spiegel».

Die deutsche Aussenministerin Annalena Baerbock (Grüne) hat die russischen Cyberangriffe auf die SPD und deutsche Unternehmen bei einem öffentlichen Auftritt erneut scharf kritisiert. Und wie es scheint, könnte es nicht bei diplomatischen Protestnoten bleiben.

Zur Story