Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
internet anonym

Was tun, wenn sich Internet-User «Amoklauf» oder «Hass» nennen? Bild: shutterstock

Attentate und Internetdienste: Könnten Google, Facebook oder Steam das Grauen verhindern?

Die Attentäter von München, Ansbach und Würzburg waren alle völlig selbstverständlich im Netz unterwegs. Was tun Google, Facebook oder Steam, um das Grauen verhindern?

Teresa Sickert / spiegel online



Ein Artikel von

Spiegel Online

Als David Sonboly am Freitag in München um sich schiesst, neun Menschen und sich selbst tötet, ist er gerade einmal 18 Jahre alt. Nun verdichten sich die Hinweise, Sonboly könnte aus Fremdenhass getötet haben. Auf der populären Spieleplattform Steam nannte er sich «Hass» und «Amoklauf» und brachte dort zum Beispiel auch seine Bewunderung für Tim K., den Amokläufer von Winnenden, zum Ausdruck.

Hätte man angesichts solcher Online-Vorzeichen ahnen können, dass David Sonboly Grauenhaftes vorhatte?

Sonboly ist nicht der einzige, dessen Äusserungen oder Formen der Selbstdarstellung im Netz auffallen. Auf Steam gibt es weitere Nutzer, die sich «Amoklauf» nennen – was meistens wohl eher ein geschmackloser Witz oder eine Provokation ist, in die man nicht zu viel hineininterpretieren sollte. Aber gross zu stören scheint den Steam-Betreiber, die US-Spielefirma Valve, solch eine Namenswahl nicht.

Dabei ist das Thema Online-Hass in den vergangenen Monaten ein grosses gewesen, vor allem im Kontext von Facebook. Im Netz gehe es immer schlimmer zu, sagen viele und manche Statistik scheint das nahe zu legen. Andere sagen: Mittlerweile fällt nur mehr auf, wie verroht die Umgangsformen online sind.

Klar ist, dass bedenkliche Aussagen und Propaganda, die Gewalt, Terror und Amok verherrlichen, im Netz existieren. Zwar sieht Patrick Frankenberger, Referent für Islamismus im Internet bei Jugendschutz.net, die meisten Jugendlichen von der extremen Gewalt abgeschreckt: «Aber wenn nur ein minimaler Prozentsatz der Rezipienten darauf anspringt, ist das schon extrem gefährlich.»

Die Community meldet Verstösse

Die Frage ist also: Wie sollen Internetfirmen auf entsprechende Inhalte und Äusserungen reagieren? Und was können Nutzer tun, wenn sie beobachten, wie ein Freund oder Bekannter sich zu extremen Gewaltfantasien hingezogen zu fühlen scheint?

Image

screenshot: Meldefenster für Steam-Profile

Die meisten etablierten Netzwerke wie Facebook, Twitter und Instagram bieten heute die Möglichkeit, Inhalte mit Gewaltdarstellungen oder -androhungen zu melden. Auch Steam hat einen solchen Meldebutton: Man kann allerdings nur Profile oder ganze Gruppen melden, keine einzelnen Beiträge in Gruppen. Auf eine Nachfrage, warum das eigentlich so ist, und was Steam von Namen wie «Amoklauf» hält, reagierte Valve bisher nicht.

Nutzermeldungen sind entscheidend

Ein Problem – mancher würde sagen: einen Konstruktionsfehler – haben auch Dienste mit umfangreicheren Meldeoptionen. Netzwerke wie Facebook sind auf ihre Community angewiesen. Diese findet und meldet die Verstösse – oder auch nicht. Mitunter zieht eine berechtigte Meldung nur nach sich, dass die Inhalte entfernt werden.

In den Gemeinschaftsstandards von Facebook heisst es unter anderem: «Wir entfernen explizite Inhalte, wenn sie zum sadistischen Vergnügen oder zum Verehren und Verherrlichen von Gewalt geteilt werden.» Für Facebook-Nutzer ist es zum Teil trotzdem schwer nachzuvollziehen, warum bestimmte Beiträge entfernt werden und andere nicht. Warum es manchmal bei einem Nacktbild schneller geht, als bei einer Gewaltandrohung.

Auf den gemeldeten Nutzer selbst wird meistens nicht weiter eingegangen. Er bleibt mit seiner Wut allein, die in vielen Fällen vermutlich ein Symptom für tiefer liegende Probleme in seinem Leben ist.

Die grossen Anbieter müssten an dieser Stelle mehr gesellschaftliche Verantwortung übernehmen, fordert Konstantin von Notz, netzpolitischer Sprecher der Grünen im Bundestag: «Hierzu gehört auch, dass sie Hilfsangebote und Seiten zur Verfügung stellen, auf denen Menschen mit Gewaltfantasien oder Suizidgedanken Hilfe und Ansprechpartner finden.»

So könnten Hilfsangebote aussehen

In Sachen Suizid hat Facebook bereits reagiert: Nutzer können Postings von Freunden melden, aus denen hervorgeht, dass diese sich etwas antun wollen. Facebook versucht dann, die Nutzer persönlich zu kontaktieren und ihnen Hilfsangebote zu vermitteln. Im Zweifel alarmiert das soziale Netzwerk die Polizei. Facebook hat auf eine Anfrage, was das Netzwerk abseits des Meldebuttons noch zur Prävention von Gewalttaten tun könnte, nicht konkret geantwortet.

Image

screenshot: Meldefenster bei Facebook

Es gibt auch Wege, über die sich Seitenbetreiber online direkt an die möglicherweise psychisch labilen Betroffenen wenden. Zum Beispiel bei gesperrten «ProAna-Seiten». Diese Seiten leiten nach ihrer Sperrung in einigen Fällen auf Beratungsangebote um – vorher fand man unter den Links Inhalte, die Essstörungen glorifizierten.

Im Bereich Gesundheit experimentiert Google in den USA mit neuen Services. Wer in der Suche-App beispielsweise «Kopfschmerz auf der linken Seite» eintippt, bekommt direkt mögliche Krankheitsbilder angezeigt. Wäre es also nicht vielleicht sinnvoll, dass Google auch auf bestimmte Suchanfragen zur Planung oder Durchführung von Gewalttaten automatisch reagiert und einen Kasten mit Hilfsangeboten für extremistische Aussteigerprogramme oder psychologische Beratung ausspuckt?

Weiterführende Ideen – etwa die, dass Google für die Terrorbekämpfung systematisch Suchhistorien auswerten könnte – klingen dagegen mehr nach einer Dystopie als nach einem hilfreichen Ansatz. Google-Sprecher Klaas Flechsig etwa warnt davor, aufgrund der Suchhistorie eines Nutzers auf seinen Geisteszustand oder möglicherweise geplante Gewaltverbrechen zu schliessen: «Gerade nach den schlimmen Ereignissen der letzten Tage und Wochen suchen viele Nutzer nach Begriffen wir ‹Amoklauf› oder ‹Terroranschlag›. Das heisst aber nicht, dass all diese Menschen etwas Ähnliches planen.»

Internetunternehmen unterstützen nur auf freiwilliger Basis

Die meisten Präventionsangebote im Netz basieren bisher auf dem freiwilligen Engagement einiger grosser Konzerne. Doch viele Start-ups und bekannte Netzwerke wie Snapchat, das mittlerweile täglich über 150 Millionen Nutzer erreicht, haben nicht einmal einen einfachen Meldebutton für belästigende oder gefährliche Inhalte. Wäre so etwas nicht gerade bei einer Video-App, die vor allem bei jungen Menschen beliebt ist, eine absolute Pflichtfunktion?

Vorrangig auf die Wirksamkeit von Online-Werkzeugen wie Meldebuttons oder Anzeigetafeln zur Gewaltprävention zu setzen, hält Birgit Kimmel von «klicksafe», einer EU-Initiative für mehr Sicherheit im Netz, für wenig sinnvoll. Vor allem, wenn Massnahmen im Hintergrund fehlen, die die Betroffenen weiter begleiten und unterstützen: «Viele dieser Jugendlichen haben eine Menge Probleme, und es fehlt ihnen an Anerkennung, Bindung und Orientierung. Mit ihren Taten wollen sie Aufmerksamkeit erregen und wahrgenommen werden.»

Die Probleme zeigten sich vorher schon lange im Offlineleben, so Kimmel. Persönliche Beziehungen und Bindungen seien nicht ausreichend vorhanden, häufig kämen schwierige familiäre Erfahrungen hinzu. Um Amokläufe zu verhindern, müssten Kinder aus schwierigen familiären Kontexten frühzeitig noch besser unterstützt werden, um aus der Gewaltspirale rauszukommen.

Wenn ein junger Mensch wirklich Amok laufen will, helfe bei einer fortgeschrittenen Radikalisierung aber auch kein Steam-, Facebook- oder Twitter-Hinweis mehr, sagt Kimmel. «Diese Massnahmen der Sensibilisierung erreichen Jugendliche nicht mehr, deren Gewaltideen eskalieren.»

Wie Apple, Google und Facebook entscheiden, was wir lesen:

Darum muss Google zerschlagen werden

Link to Article

Facebook macht jetzt Journalismus: Warum wir uns der Realität nicht verweigern können

Link to Article

Wie die Popstars aus den Kinderzimmern mit YouTube Millionen verdienen

Link to Article

Facebook erklärt seine Spielregeln: Pobacken und Brustwarzen nein, die Vagina von Courbet ja

Link to Article

Die digitale Medienrevolution hat erst gerade begonnen und das sind die 3 wichtigsten Trends

Link to Article

Jetzt kannst du News direkt auf Facebook lesen. 8 Gründe, warum dies mehr Spass macht als auf Newsportalen – und 8 Gründe, warum das stinkt​

Link to Article
Alle Artikel anzeigen

Mehr zum Attentat in München:

David S. – ein depressiver 18-Jähriger mit mörderischer Zielstrebigkeit

Link to Article

Die vergessenen Jahre des Terrors: In den 70ern und 80ern zogen Terroristen eine Blutspur durch Europa

Link to Article

Warum die Bluttat von München kein Terrorakt ist – sondern ein Amoklauf

Link to Article

Augenzeugen aus München: «Einer hat es nicht geschafft. Ich bin bis zum Schluss bei ihm geblieben.»

Link to Article

«Einmischung in innere Angelegenheiten»

Link to Article

Ob München oder Nizza – dieser Journalist ist offenbar überall

Link to Article

Video soll mutmasslichen Schützen zeigen, wie er sich auf einem Dach ein Wortgefecht mit einem Anwohner liefert

Link to Article

Dieses Bild in deinem Facebook-Feed soll angeblich den Tatort in München zeigen: Achtung, es ist ein Fake!

Link to Article
Alle Artikel anzeigen

Abonniere unseren Newsletter

7
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
7Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Kstyle 03.08.2016 19:28
    Highlight Highlight Mit dieser begründung könnte man auch jegliche versammlungsorte schliessen. Ja manchmal wäre etwas kontrolle nicht schlecht. Aber wie lässt sich das durchsetzten. Die worte sperren? Leute sind kreativ @M0k. Polizei nachhause schicken? Es gibt nur 2 dinge strengere waffengesetzt für schusswaffen. Wenige amokläufe werden mit messern begangen. 2. ein wachsames umfeld was gar nicht einfach ist.
  • StealthPanda 29.07.2016 11:57
    Highlight Highlight Das ist jetzt aber nicht euer ernst? Versucht ihr jetzt wirklich einen Client Dienst ( Steam) zum Downloaden und Launchen von Spielen mit Facebook und Co. zu vergleichen? Ja klar gibt es dort auch eine Community aber diese besteht aus spielern und dient zur Kommunikation und Disskussion. Zusätzlich als Nickname Amok zu haben ist völlig legitim vorallem als FPS Spieler geht man öfters mal Amok und sei es nur als letzte Runde vor dem zu bett gehen wo man halt mal 200schuss mit dem M249 rauslässt ohne wirklich zu zielen...dies ist Amok unter spielern.
  • Micha Moser 29.07.2016 01:13
    Highlight Highlight Ich denke kaum das es einen unterschied macht ob er auf Steam nun "Hass" oder nicht heissen darf. Er würde wohl einfach auf ein Onlineforum umsatteln mit gleichgesinnten. Natürlich haben Internetportale eine gewisse Verantwortung, aber nur bis zu einer gewissen grenze wie ich denke. Die Menschen sollten doch wissen wie man dich zu verhalten hat. Klar, die Meldefunktion von Facebook ist grottig und hat mich schon oft geärtgert, aber warum zum teufel lädt man auch solch explizite inhalte auf facebook? Ich bin mir bewusst das ich da wohl einbisschen zu naiv denke.
  • Gustav.s 28.07.2016 21:44
    Highlight Highlight Immer mehr Überwachung, wo sind die freiheitlichen Träume der 90er hin?
    Das Internet wird, zu einer gelenkten, überwachten und von den Mächtigen zur Meinungsbildung genutzten Verkaufsplatform.
    Eigentlich so wie alle Medien. Der Traum ist vorbei.
    • äti 28.07.2016 23:20
      Highlight Highlight Man kann bestens ohne Internet, Twitter, Instagram, etc leben. Dadurch sogar Freiheiten ausbauen. Es ist halt immer so, ist etwas gratis, zahlt man eben anders herum - mit Infos, mit etwas Abhängigkeit etc.
      Der Traum ist mitnichten vorbei. Er ist portioniert zu haben aufgrund was man sicht denn so wählt und braucht. Allerdings heisst das auch, sich einzuschränken (kein FB, kein Handy z.B.)
    • nagL 28.07.2016 23:46
      Highlight Highlight Echt jetzt!? Wegen Melde-Buttons ist die Idee des Internets tod? Twitter lässt gerade in repressiven Staaten eine Kommunikation zu. Schon desswegen hats funktioniert! Tor-Project, AirBnB...alles sind riesige Fortschritte! Nur weil die Gesellschaft seit Jahrzehnten durch neo-liberale Ideen demontiert und kapitalisiert wurde ist nicht ein Meldebutton auf Facebook der Tod der Freiheit! Und auch beim entkommen vor der Werbeflut hilft dir das Internet: Adblock (natürlich nie bei Watson einzusetzen ;-)). Das Internet stirbt nicht, nie!
    • http://bit.ly/2mQDTjX 29.07.2016 16:38
      Highlight Highlight Gustav.s: Diese "freiheitlichen Träume" der 90er waren doch schon damals vorbei.

      Die Träumer lebten in den 60er bis 80er-Jahren. Anfang 90er-Jahre wurden ihre Träume mit der Erfindung des HTTP wahr. Das Internet wurde liberalisiert. Der Traum war vorbei, weil ein Traum nur Traum bleibt, solange er nicht Realität wird.

      Heute gibt es auch Träumer, ähnlich wie die Internet-Hippies der 60/70/80er-Jahre. Für sie ist das Internet schon längst gestorben. Nur eine Papierkorbversion, die sie neu designen wollen.

      https://gnunet.org/sites/default/files/strint2014.pdf

      Der Traum lebt weiter.

Facebook sperrt Netanjahus Sohn wegen anti-muslimischer Äusserung

Der Sohn von Israels Ministerpräsident Benjamin Netanjahu hat wegen anti-muslimischer Äusserungen Probleme mit Facebook bekommen. Das Online-Netzwerk löschte die Kommentare und blockierte seine Seite für 24 Stunden, wie Jair Netanjahu am Sonntag über Twitter mitteilte.

Er warf Facebook vor, eine Gedankendiktatur zu errichten. Der 27-jährige Politikersohn hatte am Donnerstag in einem Facebook-Post alle Muslime zum Verlassen Israels aufgefordert. Er reagierte damit auf einen tödlichen Angriff auf …

Artikel lesen
Link to Article