Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

So raffiniert will Google die Diskussionskultur im Internet retten

Beleidigungen machen viele Diskussionen im Netz ungeniessbar. Zuletzt hat die NZZ kapituliert und ihre Kommentarfunktion stark eingeschränkt. Eine Google-Tochter will jetzt die Lösung gefunden haben: Eine selbstlernende Software soll das Gift aus Kommentarspalten saugen. Kann das klappen?

23.02.17, 15:28 23.02.17, 15:56


Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwesterfirma Jigsaw hat am Donnerstag den Dienst «Perspective» gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden.

Im Rahmen der Digitalen News Initiative (DNI) werde Jigsaw eine Schnittstelle (API) zur Verfügung stellen, mit der Verlage «Perspective» kostenlos nutzen können.

Der Dienst wurde zuvor in Projekten mit der Wikimedia-Stiftung und der «New York Times» erprobt, um Hasspostings und Trollereien automatisch erkennen zu können. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115'000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet.

Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen wie Deutsch erweitert werden.

Schutz vor DoS-Attacken

Jigsaw, ein Unternehmen der Google-Muttergesellschaft Alphabet, hat sich zum Ziel gemacht, «die Welt mit Technologie sicherer zu machen». Im Rahmen der DNI bietet Jigsaw Verlagen im «Project Shield» unter anderem einen kostenlosen Schutzschild gegen sogenannte Denial-of-Service-Attacken an, bei denen Wirtschaftskriminelle oder staatlich gesteuerte Hacker Webseiten der Verlage mit gigantischen Datenpaketen von Millionen gekaperten Computern aus einem Botnetz lahmlegen wollen.

Der Ansatz bei «Perspective» gehe deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus, sagte Jigsaw-Top-Manager Jared Cohen. Die künstliche Intelligenz erkenne, ob ein Beitrag von einem menschlichen Anwender als unangemessen beurteilt werde und ihn dazu bringe, die Konversation zu verlassen.

Eine Studie habe ergeben, dass 72 Prozent aller US-Amerikaner im Internet bereits Drangsalierung wahrgenommen hätten, fast die Hälfte aller Anwender habe dies auch bereits persönlich erlebt. Knapp ein Drittel der Befragten zensiere sich inzwischen bei Online-Kommentaren selbst, weil sie Racheaktionen befürchteten.

«Giftigkeits»-Skala

Das System von Jigsaw stelle auf einer Skala zwischen 0 und 100 fest, wie «giftig» («toxic») ein Kommentar sei. Was mit den Kommentaren dann passiere, liege in der Hand der Verleger. So könne man mit dem System Moderatoren der Verlage auf verdächtige Kommentare aufmerksam machen, die sich dann in die Konversation einschalten könnten. Konkret könnte das etwa bedeuten, dass ein Forenmoderator bei der «New York Times» oder watson nicht mehr alle Beiträge händisch begutachtet, sondern nur noch solche, die einen Giftwert von 90 oder mehr aufweisen.

Man könne den Anwendern aber auch schon beim Schreiben des Kommentars anzeigen, wie «giftig» der Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Ausserdem könnten Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden.

(oli/sda/dpa)

Die verrücktesten russischen Troll-Memes

Hol dir die App!

Brikne, 20.7.2017
Neutrale Infos, Gepfefferte Meinungen. Diese Mischung gefällt mir.

Abonniere unseren Daily Newsletter

50
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
50Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Bot 23.02.2017 19:37
    Highlight http://www.perspectiveapi.com/
    1 1 Melden
  • Majoras Maske 23.02.2017 19:22
    Highlight Ich weiss nicht, was ich davon halten kann. Klar sollte es nicht möglich sein mit Rassismus, Sexismus oder Homophobie zu argumentieren und das auch vermutlich mit Beleidigungen. Aber wer garantiert, dass das nicht mal dazu dient unbequeme Meinungen zu verdrängen?
    Ein freieres System mit Herz und Blitzli finde ich besser, dann kann der Scheibende gleich sehen, wie die anderen zu seiner Meinung steht.
    13 3 Melden
    • WEBOLA 23.02.2017 22:36
      Highlight Ich finde, dass solche Rankings (wie hier die Blitze und Herzchen oder wie auf FB die Likes) nur der Verfasser selbst sehen sollte. Die tragen kein bischen zur Meinungsäusserung bei. Die verführen einem doch nur aus purer Faulheit der Mehrheit zuzustimmen ohne wirklich den Beitrag vielleicht gelesen oder verstanden zu haben.
      5 3 Melden
    • Rendel 23.02.2017 22:37
      Highlight Herzli und Blitzli können auch gekauft werden. Sie haben nichts zu bedeuten. Gibt Firmen die das anbieten.
      4 1 Melden
  • Rendel 23.02.2017 17:26
    Highlight Google soll doch zuerst gegen Bots bei Facebook vorgehen 😁 .
    14 2 Melden
  • Homes8 23.02.2017 17:09
    Highlight Sehr warscheinlich wird die Welt dadurch wieder ein bitz ärmer und ein paar wenige wieder ein bitz reicher

    4 2 Melden
  • lilie 23.02.2017 17:08
    Highlight Herrje, ihr müsst jeden einzelnen Beitrag bei watson freischalten? Da hab ich ja geradezu ein schlechtes Gewissen, dass ich so viele schreibe. 😳

    Ein wenig sinnvolle Unterstützung wäre da ja schon sinnvoll. Etwa eine Software, die zumindest die ganz plumpen Kommentare ausfiltert.

    Aber ob eine solche Software zuverlässig funktioniert oder doch eher mehr Ärger produziert, ist ja schon fraglich.

    Ich fände es halt auch gut, wenn User sich angewöhnen würden, gehässigte Kommentare zu melden, anstatt darauf zu reagieren - denn das führt ja meist nur zu einer nicht mehr endenden Schlammschlacht.
    7 3 Melden
  • R&B 23.02.2017 16:55
    Highlight Bin gespannt auf dieses Programm. Wenn es ohne Hintergedanken programmiert wurde, ist es sicher nützlich.
    8 12 Melden
    • Rendel 23.02.2017 17:58
      Highlight Wer zahlt befiehlt. Im Netz der Betreiber ist der Hintergedanke immer Geld.
      6 2 Melden
    • Silent_Revolution 23.02.2017 18:19
      Highlight Nichts von Google wird ohne Hintergedanken eingeführt.
      16 1 Melden
    • R&B 23.02.2017 19:18
      Highlight Wenn es nur Geld ist, weil Blogs weniger aggressiv sein sollen, dann ist es ja gut.
      1 2 Melden
    • Rendel 23.02.2017 22:58
      Highlight Man kann gezielt filtern was man als aggressiv ansieht, also auch gezielt Meinungen, die einem nicht in den Kram passen, die kann man dann als sogenannt aggressiv herausfiltern. Nichts ist gut.
      2 0 Melden
    • WEBOLA 23.02.2017 23:01
      Highlight Klar hat Google "Hintergedanken" aber vergesst nicht, Google hat einen wesentlichen Beitrag für unsere technische Entwicklung bzw die des Internets geleistet.
      1 3 Melden
  • Radiochopf 23.02.2017 16:29
    Highlight Was viele Befürworter für solche Inhalts-Filter (noch) nicht verstanden haben, all diese Filter können auch immer für das Gegenteil missbraucht werden wenn sie in die falsche Hände gelangen! und wenn man ehrlich ist, wird das Thema viel zu stark aufgebauscht! wirkliche Trolle, die nur beleidigen ohne was zu einer Diskussion beizutragen, gibt es zum Glück wenige.. meistens sind es doch genau die Typen, die Andersdenkende als Trolle beschimpfen und nicht merken, dass sie sich damit selber gleich zum Troll gemacht haben..
    20 9 Melden
    • Rendel 23.02.2017 17:57
      Highlight Haha du Troll, Du.
      5 5 Melden
    • stan1993 23.02.2017 20:02
      Highlight Dein Kommentar zieht trolle an ^^ einen haben wir schon, lowend rb wo seid ihr?
      4 0 Melden
  • http://bit.ly/2mQDTjX 23.02.2017 16:22
    Highlight Jigsaw preist die Technik als "Waffe im Kampf gegen den IS":

    http://www.nbcnews.com/news/us-news/google-think-tank-launches-new-weapon-fight-against-isis-n682036

    Nach Angaben von Jigsaw/Google lässt sich ihre Waffe auch gegen amerikanische Alt-Right-Extremisten verwenden:

    https://www.wired.com/2016/09/googles-clever-plan-stop-aspiring-isis-recruits/

    Andere Forscher fanden heraus, dass man mit gezielten Streuen von Fakenews die Bevölkerung gegen Falschmeldungen immunisieren (manipulieren?) könne.

    http://onlinelibrary.wiley.com/doi/10.1002/gch2.201600008/full

    Schöne, neue Welt... ;/
    17 1 Melden
  • D. Wright 23.02.2017 16:16
    Highlight Geht das auch mit Memes? (Internet: Bilder)
    12 4 Melden
  • demokrit 23.02.2017 16:14
    Highlight Google ist brandgefährlich und sollte dringend zerschlagen werden. Je früher, desto besser.
    22 22 Melden
    • WEBOLA 23.02.2017 23:12
      Highlight Nein nicht Google sondern der User selbst ist durch seine Faulheit und Unwissenheit gefährlich...
      1 1 Melden
    • Nick Name 24.02.2017 07:55
      Highlight Webola, das Argument greift leider nur beschränkt. Man müsste es nämlich weiterführen: Der Mensch ist brandgefährlich - schliesslich sind WIR Google, User, lechts- und rinksextrem, dumm und böse, etc ... ;-) (und natürlich immer auch nicht)

      Wenn man die Machtanhäufung bei einigen Unternehmen (die in allererster Linie grösser werden und Gewinn machen wollen) heute anschaut, finde ich, hat demokrit recht.
      0 0 Melden
    • demokrit 24.02.2017 08:35
      Highlight Google ist nicht demokratisch. Mit demokratischer "Dummheit" - wenn man so will - hätte ich kein Problem.
      0 1 Melden
  • wololowarlord 23.02.2017 16:14
    Highlight Das Internet wird der Tod der Meinungsfreiheit sein.
    (Falls es nach FB, Alphabet und co. geht)
    19 12 Melden
    • rauchzeichen 23.02.2017 18:18
      Highlight wie soll n das gehn? erlährung bitte..
      2 7 Melden
    • rauchzeichen 23.02.2017 18:33
      Highlight falls der blitz fürs fehlende k ist, sorry die tasten sind so klein für einen grobmotoriker wie mich.
      falls er für das verlangen einer erklährung war, sach ma gehts noch? ich seh nicht wie das internet die meinungsfreiheit zerstören könnte..
      2 7 Melden
  • Wilhelm Dingo 23.02.2017 15:59
    Highlight 1984 kommt schneller als vermutet.
    30 9 Melden
  • Rendel 23.02.2017 15:53
    Highlight Ist doch Mumpitz. Man kann obergiftig kommentieren ohne ein böses Wort. Ironie, zwischen den Zeilen, kann man viel böses sagen, das wird nicht ausgefiltert. Ich will auch keine Zensur.
    31 4 Melden
    • Einer Wie Alle 23.02.2017 16:17
      Highlight Oder man benutzt Beleidigungen, die das zeitliche schon gesegnet haben, das Programm wird diese Begriffe wohl kaum kennen, du Gorilla Blauarsch
      11 6 Melden
    • John M 23.02.2017 16:34
      Highlight Bitte genau lesen. Es wird nicht nach einer Wortliste gefiltert sondern mit einer künstlichen Intelligenz der den gesamten Kommentar auswertet
      14 4 Melden
    • Rendel 23.02.2017 16:48
      Highlight Mit Worten fängt es an. Und keine Maschine wird wird einen ironischen Kommentar von einem ernsten unterscheiden können. Kommentare stehen immer im ganzen Kontext zu andern Kommentaren.

      Zudem bin ich immer noch gegen Zensur.
      10 3 Melden
    • Rendel 23.02.2017 17:01
      Highlight @Einer Wie Alle Sie kennen Google nicht 😉
      6 0 Melden
    • TheMan 23.02.2017 17:03
      Highlight Dan halt auf Schweizerdeutsch schreiben. Glaube kaum das diese Künstliche Intelligenz,. Dies auch versteht. E LÖL, E BLÖDE SIECH, E GLÜNGGI UN E SÜRMEL. Also schöner gehen Schimpwörter kaum.
      11 7 Melden
    • Rendel 23.02.2017 17:42
      Highlight Haha, klingt unheimlich giftig, TheMan .
      2 0 Melden
    • Homes8 23.02.2017 18:04
      Highlight Eventuel wird dann nur noch unmissverständliches Speichellecken durch gelassen.
      2 0 Melden

Whistleblower-Plattform Swiss Leaks nimmt Betrieb auf

Swiss Leaks ist am Freitag offiziell gestartet. Die Whistleblowing-Plattform soll Leuten, die in der Schweizer Wirtschaft, Politik oder Verwaltung Missstände aufdecken wollen, eine Meldung unter Wahrung der Anonymität ermöglichen.

Das Team besteht aus rund 30 Freiwilligen, unter anderem auch dem Julius Bär-Whistleblower Rudolf Elmer, wie die Kampangenenorganisation Campax, die Gründerin von Swiss Leaks, am Freitag mitteilte.

Eingaben über die Website swiss-leaks.net sollen nach einer ersten …

Artikel lesen