Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

So raffiniert will Google die Diskussionskultur im Internet retten

Beleidigungen machen viele Diskussionen im Netz ungeniessbar. Zuletzt hat die NZZ kapituliert und ihre Kommentarfunktion stark eingeschränkt. Eine Google-Tochter will jetzt die Lösung gefunden haben: Eine selbstlernende Software soll das Gift aus Kommentarspalten saugen. Kann das klappen?

23.02.17, 15:28 23.02.17, 15:56


Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwesterfirma Jigsaw hat am Donnerstag den Dienst «Perspective» gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden.

Im Rahmen der Digitalen News Initiative (DNI) werde Jigsaw eine Schnittstelle (API) zur Verfügung stellen, mit der Verlage «Perspective» kostenlos nutzen können.

Der Dienst wurde zuvor in Projekten mit der Wikimedia-Stiftung und der «New York Times» erprobt, um Hasspostings und Trollereien automatisch erkennen zu können. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115'000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet.

Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen wie Deutsch erweitert werden.

Schutz vor DoS-Attacken

Jigsaw, ein Unternehmen der Google-Muttergesellschaft Alphabet, hat sich zum Ziel gemacht, «die Welt mit Technologie sicherer zu machen». Im Rahmen der DNI bietet Jigsaw Verlagen im «Project Shield» unter anderem einen kostenlosen Schutzschild gegen sogenannte Denial-of-Service-Attacken an, bei denen Wirtschaftskriminelle oder staatlich gesteuerte Hacker Webseiten der Verlage mit gigantischen Datenpaketen von Millionen gekaperten Computern aus einem Botnetz lahmlegen wollen.

Der Ansatz bei «Perspective» gehe deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus, sagte Jigsaw-Top-Manager Jared Cohen. Die künstliche Intelligenz erkenne, ob ein Beitrag von einem menschlichen Anwender als unangemessen beurteilt werde und ihn dazu bringe, die Konversation zu verlassen.

Eine Studie habe ergeben, dass 72 Prozent aller US-Amerikaner im Internet bereits Drangsalierung wahrgenommen hätten, fast die Hälfte aller Anwender habe dies auch bereits persönlich erlebt. Knapp ein Drittel der Befragten zensiere sich inzwischen bei Online-Kommentaren selbst, weil sie Racheaktionen befürchteten.

«Giftigkeits»-Skala

Das System von Jigsaw stelle auf einer Skala zwischen 0 und 100 fest, wie «giftig» («toxic») ein Kommentar sei. Was mit den Kommentaren dann passiere, liege in der Hand der Verleger. So könne man mit dem System Moderatoren der Verlage auf verdächtige Kommentare aufmerksam machen, die sich dann in die Konversation einschalten könnten. Konkret könnte das etwa bedeuten, dass ein Forenmoderator bei der «New York Times» oder watson nicht mehr alle Beiträge händisch begutachtet, sondern nur noch solche, die einen Giftwert von 90 oder mehr aufweisen.

Man könne den Anwendern aber auch schon beim Schreiben des Kommentars anzeigen, wie «giftig» der Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Ausserdem könnten Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden.

(oli/sda/dpa)

Die verrücktesten russischen Troll-Memes

Hol dir die App!

Brikne, 20.7.2017
Neutrale Infos, Gepfefferte Meinungen. Diese Mischung gefällt mir.

Abonniere unseren Daily Newsletter

50
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
50Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Bot 23.02.2017 19:37
    Highlight http://www.perspectiveapi.com/
    1 1 Melden
  • Majoras Maske 23.02.2017 19:22
    Highlight Ich weiss nicht, was ich davon halten kann. Klar sollte es nicht möglich sein mit Rassismus, Sexismus oder Homophobie zu argumentieren und das auch vermutlich mit Beleidigungen. Aber wer garantiert, dass das nicht mal dazu dient unbequeme Meinungen zu verdrängen?
    Ein freieres System mit Herz und Blitzli finde ich besser, dann kann der Scheibende gleich sehen, wie die anderen zu seiner Meinung steht.
    13 3 Melden
    • WEBOLA 23.02.2017 22:36
      Highlight Ich finde, dass solche Rankings (wie hier die Blitze und Herzchen oder wie auf FB die Likes) nur der Verfasser selbst sehen sollte. Die tragen kein bischen zur Meinungsäusserung bei. Die verführen einem doch nur aus purer Faulheit der Mehrheit zuzustimmen ohne wirklich den Beitrag vielleicht gelesen oder verstanden zu haben.
      5 3 Melden
  • Homes8 23.02.2017 17:09
    Highlight Sehr warscheinlich wird die Welt dadurch wieder ein bitz ärmer und ein paar wenige wieder ein bitz reicher

    4 2 Melden
  • lilie 23.02.2017 17:08
    Highlight Herrje, ihr müsst jeden einzelnen Beitrag bei watson freischalten? Da hab ich ja geradezu ein schlechtes Gewissen, dass ich so viele schreibe. 😳

    Ein wenig sinnvolle Unterstützung wäre da ja schon sinnvoll. Etwa eine Software, die zumindest die ganz plumpen Kommentare ausfiltert.

    Aber ob eine solche Software zuverlässig funktioniert oder doch eher mehr Ärger produziert, ist ja schon fraglich.

    Ich fände es halt auch gut, wenn User sich angewöhnen würden, gehässigte Kommentare zu melden, anstatt darauf zu reagieren - denn das führt ja meist nur zu einer nicht mehr endenden Schlammschlacht.
    7 3 Melden
  • R&B 23.02.2017 16:55
    Highlight Bin gespannt auf dieses Programm. Wenn es ohne Hintergedanken programmiert wurde, ist es sicher nützlich.
    8 12 Melden
    • Silent_Revolution 23.02.2017 18:19
      Highlight Nichts von Google wird ohne Hintergedanken eingeführt.
      16 1 Melden
    • R&B 23.02.2017 19:18
      Highlight Wenn es nur Geld ist, weil Blogs weniger aggressiv sein sollen, dann ist es ja gut.
      1 2 Melden
    • WEBOLA 23.02.2017 23:01
      Highlight Klar hat Google "Hintergedanken" aber vergesst nicht, Google hat einen wesentlichen Beitrag für unsere technische Entwicklung bzw die des Internets geleistet.
      1 3 Melden
  • http://bit.ly/2mQDTjX 23.02.2017 16:22
    Highlight Jigsaw preist die Technik als "Waffe im Kampf gegen den IS":

    http://www.nbcnews.com/news/us-news/google-think-tank-launches-new-weapon-fight-against-isis-n682036

    Nach Angaben von Jigsaw/Google lässt sich ihre Waffe auch gegen amerikanische Alt-Right-Extremisten verwenden:

    https://www.wired.com/2016/09/googles-clever-plan-stop-aspiring-isis-recruits/

    Andere Forscher fanden heraus, dass man mit gezielten Streuen von Fakenews die Bevölkerung gegen Falschmeldungen immunisieren (manipulieren?) könne.

    http://onlinelibrary.wiley.com/doi/10.1002/gch2.201600008/full

    Schöne, neue Welt... ;/
    17 1 Melden
  • D. Wright 23.02.2017 16:16
    Highlight Geht das auch mit Memes? (Internet: Bilder)
    12 4 Melden
  • demokrit 23.02.2017 16:14
    Highlight Google ist brandgefährlich und sollte dringend zerschlagen werden. Je früher, desto besser.
    22 22 Melden
    • WEBOLA 23.02.2017 23:12
      Highlight Nein nicht Google sondern der User selbst ist durch seine Faulheit und Unwissenheit gefährlich...
      1 1 Melden
    • Nick Name 24.02.2017 07:55
      Highlight Webola, das Argument greift leider nur beschränkt. Man müsste es nämlich weiterführen: Der Mensch ist brandgefährlich - schliesslich sind WIR Google, User, lechts- und rinksextrem, dumm und böse, etc ... ;-) (und natürlich immer auch nicht)

      Wenn man die Machtanhäufung bei einigen Unternehmen (die in allererster Linie grösser werden und Gewinn machen wollen) heute anschaut, finde ich, hat demokrit recht.
      0 0 Melden
    • demokrit 24.02.2017 08:35
      Highlight Google ist nicht demokratisch. Mit demokratischer "Dummheit" - wenn man so will - hätte ich kein Problem.
      0 1 Melden
  • wololowarlord 23.02.2017 16:14
    Highlight Das Internet wird der Tod der Meinungsfreiheit sein.
    (Falls es nach FB, Alphabet und co. geht)
    19 12 Melden
    • rauchzeichen 23.02.2017 18:18
      Highlight wie soll n das gehn? erlährung bitte..
      2 7 Melden
    • rauchzeichen 23.02.2017 18:33
      Highlight falls der blitz fürs fehlende k ist, sorry die tasten sind so klein für einen grobmotoriker wie mich.
      falls er für das verlangen einer erklährung war, sach ma gehts noch? ich seh nicht wie das internet die meinungsfreiheit zerstören könnte..
      2 7 Melden
  • Wilhelm Dingo 23.02.2017 15:59
    Highlight 1984 kommt schneller als vermutet.
    30 9 Melden

Jetzt kommen die ersten 8K-Fernseher – aber lohnt sich das überhaupt? Dieses Video zeigt's

Du hast dir eben einen neuen TV mit 4K-Auflösung gekauft? Dumm gelaufen, das neue Ding ist 8K. Ein beeindruckendes 8K-Zeitraffer-Video der Schweiz findest du am Ende des Artikels.

Samsung bringt seinen ersten Fernseher mit der extrem hohen 8K-Bildauflösung auf den Markt. Wir sprechen von 7680 mal 4320 Pixeln. Erste Modelle sollen ab Oktober in der Schweiz in den Handel kommen, kündigte der südkoreanische Elektronikkonzern am Donnerstag auf der IFA in Berlin an. Damit ist Marktführer Samsung Rivalen wie LG, Sony und Co. einen Schritt voraus. 

Ein integrierter Prozessor soll dabei mit Hilfe Künstlicher Intelligenz auch schlechte Ausgangssignale etwa der TV-Sender …

Artikel lesen