Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und die Werbung von watson und Werbepartnern zu personalisieren. Weitere Infos: Datenschutzerklärung.

So raffiniert will Google die Diskussionskultur im Internet retten

Beleidigungen machen viele Diskussionen im Netz ungeniessbar. Zuletzt hat die NZZ kapituliert und ihre Kommentarfunktion stark eingeschränkt. Eine Google-Tochter will jetzt die Lösung gefunden haben: Eine selbstlernende Software soll das Gift aus Kommentarspalten saugen. Kann das klappen?

23.02.17, 15:28 23.02.17, 15:56

Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwesterfirma Jigsaw hat am Donnerstag den Dienst «Perspective» gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden.

Im Rahmen der Digitalen News Initiative (DNI) werde Jigsaw eine Schnittstelle (API) zur Verfügung stellen, mit der Verlage «Perspective» kostenlos nutzen können.

Der Dienst wurde zuvor in Projekten mit der Wikimedia-Stiftung und der «New York Times» erprobt, um Hasspostings und Trollereien automatisch erkennen zu können. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115'000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet.

Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen wie Deutsch erweitert werden.

Schutz vor DoS-Attacken

Jigsaw, ein Unternehmen der Google-Muttergesellschaft Alphabet, hat sich zum Ziel gemacht, «die Welt mit Technologie sicherer zu machen». Im Rahmen der DNI bietet Jigsaw Verlagen im «Project Shield» unter anderem einen kostenlosen Schutzschild gegen sogenannte Denial-of-Service-Attacken an, bei denen Wirtschaftskriminelle oder staatlich gesteuerte Hacker Webseiten der Verlage mit gigantischen Datenpaketen von Millionen gekaperten Computern aus einem Botnetz lahmlegen wollen.

Der Ansatz bei «Perspective» gehe deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus, sagte Jigsaw-Top-Manager Jared Cohen. Die künstliche Intelligenz erkenne, ob ein Beitrag von einem menschlichen Anwender als unangemessen beurteilt werde und ihn dazu bringe, die Konversation zu verlassen.

Eine Studie habe ergeben, dass 72 Prozent aller US-Amerikaner im Internet bereits Drangsalierung wahrgenommen hätten, fast die Hälfte aller Anwender habe dies auch bereits persönlich erlebt. Knapp ein Drittel der Befragten zensiere sich inzwischen bei Online-Kommentaren selbst, weil sie Racheaktionen befürchteten.

«Giftigkeits»-Skala

Das System von Jigsaw stelle auf einer Skala zwischen 0 und 100 fest, wie «giftig» («toxic») ein Kommentar sei. Was mit den Kommentaren dann passiere, liege in der Hand der Verleger. So könne man mit dem System Moderatoren der Verlage auf verdächtige Kommentare aufmerksam machen, die sich dann in die Konversation einschalten könnten. Konkret könnte das etwa bedeuten, dass ein Forenmoderator bei der «New York Times» oder watson nicht mehr alle Beiträge händisch begutachtet, sondern nur noch solche, die einen Giftwert von 90 oder mehr aufweisen.

Man könne den Anwendern aber auch schon beim Schreiben des Kommentars anzeigen, wie «giftig» der Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Ausserdem könnten Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden.

(oli/sda/dpa)

Die verrücktesten russischen Troll-Memes

Hol dir die App!

Zeno Hirt, 25.6.2017
Immer wieder mal schmunzeln und sich freuen an dem, was da weltweit alles passiert! Genial!
Abonniere unseren NewsletterNewsletter-Abo
50
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
50Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Bot 23.02.2017 19:37
    Highlight http://www.perspectiveapi.com/
    1 1 Melden
  • Majoras Maske 23.02.2017 19:22
    Highlight Ich weiss nicht, was ich davon halten kann. Klar sollte es nicht möglich sein mit Rassismus, Sexismus oder Homophobie zu argumentieren und das auch vermutlich mit Beleidigungen. Aber wer garantiert, dass das nicht mal dazu dient unbequeme Meinungen zu verdrängen?
    Ein freieres System mit Herz und Blitzli finde ich besser, dann kann der Scheibende gleich sehen, wie die anderen zu seiner Meinung steht.
    13 3 Melden
    • WEBOLA 23.02.2017 22:36
      Highlight Ich finde, dass solche Rankings (wie hier die Blitze und Herzchen oder wie auf FB die Likes) nur der Verfasser selbst sehen sollte. Die tragen kein bischen zur Meinungsäusserung bei. Die verführen einem doch nur aus purer Faulheit der Mehrheit zuzustimmen ohne wirklich den Beitrag vielleicht gelesen oder verstanden zu haben.
      5 3 Melden
    • Rendel 23.02.2017 22:37
      Highlight Herzli und Blitzli können auch gekauft werden. Sie haben nichts zu bedeuten. Gibt Firmen die das anbieten.
      4 1 Melden
  • Gelöschter Benutzer 23.02.2017 18:47
    Highlight Ich bin raus aus allen öffentlichen politischen und sozialen Diskussionen. Auch hier. Nur geschlossene Runden kommen für mich noch in Frage

    Zu viele werden bösartig, wenn jemand selbständig denkt . Ohne diese blindwütigen, vor Hass triefenden, virtuellen Schläger lebt es sich gesünder.

    An meiner Tür klingelten auch schon mal Nazis und wollten mich einschüchtern, weil ich Rechtsextreme verachte. Und weil ich die svp (seit Blocher) für antidemokratisch, asozial und gefährlich halte.

    Ich lass mir doch nicht den Kopf einschlagen dafür, dass ich irgendwo im Netz etwas gegen die svp gesagt habe.
    14 5 Melden
    • füdlibürger 23.02.2017 23:58
      Highlight Mit geschlossenen Runden meinst du wohl sogenannte circlejerks, in denen jeder mehr oder weniger deiner Meinung ist und man sich gegeseitig zujubelt.. Ein safe space.
      6 2 Melden
    • Gelöschter Benutzer 24.02.2017 09:43
      Highlight Nicht immer von sich selbst auf andere schliessen, gell füdlibürger!

      Was du beschreibst, ist kein Diskutieren sondern nur ein gegenseitiges Bestätigen. Wenn ich "Diskutieren" schreibe, dann meine ich auch "Diskutieren".
      Es gibt in unseren geschlossenen Runden haufenweise gegensätzliche Meinungen. Das macht sie ja erst spannend. Wie will man sonst etwas Neues lernen oder seinen Horizont erweitern? Der Trick dabei ist nur, dass sich alle anständig ausdrücken. Wer das nicht tut, fliegt raus. Und zwar unabhängig davon, welche Meinungen er vertritt.
      2 0 Melden
    • http://bit.ly/2mQDTjX 24.02.2017 13:25
      Highlight Wie will man denn über Anstand "diskutieren", wenn man von Vornherein einfach alle ausgrenzt, die sich anscheinend nicht "anständig ausdrücken" (können)? Ähnelt eine solche "Diskussion" nicht eher einem Diktat?

      Na, wie auch immer: Schön bist du wieder zurück, Rhabarber!
      1 0 Melden
  • Gelöschter Benutzer 23.02.2017 18:09
    Highlight Wieso sollte man nicht fluchen und beleidigen? Wir leben in einem freien Land und haben zum Glück die freie Meinungsfreiheit. Wenn solche Kommentare nicht gezeigt werde ist das für mich eine bevormundung und verfälschung der gesamten Meinungen der Kommentatoren. Das heisst für mich: Die Medien können jeden Kommentar der nicht ihrer Meinung entspricht löschen.
    Somit sind für mich Ansichten in Kommentaren so ausgewählt das Sie mehr oder weniger die Ansichten der Medien entsprechen oder zumindest nicht dagegen spricht.
    Sehe ich das falsch?
    10 24 Melden
    • Rendel 23.02.2017 18:28
      Highlight Jemanden beleidigen ist ja keine Meinung sondern ein emotionaler Ausbruch. Das hat mit Meinungsfreiheit also nichts zu tun.
      29 4 Melden
    • wolfderwolf 23.02.2017 18:55
      Highlight Dies zum Ausdruck zu bringen geht allerfings unter die Redefreiheit.
      6 6 Melden
    • Rendel 23.02.2017 19:03
      Highlight In Meinungs- und Redefreiheit sind Beleidigungen und Ehrverletzungen nicht inbegriffen.
      12 2 Melden
    • Grabeskaelte 23.02.2017 19:07
      Highlight Wobei Beleidigung als Ehrverletzung ein Straftatbestand ist, womit sich sowohl Meinungs- wie auch Redefreiheit erübrigt haben. Noch Fragen? ;-)
      10 1 Melden
    • WEBOLA 23.02.2017 22:56
      Highlight @Barry
      Ich kann deine Meinung gut nachvollziehen aber es ist eben anders wenn du jemanden Face-to-Face und nicht anonym beleidigst, beschimpfst oder sonst irgendwie respektlos gegenüber der Person verhältst.

      Generell gilt: Die stärkste und grösste Waffe ist nicht eine Bombe sondern die Sprache. Im Internetzeitalter ist die Sprache eben die mächtigste Waffe. Wer nicht mit einer Waffe umgehen kann, dem sollte die Waffe entzogen werden.
      7 1 Melden
    • Gelöschter Benutzer 23.02.2017 23:52
      Highlight Hmmm, ok. Ja Ihr Kommentar macht Sinn. Aber gerade die Aussage, wer nicht mit einer Waffe umgehen kann, wird entwaffnet. Wieso entwaffnen wir nicht nicht mal alle diese Schuntblätter die uns schleichend irgend eine Ideologie eintrichtern?
      1 2 Melden
    • WEBOLA 24.02.2017 02:04
      Highlight Ich glaube das wäre schwierig abzuwägen welche Ideologie nun moralisch/ethisch bedenklich ist und welche nicht. Hierfür wären dann eben diese konstruktive Diskussionen (die im Internet ohne Trolle schwierig anzutreffen sind) willkommen.

      Ideologien mit einem System auszufiltern finde ich bedenklich. Man muss eben über solche Ideologien diskutieren können. Das geht eben nur, wenn solche ernstgeführte Diskussionen nicht von irgendwelchen Vollpfosten (Trolle) gestört werden.
      2 1 Melden
    • Nick Name 24.02.2017 07:49
      Highlight Webola triffts ziemlich. Bloss: Mit Worten umzugehen - aktiv und passiv! - ist deutlich anspruchsvoller als mit "Waffen". Die gewaltige :-) Vielfalt an Kulturen, Sprachen, Sozialisierungen machts.

      Und: Die psychologische und soziale Wirkung von Worten wird weitverbreitet enorm unterschätzt. (Hinweis: gewaltfreie Kommunikation...)

      Und (2): Die grossen "sozialen" Medien haben durch ihre lasche Kontrolle eine Erwartungshaltung herangebildet, überall seine "Meinung" kundtun zu können. Bei uns ist aber ein Medium inhaltlich verantwortlich für das, was auf seiner Plattform publiziert wird.
      3 0 Melden
  • Rendel 23.02.2017 17:26
    Highlight Google soll doch zuerst gegen Bots bei Facebook vorgehen 😁 .
    14 2 Melden
  • Homes8 23.02.2017 17:09
    Highlight Sehr warscheinlich wird die Welt dadurch wieder ein bitz ärmer und ein paar wenige wieder ein bitz reicher

    4 2 Melden
  • lilie 23.02.2017 17:08
    Highlight Herrje, ihr müsst jeden einzelnen Beitrag bei watson freischalten? Da hab ich ja geradezu ein schlechtes Gewissen, dass ich so viele schreibe. 😳

    Ein wenig sinnvolle Unterstützung wäre da ja schon sinnvoll. Etwa eine Software, die zumindest die ganz plumpen Kommentare ausfiltert.

    Aber ob eine solche Software zuverlässig funktioniert oder doch eher mehr Ärger produziert, ist ja schon fraglich.

    Ich fände es halt auch gut, wenn User sich angewöhnen würden, gehässigte Kommentare zu melden, anstatt darauf zu reagieren - denn das führt ja meist nur zu einer nicht mehr endenden Schlammschlacht.
    7 3 Melden
  • R&B 23.02.2017 16:55
    Highlight Bin gespannt auf dieses Programm. Wenn es ohne Hintergedanken programmiert wurde, ist es sicher nützlich.
    8 12 Melden
    • Rendel 23.02.2017 17:58
      Highlight Wer zahlt befiehlt. Im Netz der Betreiber ist der Hintergedanke immer Geld.
      6 2 Melden
    • Silent_Revolution 23.02.2017 18:19
      Highlight Nichts von Google wird ohne Hintergedanken eingeführt.
      16 1 Melden
    • R&B 23.02.2017 19:18
      Highlight Wenn es nur Geld ist, weil Blogs weniger aggressiv sein sollen, dann ist es ja gut.
      1 2 Melden
    • Rendel 23.02.2017 22:58
      Highlight Man kann gezielt filtern was man als aggressiv ansieht, also auch gezielt Meinungen, die einem nicht in den Kram passen, die kann man dann als sogenannt aggressiv herausfiltern. Nichts ist gut.
      2 0 Melden
    • WEBOLA 23.02.2017 23:01
      Highlight Klar hat Google "Hintergedanken" aber vergesst nicht, Google hat einen wesentlichen Beitrag für unsere technische Entwicklung bzw die des Internets geleistet.
      1 3 Melden
  • Radiochopf 23.02.2017 16:29
    Highlight Was viele Befürworter für solche Inhalts-Filter (noch) nicht verstanden haben, all diese Filter können auch immer für das Gegenteil missbraucht werden wenn sie in die falsche Hände gelangen! und wenn man ehrlich ist, wird das Thema viel zu stark aufgebauscht! wirkliche Trolle, die nur beleidigen ohne was zu einer Diskussion beizutragen, gibt es zum Glück wenige.. meistens sind es doch genau die Typen, die Andersdenkende als Trolle beschimpfen und nicht merken, dass sie sich damit selber gleich zum Troll gemacht haben..
    20 9 Melden
    • Rendel 23.02.2017 17:57
      Highlight Haha du Troll, Du.
      5 5 Melden
    • stan1993 23.02.2017 20:02
      Highlight Dein Kommentar zieht trolle an ^^ einen haben wir schon, lowend rb wo seid ihr?
      4 0 Melden
  • http://bit.ly/2mQDTjX 23.02.2017 16:22
    Highlight Jigsaw preist die Technik als "Waffe im Kampf gegen den IS":

    http://www.nbcnews.com/news/us-news/google-think-tank-launches-new-weapon-fight-against-isis-n682036

    Nach Angaben von Jigsaw/Google lässt sich ihre Waffe auch gegen amerikanische Alt-Right-Extremisten verwenden:

    https://www.wired.com/2016/09/googles-clever-plan-stop-aspiring-isis-recruits/

    Andere Forscher fanden heraus, dass man mit gezielten Streuen von Fakenews die Bevölkerung gegen Falschmeldungen immunisieren (manipulieren?) könne.

    http://onlinelibrary.wiley.com/doi/10.1002/gch2.201600008/full

    Schöne, neue Welt... ;/
    17 1 Melden
  • D. Wright 23.02.2017 16:16
    Highlight Geht das auch mit Memes? (Internet: Bilder)
    12 4 Melden
  • demokrit 23.02.2017 16:14
    Highlight Google ist brandgefährlich und sollte dringend zerschlagen werden. Je früher, desto besser.
    22 22 Melden
    • WEBOLA 23.02.2017 23:12
      Highlight Nein nicht Google sondern der User selbst ist durch seine Faulheit und Unwissenheit gefährlich...
      1 1 Melden
    • Nick Name 24.02.2017 07:55
      Highlight Webola, das Argument greift leider nur beschränkt. Man müsste es nämlich weiterführen: Der Mensch ist brandgefährlich - schliesslich sind WIR Google, User, lechts- und rinksextrem, dumm und böse, etc ... ;-) (und natürlich immer auch nicht)

      Wenn man die Machtanhäufung bei einigen Unternehmen (die in allererster Linie grösser werden und Gewinn machen wollen) heute anschaut, finde ich, hat demokrit recht.
      0 0 Melden
    • demokrit 24.02.2017 08:35
      Highlight Google ist nicht demokratisch. Mit demokratischer "Dummheit" - wenn man so will - hätte ich kein Problem.
      0 1 Melden
  • wololowarlord 23.02.2017 16:14
    Highlight Das Internet wird der Tod der Meinungsfreiheit sein.
    (Falls es nach FB, Alphabet und co. geht)
    19 12 Melden
    • rauchzeichen 23.02.2017 18:18
      Highlight wie soll n das gehn? erlährung bitte..
      2 7 Melden
    • rauchzeichen 23.02.2017 18:33
      Highlight falls der blitz fürs fehlende k ist, sorry die tasten sind so klein für einen grobmotoriker wie mich.
      falls er für das verlangen einer erklährung war, sach ma gehts noch? ich seh nicht wie das internet die meinungsfreiheit zerstören könnte..
      2 7 Melden
  • Gelöschter Benutzer 23.02.2017 16:04
    Highlight Interessant, bin aber skeptisch. Ein "guter" Troll fällt weniger durch Ausfälligkeiten auf, sondern gibt sich erst zu erkennen, wenn er eine Diskussion bereits entführt und zerstört hat:)
    17 3 Melden
  • Wilhelm Dingo 23.02.2017 15:59
    Highlight 1984 kommt schneller als vermutet.
    30 9 Melden
  • Rendel 23.02.2017 15:53
    Highlight Ist doch Mumpitz. Man kann obergiftig kommentieren ohne ein böses Wort. Ironie, zwischen den Zeilen, kann man viel böses sagen, das wird nicht ausgefiltert. Ich will auch keine Zensur.
    31 4 Melden
    • Einer Wie Alle 23.02.2017 16:17
      Highlight Oder man benutzt Beleidigungen, die das zeitliche schon gesegnet haben, das Programm wird diese Begriffe wohl kaum kennen, du Gorilla Blauarsch
      11 6 Melden
    • John M 23.02.2017 16:34
      Highlight Bitte genau lesen. Es wird nicht nach einer Wortliste gefiltert sondern mit einer künstlichen Intelligenz der den gesamten Kommentar auswertet
      14 4 Melden
    • Rendel 23.02.2017 16:48
      Highlight Mit Worten fängt es an. Und keine Maschine wird wird einen ironischen Kommentar von einem ernsten unterscheiden können. Kommentare stehen immer im ganzen Kontext zu andern Kommentaren.

      Zudem bin ich immer noch gegen Zensur.
      10 3 Melden
    • Rendel 23.02.2017 17:01
      Highlight @Einer Wie Alle Sie kennen Google nicht 😉
      6 0 Melden
    • TheMan 23.02.2017 17:03
      Highlight Dan halt auf Schweizerdeutsch schreiben. Glaube kaum das diese Künstliche Intelligenz,. Dies auch versteht. E LÖL, E BLÖDE SIECH, E GLÜNGGI UN E SÜRMEL. Also schöner gehen Schimpwörter kaum.
      11 7 Melden
    • Rendel 23.02.2017 17:42
      Highlight Haha, klingt unheimlich giftig, TheMan .
      2 0 Melden
    • Homes8 23.02.2017 18:04
      Highlight Eventuel wird dann nur noch unmissverständliches Speichellecken durch gelassen.
      2 0 Melden

Facebook blockiert Tinder (😱 die Leute flippen aus 😱)

Schon gehört? Der Facebook-Daten-Skandal ist noch viel grösser, als uns Facebook zunächst weismachen wollte. Als wäre das nicht genug an schlechten Nachrichten, mussten einige Facebook-User in der Nacht auf heute entsetzt feststellen, dass sie sich nicht mehr bei Tinder anmelden konnten.

Offensichtlich ist das Facebook-Login Schuld. Weil der US-Konzern den Zugriff von Dritt-Apps (wie Tinder) auf Facebook-Daten verschärft hat, sollten die Tinder-User neuen Bestimmungen zustimmen, um sich …

Artikel lesen