Wissen
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Troll

Creative Commons / Flickr / Matthijs Rouw

https://www.flickr.com/photos/matthijs/

Trolle machen auch Computerprogrammen das Leben schwer. Bild: Flickr/Matthijs Rouw (CC-Lizenz)

Bist du ein Troll? Dieses Programm entlarvt dich nach nur fünf Kommentaren

Das Moderieren von Leserkommentaren ist eine Heidenarbeit. Könnte das auch ein Computer übernehmen? Forscher sagen Ja. Bei Schweizer Newsportalen ist man skeptisch.



Foren und Kommentarspalten im Internet haben eine merkwürdige Wirkung auf Menschen: Sie verwandeln unscheinbare Zeitgenossen in geifernde Biester, sogenannte Trolle. Sie beleidigen User, stören Diskussionen und haben das Potential, Debatten zu vergiften.

Forscher der Universtitäten Stanford und Cornell wollen eine effiziente Lösung gegen diese Spezies gefunden haben: Einen Algorithmus, der nach nur fünf Posts vorhersagen kann, ob ein User zu einem zukünftigen Zeitpunkt gesperrt wird. Und das mit 80 Prozent Genauigkeit.

Entwickelt haben sie ihn aus den Resultaten einer Studie, für die sie 18 Monate lang die Diskussionen auf cnn.com, der politischen News-Seite Breitbart und der Game-Seite IGN unter die Lupe genommen haben: Dafür wurden 1,7 Millionen User, 40 Millionen Kommentare, 100 positive oder negative Votes (bei watson sind das die Herzchen und Blitze) analysiert.

Die wichtigsten Erkenntnisse der Studie

Posts von Trollen ...

Ausserdem:

Eine Umfrage bei «Blick», «Tages-Anzeiger» und watson zeigt: Diese Verhaltensmuster sind den Verantwortlichen nur allzu bekannt. Kann man die Moderation von Leserkommentaren also getrost einer Software überlassen?

Bei den Schweizer Newsportalen, wo alles von Hand freigeschaltet wird, ist man skeptisch. «Ich traue solchen Algorithmen nicht», sagt Christian Lüscher. Er ist für die Community von «Tages-Anzeiger»/Newsnet (zu dem die Online-Auftritte der «Basler Zeitung», «Berner Zeitung» und «Der Bund» gehören) zuständig. Bei Versuchen hätten sich derartige Programme immer wieder als unzuverlässig herausgestellt.

Animiertes GIF GIF abspielen

Bild: giphy

Ähnlich tönt es beim «Blick»: «Ich habe noch kein einziges System gesehen, das man zu 100 Prozent guten Gewissens laufen lassen könnte und Kommentar-Freischalter überflüssig werden», sagt Social-Media-Manager Benjamin Rüegg. Ausserdem würden Leser immer wieder wertvolles Feedback liefern, welche einem Computer entgehen würden.

Torsten Beeck ist Head of Social Media bei Spiegel Online. Vorher war er in derselben Funktion bei «Bild» tätig, wo täglich bis zu 20'000 Kommentare von Lesern geschrieben werden. Er beschreibt die Tücken von automatischen Kommentarfiltern: «Das Problem bei Trollen ist, dass diese vielfach eben nicht pöbeln, schimpfen und ihre Meinung durchaus ausformuliert verbreiten. Denen ist auch mit solchen Tools nur sehr schwer beizukommen.»

Und fügt hinzu: «Die Gefahr ist dann, dass man Nutzer voreilig von einer Diskussion ausschliesst und Ironie und inhaltliche Überspitzung keinen Platz mehr finden.»

Animiertes GIF GIF abspielen

Bild: giphy

Diskussionskultur fördern

Auch wenn man dem Computer nicht die volle Verantwortung geben will, zur Unterstützung zieht man ihn hinzu. Bei mehreren Schweizer News-Seiten werden User mit einem «Karma»-System bewertet: Wer viele Troll-Kommentare schreibt, landet auf einer Liste und zukünftige Kommentare werden seltener durchgelassen.

Der «Tages-Anzeiger» konnte die Diskussionskultur in den letzten Jahren mit gezielten Massnahmen steigern. «Früher mussten wir jeden zweiten Kommentar löschen, jetzt schalten wir 80 Prozent frei.» Im Moment wird die Option diskutiert, die Kommentarspalte künftig nur noch zahlenden Abonnenten zugänglich zu machen.

Bei watson, wo nur registrierte Benutzer kommentieren können, werden im Schnitt auch 80 Prozent der geschriebenen Kommentare freigeschaltet. Beim «Blick» sind es rund 50 bis 60 Prozent. Das vielkommentierte Portal «20 Minuten» wollte sich auf Anfrage nicht äussern.

Abonniere unseren Newsletter

Themen
21
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
21Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Rondi 24.04.2015 12:43
    Highlight Highlight Toll, ein Computerprogramm um alle gleichzuschalten. Wer anders denkt, wird ausgeschlossen. Dass das perfekte Instrument für eine Diktatur dafür verwendet werden soll, um russische Trolle der bösen Putin-Diktatur auszufiltern, hat eine gewisse Komik.
  • SVRN5774 24.04.2015 11:03
    Highlight Highlight Hahah ich gebe zu ich trolle ab und zu auch gerne.
    Es macht einfach Spass weil es so bescheuert ist. Und wenn sich noch manche aufregen, dann ist es der Knaller xD
    In Wirklichkeit bin ich ein sehr lieber und toleranter Mensch, aber trolle manchmal als sei ich der grösste Rassist und stelle mich extra dumm.
    An alle Trollhater: es tut mir leid x)
    • Roman Rey 25.04.2015 13:17
      Highlight Highlight Wirklich? Du wirst einfach aus Spass an der Freud ab und zu zum Rassist?
    • SVRN5774 27.04.2015 12:09
      Highlight Highlight @Roman Rey
      Naja nicht so ganz (obwohl doch? ;))

      Ich schreibe z.B.: "Ich bin kein Rassist, aber Ausländer raus!"

      Oder: ich stecke alle Menschen in einer Schublade.
      "Typisch Frauen."

      Oder ich stelle provozierende Fragen:"wie betrüge ich meinen Freund ohne dass er es heraus findet?"

      (Ich bin eine Frau und Ausländerin und Single. xD)

      Oder ich stelle mich auf der Seite der Rassisten bis sie selber merken wie bescheuert doch ihre Meinung ist und bis sie dann auf die andere Seite gehen.
  • just sayin' 24.04.2015 10:53
    Highlight Highlight es besteht aber auch die gefahr, andersdenkende vorschnell als trolle zu bezeichnen und deren kommentare zu zensieren. es macht den anschein, dass es manchmal auch ein wenig am stolz der autoren liegt, dass kritische stimmen ausgefiltert werden.

    auch einige meiner kommentare wurden hier gelöscht (und ich mag zum teil kritisch und andersdenkend sein - aber beleidigend sicher nicht). zensur ist macht und sollte nur im extremfall angewandt werden.

    "one man's terrorist is another man's freedom fighter" (gerald seymour)
    • Roman Rey 25.04.2015 13:16
      Highlight Highlight Anfeindungen schalten wir nicht frei, kritische Kommentare schon. Die Unterscheidung dazwischen liegt im Ermessen des freischaltenden Redaktors. Dass bei der Beurteilung ab und zu das Ego oder der Stolz mitschwingt, kann wohl nicht ganz ausgeschlossen werden.

      Wir geben uns aber Mühe, fair freizuschalten, versprochen.
  • Lowend 24.04.2015 10:28
    Highlight Highlight In der Schweiz reicht ein Wortfilter, denn unsere Trollarmee der echten Schweizer benutzt dauernd dieselben Worte wie Gutmensch, EU-Turbo, Sozialist, Linker und wie sie noch alle heissen und besonders beliebt sind Formulierungen wie: "Ich bin ja kein Rassist, SVP-Wähler, oder Blocherfan, aber..."
  • Hanjo 24.04.2015 10:22
    Highlight Highlight Mal kurz ein wenig Watson-Lob: Ihr habt es fertig gebracht, ein Portal zu schaffen, wo ich beim Lesen der Kommentare nicht gleich einen ganz üblen Brechreiz verspüre und sehe, dass ich doch nicht alleine bin mit meiner Meinung - und das obschon 80% der Kommentare freigeschalten werden.
  • smoe 24.04.2015 10:18
    Highlight Highlight Auf den ersten Blick sieht es aus, dass das Tool bei der angegebenen Genauigkeit von 80% und der tiefen "Trollrate" von 2% zehn Mal mehr False Positives als True Positives ausspucken dürfte. Heisst, mit dem gelegentlichen Troll wird auch ein Grossteil der User rausgespült, die sich verhaltensmässig einfach ausserhalb des Einheitsbreis bewegen.

    Kann mich aber irren, da ich nicht so der Statistik-Hirsch bin:)
    http://understandinguncertainty.org/node/238
    http://en.wikipedia.org/wiki/Base_rate_fallacy
    • smoe 24.04.2015 11:00
      Highlight Highlight Einfacher ausgedrückt:) Für jeden Troll, den das System entlarvt, werden zehn "unschuldige" User als solche gebrandmarkt.
    • Roman Rey 24.04.2015 12:18
      Highlight Highlight Ja, so hören sich diese 80 Prozent tatsächlich nicht mehr so toll an.
    • smoe 24.04.2015 13:09
      Highlight Highlight Aus akademischer Sicht sind die 80% sicher toll. Die Trollerkennung ist signifikant besser als mittels Münzwurf oder Wünschelrute:) Und auch besser als einige der bereits für viel Geld angebotenen Lösungen.

      Eingesetzt im Alltag muss man sich aber bewusst sein, wie viele falsche Voraussagen zu erwarten sind, wie man damit umgeht und welcher Schaden dadurch entstehen könnte. Ich denke dass solche Programme, wenn bewusst eingesetzt, Redaktionen beim Moderieren der Kommentarsektionen durchaus helfen könnten.

      Aber das Problem, wenn man einen Hammer in der Hand hält – alles fängt an wie ein Nagel auszusehen.
    Weitere Antworten anzeigen
  • stampler 24.04.2015 10:13
    Highlight Highlight Früher gingen wir in Wälder und Höhlen um Trolle zu fangen, heute gibt es für alles eine App.
    • Oberon 24.04.2015 14:06
      Highlight Highlight Aber aus dem Troll wurde ein Yeti.
  • Buyer's Remorse 24.04.2015 10:03
    Highlight Highlight Ich habe auf 20 Minuten noch keinen einzigen kritischen Kommentar gesehen, da würde ich mich auch nicht äussern. Welche Art von Kommentaren wird denn von watson nicht freigeschaltet? Das würde mich interessieren.
    • Fly Boy Tschoko 24.04.2015 10:29
      Highlight Highlight Da müssten wir SeWi fragen. Ob der wohl gesperrt wurde?
    • The Destiny // Team Telegram 24.04.2015 13:28
      Highlight Highlight Er hat einfach gegen Lowend den kampf verloren und sitzt das jetzt aus. Vielleicht sehen wir ihn ja irgendwann wieder einmal, wenn er darüber hinweg gekommen ist.
    • Oberon 24.04.2015 14:06
      Highlight Highlight ;)
    Weitere Antworten anzeigen
  • Asmodeus 24.04.2015 09:54
    Highlight Highlight Trolle unterscheiden sich also von der Mehrheit der Kommentare.

    Das heisst bei Blick-Leserkommentaren: Wer Worte mit mehr als 3 Silben benutzt ist ein Troll.

Mata Hari – der Mythos der angeblichen Meisterspionin bröckelt

Mata Hari hat nach wie vor den Ruf, die grösste Spionin der Geschichte zu sein. Doch Zweifel an ihrer Rolle als Meister-Verräterin mehren sich. 100 Jahre nach ihrer Verhaftung in Paris erscheint die schöne Agentin in neuem Licht.

Ein Jahrzehnt lang wurde ihr Tanz bewundert und ihr Körper begehrt: Mata Hari regte als indische Bajadere-Tänzerin zu Zeiten der Belle Epoque die Fantasien der Bohème in Europa an. Und als Kurtisane weihte die schöne Niederländerin Botschafter, Minister, Fürsten …

Artikel lesen
Link to Article