Wissen
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

Trolle machen auch Computerprogrammen das Leben schwer. Bild: Flickr/Matthijs Rouw (CC-Lizenz)

Bist du ein Troll? Dieses Programm entlarvt dich nach nur fünf Kommentaren

Das Moderieren von Leserkommentaren ist eine Heidenarbeit. Könnte das auch ein Computer übernehmen? Forscher sagen Ja. Bei Schweizer Newsportalen ist man skeptisch.

24.04.15, 08:54 24.04.15, 11:40


Foren und Kommentarspalten im Internet haben eine merkwürdige Wirkung auf Menschen: Sie verwandeln unscheinbare Zeitgenossen in geifernde Biester, sogenannte Trolle. Sie beleidigen User, stören Diskussionen und haben das Potential, Debatten zu vergiften.

Forscher der Universtitäten Stanford und Cornell wollen eine effiziente Lösung gegen diese Spezies gefunden haben: Einen Algorithmus, der nach nur fünf Posts vorhersagen kann, ob ein User zu einem zukünftigen Zeitpunkt gesperrt wird. Und das mit 80 Prozent Genauigkeit.

Entwickelt haben sie ihn aus den Resultaten einer Studie, für die sie 18 Monate lang die Diskussionen auf cnn.com, der politischen News-Seite Breitbart und der Game-Seite IGN unter die Lupe genommen haben: Dafür wurden 1,7 Millionen User, 40 Millionen Kommentare, 100 positive oder negative Votes (bei watson sind das die Herzchen und Blitze) analysiert.

Die wichtigsten Erkenntnisse der Studie

Posts von Trollen ...

Ausserdem:

Eine Umfrage bei «Blick», «Tages-Anzeiger» und watson zeigt: Diese Verhaltensmuster sind den Verantwortlichen nur allzu bekannt. Kann man die Moderation von Leserkommentaren also getrost einer Software überlassen?

Bei den Schweizer Newsportalen, wo alles von Hand freigeschaltet wird, ist man skeptisch. «Ich traue solchen Algorithmen nicht», sagt Christian Lüscher. Er ist für die Community von «Tages-Anzeiger»/Newsnet (zu dem die Online-Auftritte der «Basler Zeitung», «Berner Zeitung» und «Der Bund» gehören) zuständig. Bei Versuchen hätten sich derartige Programme immer wieder als unzuverlässig herausgestellt.

Bild: giphy

Ähnlich tönt es beim «Blick»: «Ich habe noch kein einziges System gesehen, das man zu 100 Prozent guten Gewissens laufen lassen könnte und Kommentar-Freischalter überflüssig werden», sagt Social-Media-Manager Benjamin Rüegg. Ausserdem würden Leser immer wieder wertvolles Feedback liefern, welche einem Computer entgehen würden.

Torsten Beeck ist Head of Social Media bei Spiegel Online. Vorher war er in derselben Funktion bei «Bild» tätig, wo täglich bis zu 20'000 Kommentare von Lesern geschrieben werden. Er beschreibt die Tücken von automatischen Kommentarfiltern: «Das Problem bei Trollen ist, dass diese vielfach eben nicht pöbeln, schimpfen und ihre Meinung durchaus ausformuliert verbreiten. Denen ist auch mit solchen Tools nur sehr schwer beizukommen.»

Und fügt hinzu: «Die Gefahr ist dann, dass man Nutzer voreilig von einer Diskussion ausschliesst und Ironie und inhaltliche Überspitzung keinen Platz mehr finden.»

Bild: giphy

Diskussionskultur fördern

Auch wenn man dem Computer nicht die volle Verantwortung geben will, zur Unterstützung zieht man ihn hinzu. Bei mehreren Schweizer News-Seiten werden User mit einem «Karma»-System bewertet: Wer viele Troll-Kommentare schreibt, landet auf einer Liste und zukünftige Kommentare werden seltener durchgelassen.

Der «Tages-Anzeiger» konnte die Diskussionskultur in den letzten Jahren mit gezielten Massnahmen steigern. «Früher mussten wir jeden zweiten Kommentar löschen, jetzt schalten wir 80 Prozent frei.» Im Moment wird die Option diskutiert, die Kommentarspalte künftig nur noch zahlenden Abonnenten zugänglich zu machen.

Bei watson, wo nur registrierte Benutzer kommentieren können, werden im Schnitt auch 80 Prozent der geschriebenen Kommentare freigeschaltet. Beim «Blick» sind es rund 50 bis 60 Prozent. Das vielkommentierte Portal «20 Minuten» wollte sich auf Anfrage nicht äussern.

Hol dir die App!

Zeno Hirt, 25.6.2017
Immer wieder mal schmunzeln und sich freuen an dem, was da weltweit alles passiert! Genial!
Abonniere unseren NewsletterNewsletter-Abo
Themen
29
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
29Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Rondi 24.04.2015 12:43
    Highlight Toll, ein Computerprogramm um alle gleichzuschalten. Wer anders denkt, wird ausgeschlossen. Dass das perfekte Instrument für eine Diktatur dafür verwendet werden soll, um russische Trolle der bösen Putin-Diktatur auszufiltern, hat eine gewisse Komik.
    19 6 Melden
  • SVRN5774 24.04.2015 11:03
    Highlight Hahah ich gebe zu ich trolle ab und zu auch gerne.
    Es macht einfach Spass weil es so bescheuert ist. Und wenn sich noch manche aufregen, dann ist es der Knaller xD
    In Wirklichkeit bin ich ein sehr lieber und toleranter Mensch, aber trolle manchmal als sei ich der grösste Rassist und stelle mich extra dumm.
    An alle Trollhater: es tut mir leid x)
    19 12 Melden
    • Roman Rey 25.04.2015 13:17
      Highlight Wirklich? Du wirst einfach aus Spass an der Freud ab und zu zum Rassist?
      2 1 Melden
    • SVRN5774 27.04.2015 12:09
      Highlight @Roman Rey
      Naja nicht so ganz (obwohl doch? ;))

      Ich schreibe z.B.: "Ich bin kein Rassist, aber Ausländer raus!"

      Oder: ich stecke alle Menschen in einer Schublade.
      "Typisch Frauen."

      Oder ich stelle provozierende Fragen:"wie betrüge ich meinen Freund ohne dass er es heraus findet?"

      (Ich bin eine Frau und Ausländerin und Single. xD)

      Oder ich stelle mich auf der Seite der Rassisten bis sie selber merken wie bescheuert doch ihre Meinung ist und bis sie dann auf die andere Seite gehen.
      0 0 Melden
  • just sayin' 24.04.2015 10:53
    Highlight es besteht aber auch die gefahr, andersdenkende vorschnell als trolle zu bezeichnen und deren kommentare zu zensieren. es macht den anschein, dass es manchmal auch ein wenig am stolz der autoren liegt, dass kritische stimmen ausgefiltert werden.

    auch einige meiner kommentare wurden hier gelöscht (und ich mag zum teil kritisch und andersdenkend sein - aber beleidigend sicher nicht). zensur ist macht und sollte nur im extremfall angewandt werden.

    "one man's terrorist is another man's freedom fighter" (gerald seymour)
    21 3 Melden
    • Roman Rey 25.04.2015 13:16
      Highlight Anfeindungen schalten wir nicht frei, kritische Kommentare schon. Die Unterscheidung dazwischen liegt im Ermessen des freischaltenden Redaktors. Dass bei der Beurteilung ab und zu das Ego oder der Stolz mitschwingt, kann wohl nicht ganz ausgeschlossen werden.

      Wir geben uns aber Mühe, fair freizuschalten, versprochen.
      2 1 Melden
  • Lowend 24.04.2015 10:28
    Highlight In der Schweiz reicht ein Wortfilter, denn unsere Trollarmee der echten Schweizer benutzt dauernd dieselben Worte wie Gutmensch, EU-Turbo, Sozialist, Linker und wie sie noch alle heissen und besonders beliebt sind Formulierungen wie: "Ich bin ja kein Rassist, SVP-Wähler, oder Blocherfan, aber..."
    40 11 Melden
  • Hanjo 24.04.2015 10:22
    Highlight Mal kurz ein wenig Watson-Lob: Ihr habt es fertig gebracht, ein Portal zu schaffen, wo ich beim Lesen der Kommentare nicht gleich einen ganz üblen Brechreiz verspüre und sehe, dass ich doch nicht alleine bin mit meiner Meinung - und das obschon 80% der Kommentare freigeschalten werden.
    57 1 Melden
  • smoe 24.04.2015 10:18
    Highlight Auf den ersten Blick sieht es aus, dass das Tool bei der angegebenen Genauigkeit von 80% und der tiefen "Trollrate" von 2% zehn Mal mehr False Positives als True Positives ausspucken dürfte. Heisst, mit dem gelegentlichen Troll wird auch ein Grossteil der User rausgespült, die sich verhaltensmässig einfach ausserhalb des Einheitsbreis bewegen.

    Kann mich aber irren, da ich nicht so der Statistik-Hirsch bin:)
    http://understandinguncertainty.org/node/238
    http://en.wikipedia.org/wiki/Base_rate_fallacy
    8 3 Melden
    • smoe 24.04.2015 11:00
      Highlight Einfacher ausgedrückt:) Für jeden Troll, den das System entlarvt, werden zehn "unschuldige" User als solche gebrandmarkt.
      12 1 Melden
    • Roman Rey 24.04.2015 12:18
      Highlight Ja, so hören sich diese 80 Prozent tatsächlich nicht mehr so toll an.
      0 1 Melden
    • smoe 24.04.2015 13:09
      Highlight Aus akademischer Sicht sind die 80% sicher toll. Die Trollerkennung ist signifikant besser als mittels Münzwurf oder Wünschelrute:) Und auch besser als einige der bereits für viel Geld angebotenen Lösungen.

      Eingesetzt im Alltag muss man sich aber bewusst sein, wie viele falsche Voraussagen zu erwarten sind, wie man damit umgeht und welcher Schaden dadurch entstehen könnte. Ich denke dass solche Programme, wenn bewusst eingesetzt, Redaktionen beim Moderieren der Kommentarsektionen durchaus helfen könnten.

      Aber das Problem, wenn man einen Hammer in der Hand hält – alles fängt an wie ein Nagel auszusehen.
      6 3 Melden
    • Roman Rey 25.04.2015 13:12
      Highlight Die Studienautoren haben übrigens auch einen Vorschlag für die Anwendung eines solchen Programmes: Man könnte es dazu einsetzen, verdächtige User automatisch zu verwarnen oder zu bannen, ihnen aber die Chance geben, sich zu rehabilitieren.
      0 0 Melden
  • stampler 24.04.2015 10:13
    Highlight Früher gingen wir in Wälder und Höhlen um Trolle zu fangen, heute gibt es für alles eine App.
    18 0 Melden
    • Oberon 24.04.2015 14:06
      Highlight Aber aus dem Troll wurde ein Yeti.
      1 1 Melden
  • Buyer's Remorse 24.04.2015 10:03
    Highlight Ich habe auf 20 Minuten noch keinen einzigen kritischen Kommentar gesehen, da würde ich mich auch nicht äussern. Welche Art von Kommentaren wird denn von watson nicht freigeschaltet? Das würde mich interessieren.
    15 0 Melden
    • Fly Boy Tschoko 24.04.2015 10:29
      Highlight Da müssten wir SeWi fragen. Ob der wohl gesperrt wurde?
      16 3 Melden
    • The Destiny // Team Telegram 24.04.2015 13:28
      Highlight Er hat einfach gegen Lowend den kampf verloren und sitzt das jetzt aus. Vielleicht sehen wir ihn ja irgendwann wieder einmal, wenn er darüber hinweg gekommen ist.
      5 3 Melden
    • Oberon 24.04.2015 14:06
      Highlight ;)
      2 2 Melden
    • Roman Rey 25.04.2015 13:10
      Highlight Beleidigende Kommentare und solche, die nichts mit dem Thema zu tun haben, schalten wir nicht frei. Kritische Kommentare sind erwünscht – wenn sie denn konstruktiv sind.
      3 0 Melden
  • Asmodeus 24.04.2015 09:54
    Highlight Trolle unterscheiden sich also von der Mehrheit der Kommentare.

    Das heisst bei Blick-Leserkommentaren: Wer Worte mit mehr als 3 Silben benutzt ist ein Troll.
    40 3 Melden
  • SeKu 24.04.2015 09:39
    Highlight Wieso tut man hier so scheinheilig, dass Trolle was schlechtes wären? Ohne diese Spezies wären die Kommentare so etwas von langweilig. Niemand würde das lesen, die Klickzahlen würden brutalst sinken. Wenn ich ein Newsportal hätte, würde ich professionelle Trolle anstellen, nicht Leute, welche Trollkommentare filtern.
    17 4 Melden
  • Sille 24.04.2015 09:09
    Highlight Dann brauchts keine Foren mehr, Mit solchem macht man eine lebhafte Diskussion von Anfang an unmöglich. Der Mensch ist ersetzbar, aber nicht in allen Bereichen ;-)
    Und das sich 20min nicht dazu äussert ist ja wohl klar, die haben eh keine Diskussionskultur, da kommt es drauf an wer gerade *Zensiert*....
    27 4 Melden
    • The Destiny // Team Telegram 24.04.2015 09:41
      Highlight 20minuten benützt doch schon längst ein solches Programm, ich habe seit ewigkeiten keinen Kommentar mehr zur veröffentlich gebracht, egal was ich geschrieben oder wie. Sowas ist extrem frustrierend.


      PS:
      5 3 Melden
    • Sille 24.04.2015 10:02
      Highlight zu einer Diskussion gehören mindestens 2 ... also Ihr lieben Blitzverteiler.. hier wäre genau der passende Zeitpunkt um den Blitz zu rechtfertigen.. Ich mag Menschen welche zwar anderer Meinung sind, aber nicht den Mut haben sich dazu zu äussern ... (Ironie off) :-)
      5 6 Melden
    • Oberon 24.04.2015 14:08
      Highlight Jawohl, wenn jemand einen "Blitz" anklickt muss explizit ein Kommentar folgen. ;)

      4 3 Melden
    • Sille 24.04.2015 14:30
      Highlight klaro .. machen wir doch alle oder etwa nicht ;-)
      2 3 Melden
    • Roman Rey 25.04.2015 13:20
      Highlight Ich hab euch allen ein Herzchen gegeben. Nur damit ihrs wisst :)
      5 1 Melden

8 Gründe, warum du die Zürcher «Informatiktage 2018» besuchen solltest

Rund 70 Firmen, Organisationen, Hochschulen und Start-ups in Zürich und Winterthur bieten am 1. und 2. Juni ein spannendes Programm. Eine Auswahl.

An der Pädagogischen Hochschule in Zürich (PHZH) gibt's «die ultimative Achterbahnsimulation». Geräusche inklusive.

Anmeldung nicht erforderlich. Mehr Informationen zum Virtual Reality Roller Coaster findest du hier.

Organisator: Kantonale Verwaltung.

Autonome Fahrzeuge revolutionieren den Verkehr. Wie lernt ein selbstfahrendes Auto, Strassenschilder zu lesen? Wie nimmt es Hindernisse wahr? Noser Young Professionals (NYP), Kompetenzzentrum für IT-Nachwuchs, zeigt, wie's funktioniert.

Artikel lesen