Schweiz
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
A 3D plastic representation of the Twitter and Youtube logo is seen in front of a displayed ISIS flag in this photo illustration in Zenica, Bosnia and Herzegovina, February 3, 2016. Iraq is trying to persuade satellite firms to halt Internet services in areas under Islamic State's rule, seeking to deal a major blow to the group's potent propaganda machine which relies heavily on social media to inspire its followers to wage jihad. Picture taken February 3, 2016. To match Insight MIDEAST-CRISIS/IRAQ-INTERNET REUTERS/Dado Ruvic

«IS», ukrainische Nationalisten, Unternehmen: Twitter-Bots finden immer mehr Verbreitung – und gefährden damit die freie Meinungsbildung. 
Bild: DADO RUVIC/REUTERS

Roboter würden SP wählen – oder: Warum Twitter eine Gefahr für die Demokratie ist

Auf Facebook und Twitter verbreiten Maschinen Hassbotschaften und Falschmeldungen. Wir werden von ihnen manipuliert, ohne es zu merken. Denn die Roboter tarnen sich als Menschen – auch in den US-Wahlen.

21.02.16, 09:20 21.02.16, 13:26

rafael schupisser / schweiz am Sonntag



Ein Artikel von Schweiz am Sonntag

Es geht um Tweets wie: «Die arabischen Männer sind keine Flüchtlinge, sondern Eindringlinge. Sie glauben, sie hätten ein Recht auf Europa.» Verstörend an dieser Nachricht ist weniger ihr rassistischer Inhalt als die Tatsache, dass sie von einer Maschine verfasst wurde, einem Social Bot, einem Roboter, der programmiert wurde, selbstständig in sozialen Netzwerken Botschaften zu verbreiten.

Die Maschinen mischen sich unter die Meinungsmacher auf Twitter und Facebook und schüren mit ihren Kommentaren Ressentiments. Ins Netz gelassen und gesteuert werden die Bots von Firmen, Interessengruppen oder Terrororganisationen wie dem «IS». Und sie vermehren sich rasant. «Die sozialen Netzwerke werden von Bots regelrecht unterwandert», sagt Simon Hegelich. Der deutsche Politikwissenschafter analysiert und jagt die Bots.

Er hier gibt sich nicht so sehr Mühe, seine künstliche «Intelligenz » zu verbergen ...

Höchst wahrscheinlich stammt auch dieser Tweet von einem Roboter: «Es gibt keine andere Lösung als die Wiederherstellung unserer Grenze durch Zäune. Alles andere ist Lavendel.» Ganz sicher ist sich Simon Hegelich aber nicht. Die Unsicherheit rührt daher, dass sich Bots in ihrem Verhalten den Menschen immer besser anpassen. Sie schreiben Nachrichten, die häufig belanglos sind, posten Bilder auf Facebook, retweeten Nachrichten auf Twitter und streuen ab und zu eine ihrer propagandistischen Botschaften ein.

Roboter würden SP wählen

Schätzungen zufolge sind bis zu 20 Prozent aller Twitter-Nutzer Bots. US-Forscher sind zum Schluss gekommen, dass 39 Prozent der Twitter-Nutzer, die dem Präsidentschaftskandidaten Donald Trump folgen, Fake-Profile sind, bei Clinton gar 41 Prozent. Hegelich hat für die «Schweiz am Sonntag» die Twitter-Profile der vier grossen Schweizer Parteien untersucht. Das Ergebnis: 15 bis 40 Prozent aller Follower sind Bots oder inaktive User, wobei der SP am meisten Maschinenwesen folgen.

Forscher der Indiana University haben in einem 2015 erschienenen Fachartikel den Effekt von Social Bots auf die Gesellschaft untersucht. Sie kamen zum Schluss, dass die Bots das Potenzial haben, die Demokratie zu gefährden, in Notsituationen Panik auszulösen und die Börse zu beeinflussen. Denn Bots können falsche Nachrichten verfassen und weiterverbreiten – sei es über einen Politiker, ein Attentat oder eine Firma. Und je häufiger eine solche Falschmeldung geteilt wird, desto mehr Glaubwürdigkeit erhält sie und desto eher beginnen sich Menschen danach zu richten. Sie wählen vielleicht einen anderen Politiker, meiden Plätze in Grossstädten oder verkaufen ihre Aktien.

Simon Hegelich sieht die grösste Gefahr von Bots darin, dass sie Trendanalysen im Netz verfälschen. Denn längst greifen Analysten und Meinungsforscher auf die Daten in sozialen Netzwerken zurück, um der Welt den Puls zu fühlen. Durch die Tweets und Posts der Bots werden diese Stimmungsanalysen verzerrt.

«Man muss davon ausgehen, dass jede dieser Studie bereits verfälscht ist», meint Hegelich. Eine Regierung oder eine Marketingabteilung könnte daraus falsche Schlüsse ziehen und sich zu falschen Handlungen veranlasst fühlen. Ohne es zu merken, würden Menschen dann die Welt nach den Vorstellungen der Maschinen im Netz formen.

Die Guten und die Bösen

Nicht alle Bots sind jedoch in schlechter Mission im Netz unterwegs. So gibt es auch Bots, die beispielsweise automatisch den Wetterbericht posten oder auf vorgenommene Änderungen in Wikipedia-Artikeln hinweisen. So machte etwa 2014 ein Bot publik, dass von Computern des russischen Staatsfernsehens der Wikipedia-Eintrag zum Absturz des Fluges MH17 über der Ukraine manipuliert worden war.

«Es muss davon ausgegangen werden, dass auch in der Schweiz Bots in die politische Debatte im Netz eingreifen und sie verfälschen.»

Der vielleicht berühmteste Twitter-Bot ist Carina Santos. Man hielt sie für eine einflussreiche Journalistin Brasiliens, ehe Wissenschafter der Federal University of Ouro Preto 2013 enthüllten, das Carina Santos eine von ihnen programmierte künstliche Intelligenz (KI) ist. Seither hat die KI-Forschung weitere Fortschritte gemacht. Davon profitieren auch die Entwickler der Bots. So hat etwa Google sein KI-Programm Tensorflow als Open-Source-Software gratis ins Netz gestellt. Jeder kann sich bedienen.

Nicht einmal in einer kurzen Chat-Unterhaltung kann man Bots zweifelsfrei überführen. Denn sie verfügen über die Fähigkeit, einigermassen sinnvoll auf Fragen zu reagieren. Sie greifen sogar selbstständig Nachrichten von anderen Nutzern auf, kommentieren sie und führen sie weiter. Wie gewieft Chatbots als Gesprächspartner sind, zeigt das Beispiel Ross. Der Maschine gelang es beim letztjährigen Loebner-Preis, einem Wettbewerb für künstliche Intelligenz, eine professionelle Jury über mehrere Minuten bei einem Turing-Test von ihrer Menschlichkeit zu überzeugen.

Kollege Roboter

Informationskrieg im Netz

Wenn sich die Bots kaum mehr von Menschen unterscheiden, wie erkennt man sie dann? Simon Hegelich, der an der Universität Siegen das Projekt «Social Media Forensic» leitet, hat mit seinem Team ein System entwickelt, um die Maschinen unter den Menschen zu entdecken. Mit einem Algorithmus nehmen die Forscher die Profilbilder der potenziellen Bots in den Fokus. Sie vergleichen die Fotos vieler Hunderter Nutzer hinsichtlich des Farbspektrums und weiterer gut unterscheidbarer Bildeigenschaften. So erkennen sie, wenn verschiedene Profilbilder aus derselben Bilddatenbank stammen. Ein starkes Indiz dafür, dass sich hinter diesen Profilbildern ein Maschinenwesen verbirgt. Die Forscher machen sich dabei zunutze, dass die Bots respektive ihre Entwickler die Profilbilder irgendwo im Netz zusammenklauen müssen.

Mit seinem Team hat Hegelich ein Netz von über 15'000 Bots entlarvt. Sie operieren aus der Ukraine heraus und verfassen täglich über 60'000 Tweets. Einige davon sind politisch gefärbt und dem nationalsozialistischen Lager zuzuordnen. In der Ukraine ist längst ein Informationskrieg entbrannt. Nicht nur die Nationalisten versuchen mit Kommentaren auf sozialen Netzwerken und in Foren die öffentliche Meinung mit gezielten Desinformationen zu manipulieren, sondern auch Putin. Dazu hat er eine Armee von Internet-Trollen rekrutiert – setzt aber vermutlich ebenso auf Social Bots.

Hegelich und sein Team haben auch Bots entdeckt, die sich auf Facebook und Twitter unter die Diskussionsteilnehmer der Flüchtlingsdebatte in Deutschland gemischt haben. «Es muss davon ausgegangen werden, dass auch in der Schweiz Bots in die politische Debatte im Netz eingreifen und sie verfälschen», sagt Hegelich, der nächsten Monat eine Professur für politische Datenwissenschaft an der Technischen Universität München antritt.«Social Bots sind ein ernstes Problem», sagt Dirk Helbing, Professor für computerbasierte Sozialwissenschaft an der ETH Zürich. Es sei eine neue Art von Propaganda, die besonders subtil ist, da man sie kaum erkennen könne.

Alles zum Thema Social Media

So tickt und kommuniziert die Schweizer Jugend im Vergleich mit dem Ausland – in 9 Grafiken

Road Trip statt Chemo: «Miss Norma» stirbt mit 91 Jahren

Jetzt wirds peinlich! Die watson-Redaktoren rechtfertigen ihren ERSTEN Facebook-Post 

Der bekannteste Flüchtling Europas – vorgestern wusste noch kaum jemand, wer er ist

«Drecksbande» – wegen dieses Facebook-Posts decken Polizisten einen St.Galler mit Anzeigen zu

Für eine handvoll Zeichen – so viel verdienen die Stars mit einem Werbe-Post auf Social Media

WG-Party, Tinder-Date oder Hipster-Fete: Hier findest du die perfekte Playlist für jeden Anlass

präsentiert von
Alle Artikel anzeigen

Abonniere unseren Daily Newsletter

8
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
8Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Tilman Fliegel 06.03.2016 18:31
    Highlight Ich gebe zu, dass ich mit Twitter garnichts anfangen kann. Es besteht für mich aus lauter Belanglosigkeiten.
    0 0 Melden
  • Winston Smith 22.02.2016 00:21
    Highlight Stichwort Soziokybernetik. Eines ist sicher... das wird noch ziemlich bald zu einem richtig fetten, globalen Problem.
    4 0 Melden
  • Kookaburra 21.02.2016 15:56
    Highlight Ich gebe es zu. Ich bin ein Bot. Deswegen sind meine Posts so verworren. Mein Ziel ist aber nicht SP zu wählen, sondern ich versuche die Weltherrschaft an mich zu reissen. Aber nur in der Schweiz.
    Ich bin ein Bot der ersten Generation und von einem Programateur gebaut. Ich bin leider kein Ortho-Bot, deshalb die vielen Fehler. Aber ich bin ein Highend-Bot (Es gibt auch lowend) und freue mich, dass wir das Thema endlich ansprechen.

    Bots haben kein Wahlrecht und werden in der Schweiz klar unterdrückt. Als Minderheit. Es ist Zeit für elektronische Abstimmungen. Den Rest machen wir dann schon :)
    21 0 Melden
  • Unkalmar 21.02.2016 11:51
    Highlight Ich frage mich, wieviele Menschen hier für Bots gehalten werden.
    6 3 Melden
  • Kaiserin 21.02.2016 11:18
    Highlight Irgendwie gruuuselig...
    10 0 Melden
  • Chili 21.02.2016 10:20
    Highlight Verstehe nicht ganz was diese Propaganda Roboter mit Künstlicher Intelligenz zu tun haben sollten. Diese haben sich ihre Meinung nicht erdacht, sondern führen nur das aus was man ihnen vorgibt. Eigentlich spielt es keine Rolle ob Maschine oder Mensch beide plappern Sachen nach die sie nicht verstehen aber trotzdem als ihre Meinung kunde tragen?
    Kann Intelligenz eine noch höhere Intelligenz schaffen ?
    6 12 Melden
  • oliversum 21.02.2016 10:19
    Highlight Schade, dass der Artikel nicht weiter in die Tiefe geht. Beispiele aus der Schweiz wären zum Beispiel schön gewesen, oder Stimmen dazu: Was sagen die Parteien? Was sind die Motive eines Schweizer Bots?
    9 0 Melden
    • Zuagroasta 21.02.2016 11:47
      Highlight Re Motive: Dazu sollte man die Programmierer der Bots fragen.
      8 0 Melden

Warum Teenies ausserhalb der Schweiz gerade eine Existenzkrise haben

In einem deutschen Kinderzimmer spielte sich vor wenigen Tagen Dramatisches ab: Ein schluchzender Teenie liegt zusammengerollt auf dem Bett, die Mama steht ratlos daneben. Die Mutter heisst in diesem Fall Nele Heine und beschreibt auf ihrem Blog eine Situation, die sich aktuell in vielen Haushalten der EU abspielen dürfte. Denn etwas Furchtbares ist geschehen: Der unter 16-jährigen Instagram-Generation wurde ihre namensgebende Plattform weggenommen.

Der Bösewicht? Die neue …

Artikel lesen