Digital

Hohe Polizeipräsenz auf der Strasse, totale Überwachung im Netz?
Bild: Frank Augstein/AP/KEYSTONE

ETH-Professor: «Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte»

Lassen sich Terroranschläge mit mehr Überwachung vermeiden? Nein, im Gegenteil, meint Soziologe Dirk Helbing. Die Totalobservierung münde in eine von Algorithmen gesteuerte diktatorische Gesellschaft.

18.11.15, 09:32 05.02.16, 14:19

raffael schuppisser / Aargauer Zeitung

Herr Helbing, nach den Terroranschlägen in Paris werden Stimmen laut, die fordern, dass die elektronische Kommunikation stärker überwacht werden soll. Halten Sie das für sinnvoll?
Dirk Helbing:
Frankreich ist bereits eines der am stärksten überwachten Länder. Der Umstand, dass es möglich war, mehrere Attentate dieses Ausmasses gleichzeitig zu begehen, ohne dass ihre Planung bemerkt wurde, beweist eher, dass das Konzept der Überwachung als Instrument für Sicherheit und Frieden grundsätzlich versagt hat.

Die Anschläge sind das Resultat einer Kette von Ereignissen, die mit dem 11. September 2001 ihren Ausgang genommen und zu immer unkontrollierbareren Ergebnissen geführt haben. Die eigentliche Frage ist also, wie man eine weitere Eskalation vermeiden kann.

«Die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.»

Dirk Helbing, ETH-Professor

Die meisten Menschen scheint es nicht zu stören, wenn der Staat ihre Kommunikation überwacht, sofern das zu mehr Sicherheit führt.
Das ist hoch naiv. Eines kann man mit Sicherheit sagen: Wenn immer es Missbrauchsmöglichkeiten gibt, dann werden sie früher oder später auch genutzt. Derzeit sehen wir in vielen Ländern zunehmenden Extremismus. Früher oder später wird es irgendwo zum Missbrauch unserer Daten kommen. Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte. Damit wird die perfekte Diktatur möglich.

Zur Person

Der 50-jährige Dirk Helbing ist promovierter Physiker und Professor für Soziologie an der ETH Zürich. Er erforscht mittels Big Data und Computersimulation gesellschaftliche Entwicklungen. Vor drei Jahren bewarb er sich mit dem Flaggschiff-Projekt FuturICT um einen Milliardenkredit der EU. Das Projekt sah vor, einen Weltensimulator zu entwickeln, der künftige politische und wirtschaftliche Krisen erkennt.

Auch am Flughafen sind wir ja bereit, uns und unser Gepäck durchleuchten zu lassen, um so dazu beizutragen, dass keine Terroristen mitfliegen. Ist es nicht dasselbe, wenn wir nun dazu einwilligen, unsere Daten durchleuchten zu lassen?
Nein, es ist nicht das Gleiche. Im Unterschied zu unserem Gepäck müssen wir kreativ und innovativ sein. Überwachung führt jedoch zu mehr Opportunismus, Systemkonformität und Selbstzensur. Das ist schädlich, denn unsere heutigen Lösungen müssen infrage gestellt werden. Offensichtlich funktionieren sie nicht mehr gut genug, um den Frieden zu sichern, die Finanz-, Wirtschafts- und Schuldenkrise zu bewältigen, die digitale Revolution zu meistern und den Klimawandel zu minimieren.

Predator-Drohne: In einem offenem Brief haben sich zahlreiche Wissenschaftler sowie Tech-Prominente diesen Sommer für eine weltweite Ächtung autonomer Waffensysteme ausgesprochen.
Bild: EPA

Letzte Woche haben Sie mit acht anderen Wissenschaftern einen Appell zu Sicherung von Freiheit und Demokratie im Digitalzeitalter veröffentlicht. Warum?
Die demokratischen Grundprinzipien sind in Gefahr. Durch Verfolgen aller Aktivitäten, die digitale Spuren hinterlassen, entsteht ein gläserner Bürger, dessen Menschenwürde und Selbstbestimmung auf der Strecke bleiben. Durch die Verwendung persönlicher Daten kann künstliche Intelligenz jetzt lernen, unsere Entscheidungen zu manipulieren. Nach der Automatisierung der Produktion und dem Bau von selbstfahrenden Fahrzeugen steht daher die Automatisierung der Gesellschaft an. Man denkt darüber nach, die Gesellschaft wie eine grosse Maschine zu steuern, und das schliesst Methoden der Verhaltenssteuerung mit ein. Wir würden alle vom Staat gelenkt werden. Aber die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.

Das klingt sehr schwarzmalerisch.
Es ist aber kein Fantasiegespinst. In China wird derzeit bereits ein Citizen Score eingeführt. Alles, was die Bürger tun, soll mit Plus- oder Minuspunkten bewertet werden, auch was im Internet angeklickt wird oder was die Freunde tun. Ein solches System liesse sich im Prinzip auch hier umsetzen. Die Entwicklung dahin verläuft schleichend. Deshalb ist sie so gefährlich.

«Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar.»

Diesen Frühling stimmte das Schweizer Parlament mit grosser Mehrheit für ein neues Fernmeldegesetz (BÜPF). Dieses sieht vor, dass heikle Daten von Bürgern auf Vorrat gespeichert werden dürfen. Was halten Sie davon?
Die Liste der Kriterien, die einen verdächtig machen, ist viel zu lang. Im Prinzip wären sie auf beinahe jeden anwendbar. Wir müssen daher aufpassen, dass der Sicherheitsapparat nicht selber zur Gefahr für Bürger und Gesellschaft wird. 99 Prozent der Daten, auf die Geheimdienste Zugriff haben, sollten für Wissenschaft und Gesellschaft geöffnet werden. Das sorgt für Transparenz, ein Gleichgewicht der Kräfte, und einen viel grösseren wirtschaftlichen und gesellschaftlichen Nutzen.

Umfrage

Braucht es wegen der Terrorgefahr mehr Überwachung?

4,309 Votes zu: Braucht es wegen der Terrorgefahr mehr Überwachung?

  • 13%Ja
  • 81%Nein
  • 5%Weiss nicht

Sie schreiben, dass wir Gefahr laufen, durch Daten manipuliert zu werden, dabei bietet doch das Internet ein gigantisches Meer an Infos. Die Gesellschaft ist so gut informiert wie noch nie zuvor.
Es hat den Anschein, aber wir bekommen natürlich oft nur eine Fassade zu sehen, während uns die eigentlich interessanten Informationen nicht erreichen. Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar. Oft ist man froh, wenn einem gesagt wird, was wir tun sollen, weil es uns überfordert, täglich Hunderte von Entscheidungen zu treffen. Dieser Umstand wird natürlich ausgenutzt.

Auch Tesla-Gründer Elon Musk warnt vor dem Missbrauch künstlicher Intelligenz.
Bild: Marcio Jose Sanchez/AP/KEYSTONE

Als Soziophysiker nutzen Sie öffentliche Daten, um die Entwicklung der Gesellschaft am Supercomputer zu simulieren. Auch Sie haben ein Interesse an möglichst vielen Daten. Big Data bietet also auch Chancen.
Ja, natürlich bieten Big Data, künstliche Intelligenz und Verhaltensökonomie grosse Chancen für unsere Gesellschaft. Entscheidend ist es daher, sicherzustellen, dass sie verantwortungsvoll eingesetzt werden. Für den Erfolg moderner, komplexer Gesellschaften ist es insbesondere erforderlich, Pluralismus, Partizipation und verteilte Kontrolle sicherzustellen. Wir sprechen uns daher dafür aus, mehr Daten für alle zu öffnen, sodass jeder bessere Entscheidungen treffen und innovativ tätig werden kann. Jeder, der will und kompetent genug ist, könnte dabei mitmachen.

«Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren.»

In Ihrem Appell schreiben Sie, dass wir nun an einem historischen Scheideweg stehen. Aber die Technikgiganten wie Google und Facebook sowie die Geheimdienste sind doch schon in Besitz unserer digitalen Daten. Wurden die Weichen nicht schon längst gestellt?
Das ist vielleicht so. Doch mittlerweile warnen auch namhafte Vertreter aus den USA vor dem Missbrauch der künstlichen Intelligenz, unter anderem Elon Musk von Tesla, Bill Gates von Microsoft, und Steve Wozniak von Apple.

Stuart Russell, der mit Peter Norvig von Google ein Standardwerk zur künstlichen Intelligenz geschrieben hat, sagte kürzlich: Es sei, als würden wir direkt auf einen Abgrund zufahren und darauf hoffen, dass uns das Benzin ausgehe. Wir müssen einsehen, dass wir die richtige Abzweigung verpasst haben und umkehren, bevor wir die Klippe heruntergestürzt sind. Es gibt bessere Wege, diese Technologien zu verwenden.

Das digitale Manifest

Letzten Donnerstag, einen Tag vor den Anschlägen in Paris, veröffentlichte Dirk Helbing zusammen mit anderen namhaften Wissenschaftern in der Online-Ausgabe des Fachmagazins Spektrum der Wissenschaften ein digitales Manifest. Die Autoren – unter denen sich auch der ehemalige Präsident der ETH-Zürich, Ernst Hafen, und der Ökonom Bruno S. Frey befinden – warnen vor den Auswüchsen der Datensammelwut und der Massenüberwachung. Wenn Big Data und künstliche Intelligenz nicht mit unseren Grundrechten kompatibel sind, würden sie früher oder später grossflächigen Schaden anrichten. «Im schlimmsten Fall», so schreiben die Forscher, «droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln.»

Wie können wir persönliche Daten der Bürger nutzen, ohne dass wir Gefahr laufen, in eine Überwachungsgesellschaft zu schlittern?
Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren. Es ist also wichtig, darauf zu bestehen, dass dieser Missstand schnellstmöglich behoben wird.

Und wie soll das gehen?
Mit einem neuen Datenschutzgesetz. Alle Daten, die über uns erzeugt werden, sollten – abgesehen von wenigen Ausnahmen – als Kopie in eine persönliche Datenmailbox gesandt werden. Dort könnten wir dann einstellen, welche Daten von wem, für welchen Zweck und wie lange genutzt werden dürfen. Unautorisierte, missbräuchliche Verwendungen von Daten, wie sie vom Gesetzgeber zu definieren wären, müssten bestraft werden. Bestimmte Anwendungen sind sicher im gesellschaftlichen Interesse, aber das Individuum muss geschützt werden.

Das könnte dich auch interessieren

So überwacht uns der Staat

Wo war Herr Glättli die letzten sechs Monate? Minute für Minute, Ort für Ort? Swisscom oder Sunrise wissen es, Sie wissen es jetzt – und der Staat kann es jederzeit wissen

Was der Staat von Ihrem Smartphone will. Und wann. Und weshalb.

«Es ist nur eine Frage der Zeit, bis der Bund auch Telefongespräche und SMS speichern will»

«Dass die Speicherung von Handydaten nichts bringt, ist kompletter Unsinn»

Das Beziehungsnetz: Wer ist beruflich wichtig, wer ist verwandt? Mit wem hat Herr Glättli wirklich viel zu tun?

Wie der Staat Daten «wegen Terror» abgreift – und uns eigentlich bloss komplett verarscht

Die Kapo Bern hat bald ein teures neues Abhörsystem. Aber der eigentliche Skandal dahinter ist die Beschaffung

Die vergessenen Jahre des Terrors: In den 70ern und 80ern zogen Terroristen eine Blutspur durch Europa

Wenn Sie immer noch glauben, Datenschutz sei nur für Menschen, die etwas zu verbergen haben, bitte hier weiterlesen

Die unsäglich peinliche Geschichte der gehackten Hacker (und Kapo-ZH-Lieferanten) in 25 Tweets erzählt

Diese Politiker sorgten sich eben noch um unsere Privatsphäre – und sagen jetzt trotzdem Ja zu mehr Überwachung

Fremde Geheimdienste sollen die Leitungen von Swisscom und Co. angezapft haben. Das musst du wissen

Polizei und Staat wollen Sie im Internet umfassend überwachen. Jeder zweite Schweizer sagt «Nein, danke!»

Alle Artikel anzeigen
Abonniere unseren NewsletterNewsletter-Abo
6
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
6Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Monti_Gh 18.11.2015 19:17
    Highlight Ich sehe schwarz für unsere freiheitliche Gesellschaft! Wenn sogar die NZZ China als Vorbild für die Sicherheitspolitik (http://www.nzz.ch/international/das-ende-der-heilen-welt-1.18648659) nimmt.
    Und ihr Chefredaktor Eric Gujer einen direkt Draht zu den Nachrichtdiensten hat! :(
    15 0 Melden
  • Pokus 18.11.2015 13:22
    Highlight Danke für den Artikel.
    Mein Kommentar mit dem gleichen Tenor erhielt unter dem Pariser-Terror-Artikel leider dutzende dislikes, ohne einen Kommentar. Habe ja schon die Hoffnung hier aufgegeben ^^
    http://wat.is/0J8l9BAAzcaVzKxD
    18 0 Melden
  • daenu 18.11.2015 11:34
    Highlight Nicht nur die digitale Überwachung führt in eine Sackgasse. Auch mehr Grenzkontrollen, Grenzzäune und höhere Mauern verhindern kaum Anschläge aber sie behindern unsere Freiheit und manipulieren unsere Wahrnehmung. Umdenken wäre endlich angesagt.
    46 3 Melden
  • Aurel 18.11.2015 10:51
    16 0 Melden
  • Lowend 18.11.2015 10:30
    Highlight Diesen warnenden Worten von Dirk Helbing ist nichts hinzuzufügen und wer meint, dass er oder sie nichts zu verstecken hat, soll sich kurz mal ausmalen, um wie viel effektiver die Judenverfolgung gewesen wäre, wenn die Nazis über unsere Technologien verfügt hätten! Wer weiss, ob nicht schon bald ein neuer Führer auf die Idee kommt, alle Menschen, die seine Ideen nicht teilen, zu eliminieren um so, zusammen mit seinen Gesinnungsgenossen, die perfekte Diktatur des Volkes zu errichten? Die Möglichkeiten dazu wären vorhanden und darum ist es wichtig, diesen Büpf-Unsinn an der Urne zu beerdigen!
    70 4 Melden
    • Dr. Zoidberg 18.11.2015 11:31
      Highlight zur judenverfolgung gibt ja die "nette" geschichte aus den niederlanden, die in ihren einwohnerregistern die religionszugehörigkeit gespeichert haben. als die nazis kamen, mussten die nur die register durchforsten und wussten sofort, wer jude war oder jüdische vorfahren hatte. sehr praktisch.

      die amis geben offen zu, dass sie auf basis der abgeschnorchelten daten menschen töten.

      trotzdem: um wie viel wollen wir wetten, dass büpf (und im zweifel noch viel weitergehende gesetze) von den besorgten bürgern wegen der ganzen islamistischen kinderschänderwildpinkler durchgewunken wird?
      44 0 Melden

«Ihr habt nicht begriffen, wie das Internet funktioniert!» – ein Student zeigt, wie leicht wir im Netz überwacht werden

Mit ein paar Suchanfragen im Internet zum Terrorverdächtigen: Der Computerlinguistik-Student und Mitbegründer des Chaos-Computer-Clubs-Zürich, Hernani Marques, hat in seiner Masterarbeit untersucht, wie die Überwachung der Geheimdienste im Netz funktioniert und wie leicht man selber ins Visier der Agenten geraten kann.

Dazu überwachte der 30-Jährige zehn Tage lang sein eigenes Surfverhalten und das seiner Freundin. Marques wollte herausfinden, ob man als normaler Internet-User und …

Artikel lesen