Interview
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Police forces patrol on the Champs Elysee in Paris, Tuesday, Nov. 17, 2015. France's Interior Minister Bernard Cazeneuve has said that authorities carried out

Hohe Polizeipräsenz auf der Strasse, totale Überwachung im Netz?
Bild: Frank Augstein/AP/KEYSTONE

ETH-Professor: «Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte»

Lassen sich Terroranschläge mit mehr Überwachung vermeiden? Nein, im Gegenteil, meint Soziologe Dirk Helbing. Die Totalobservierung münde in eine von Algorithmen gesteuerte diktatorische Gesellschaft.

raffael schuppisser / Aargauer Zeitung



Herr Helbing, nach den Terroranschlägen in Paris werden Stimmen laut, die fordern, dass die elektronische Kommunikation stärker überwacht werden soll. Halten Sie das für sinnvoll?
Dirk Helbing:
Frankreich ist bereits eines der am stärksten überwachten Länder. Der Umstand, dass es möglich war, mehrere Attentate dieses Ausmasses gleichzeitig zu begehen, ohne dass ihre Planung bemerkt wurde, beweist eher, dass das Konzept der Überwachung als Instrument für Sicherheit und Frieden grundsätzlich versagt hat.

Die Anschläge sind das Resultat einer Kette von Ereignissen, die mit dem 11. September 2001 ihren Ausgang genommen und zu immer unkontrollierbareren Ergebnissen geführt haben. Die eigentliche Frage ist also, wie man eine weitere Eskalation vermeiden kann.

«Die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.»

Dirk Helbing, ETH-Professor

Die meisten Menschen scheint es nicht zu stören, wenn der Staat ihre Kommunikation überwacht, sofern das zu mehr Sicherheit führt.
Das ist hoch naiv. Eines kann man mit Sicherheit sagen: Wenn immer es Missbrauchsmöglichkeiten gibt, dann werden sie früher oder später auch genutzt. Derzeit sehen wir in vielen Ländern zunehmenden Extremismus. Früher oder später wird es irgendwo zum Missbrauch unserer Daten kommen. Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte. Damit wird die perfekte Diktatur möglich.

Dirk Helbing, ETH Zürich

Zur Person

Der 50-jährige Dirk Helbing ist promovierter Physiker und Professor für Soziologie an der ETH Zürich. Er erforscht mittels Big Data und Computersimulation gesellschaftliche Entwicklungen. Vor drei Jahren bewarb er sich mit dem Flaggschiff-Projekt FuturICT um einen Milliardenkredit der EU. Das Projekt sah vor, einen Weltensimulator zu entwickeln, der künftige politische und wirtschaftliche Krisen erkennt.

Auch am Flughafen sind wir ja bereit, uns und unser Gepäck durchleuchten zu lassen, um so dazu beizutragen, dass keine Terroristen mitfliegen. Ist es nicht dasselbe, wenn wir nun dazu einwilligen, unsere Daten durchleuchten zu lassen?
Nein, es ist nicht das Gleiche. Im Unterschied zu unserem Gepäck müssen wir kreativ und innovativ sein. Überwachung führt jedoch zu mehr Opportunismus, Systemkonformität und Selbstzensur. Das ist schädlich, denn unsere heutigen Lösungen müssen infrage gestellt werden. Offensichtlich funktionieren sie nicht mehr gut genug, um den Frieden zu sichern, die Finanz-, Wirtschafts- und Schuldenkrise zu bewältigen, die digitale Revolution zu meistern und den Klimawandel zu minimieren.

epa01969452 (FILE) An undated handout picture by the US Air Force shows a MQ-1 Predator unmanned aircraft in flight at an undiclosed location. According to reports insurgents in Afghanistan and Iraq have used inexpensive software to intercept the video feeds from the aircraft allowing them to see key targets and other intelligence information.  EPA/LT. COL. LESLIE PRATT - HANDOUT  EDITORIAL USE ONLY/NO SALES

Predator-Drohne: In einem offenem Brief haben sich zahlreiche Wissenschaftler sowie Tech-Prominente diesen Sommer für eine weltweite Ächtung autonomer Waffensysteme ausgesprochen.
Bild: EPA

Letzte Woche haben Sie mit acht anderen Wissenschaftern einen Appell zu Sicherung von Freiheit und Demokratie im Digitalzeitalter veröffentlicht. Warum?
Die demokratischen Grundprinzipien sind in Gefahr. Durch Verfolgen aller Aktivitäten, die digitale Spuren hinterlassen, entsteht ein gläserner Bürger, dessen Menschenwürde und Selbstbestimmung auf der Strecke bleiben. Durch die Verwendung persönlicher Daten kann künstliche Intelligenz jetzt lernen, unsere Entscheidungen zu manipulieren. Nach der Automatisierung der Produktion und dem Bau von selbstfahrenden Fahrzeugen steht daher die Automatisierung der Gesellschaft an. Man denkt darüber nach, die Gesellschaft wie eine grosse Maschine zu steuern, und das schliesst Methoden der Verhaltenssteuerung mit ein. Wir würden alle vom Staat gelenkt werden. Aber die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.

Das klingt sehr schwarzmalerisch.
Es ist aber kein Fantasiegespinst. In China wird derzeit bereits ein Citizen Score eingeführt. Alles, was die Bürger tun, soll mit Plus- oder Minuspunkten bewertet werden, auch was im Internet angeklickt wird oder was die Freunde tun. Ein solches System liesse sich im Prinzip auch hier umsetzen. Die Entwicklung dahin verläuft schleichend. Deshalb ist sie so gefährlich.

«Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar.»

Diesen Frühling stimmte das Schweizer Parlament mit grosser Mehrheit für ein neues Fernmeldegesetz (BÜPF). Dieses sieht vor, dass heikle Daten von Bürgern auf Vorrat gespeichert werden dürfen. Was halten Sie davon?
Die Liste der Kriterien, die einen verdächtig machen, ist viel zu lang. Im Prinzip wären sie auf beinahe jeden anwendbar. Wir müssen daher aufpassen, dass der Sicherheitsapparat nicht selber zur Gefahr für Bürger und Gesellschaft wird. 99 Prozent der Daten, auf die Geheimdienste Zugriff haben, sollten für Wissenschaft und Gesellschaft geöffnet werden. Das sorgt für Transparenz, ein Gleichgewicht der Kräfte, und einen viel grösseren wirtschaftlichen und gesellschaftlichen Nutzen.

Umfrage

Braucht es wegen der Terrorgefahr mehr Überwachung?

4,449 Votes zu: Braucht es wegen der Terrorgefahr mehr Überwachung?

  • 13%Ja
  • 81%Nein
  • 5%Weiss nicht

Sie schreiben, dass wir Gefahr laufen, durch Daten manipuliert zu werden, dabei bietet doch das Internet ein gigantisches Meer an Infos. Die Gesellschaft ist so gut informiert wie noch nie zuvor.
Es hat den Anschein, aber wir bekommen natürlich oft nur eine Fassade zu sehen, während uns die eigentlich interessanten Informationen nicht erreichen. Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar. Oft ist man froh, wenn einem gesagt wird, was wir tun sollen, weil es uns überfordert, täglich Hunderte von Entscheidungen zu treffen. Dieser Umstand wird natürlich ausgenutzt.

Elon Musk, CEO of Tesla Motors Inc., introduces the Model X car at the company's headquarters  Tuesday, Sept. 29, 2015, in Fremont, Calif. Musk said the Model X sets a new bar for automotive engineering, with unique features like rear falcon-wing doors, which open upward, and a driver's door that opens on approach and closes itself when the driver is inside. (AP Photo/Marcio Jose Sanchez)

Auch Tesla-Gründer Elon Musk warnt vor dem Missbrauch künstlicher Intelligenz.
Bild: Marcio Jose Sanchez/AP/KEYSTONE

Als Soziophysiker nutzen Sie öffentliche Daten, um die Entwicklung der Gesellschaft am Supercomputer zu simulieren. Auch Sie haben ein Interesse an möglichst vielen Daten. Big Data bietet also auch Chancen.
Ja, natürlich bieten Big Data, künstliche Intelligenz und Verhaltensökonomie grosse Chancen für unsere Gesellschaft. Entscheidend ist es daher, sicherzustellen, dass sie verantwortungsvoll eingesetzt werden. Für den Erfolg moderner, komplexer Gesellschaften ist es insbesondere erforderlich, Pluralismus, Partizipation und verteilte Kontrolle sicherzustellen. Wir sprechen uns daher dafür aus, mehr Daten für alle zu öffnen, sodass jeder bessere Entscheidungen treffen und innovativ tätig werden kann. Jeder, der will und kompetent genug ist, könnte dabei mitmachen.

«Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren.»

In Ihrem Appell schreiben Sie, dass wir nun an einem historischen Scheideweg stehen. Aber die Technikgiganten wie Google und Facebook sowie die Geheimdienste sind doch schon in Besitz unserer digitalen Daten. Wurden die Weichen nicht schon längst gestellt?
Das ist vielleicht so. Doch mittlerweile warnen auch namhafte Vertreter aus den USA vor dem Missbrauch der künstlichen Intelligenz, unter anderem Elon Musk von Tesla, Bill Gates von Microsoft, und Steve Wozniak von Apple.

Stuart Russell, der mit Peter Norvig von Google ein Standardwerk zur künstlichen Intelligenz geschrieben hat, sagte kürzlich: Es sei, als würden wir direkt auf einen Abgrund zufahren und darauf hoffen, dass uns das Benzin ausgehe. Wir müssen einsehen, dass wir die richtige Abzweigung verpasst haben und umkehren, bevor wir die Klippe heruntergestürzt sind. Es gibt bessere Wege, diese Technologien zu verwenden.

Das digitale Manifest

Letzten Donnerstag, einen Tag vor den Anschlägen in Paris, veröffentlichte Dirk Helbing zusammen mit anderen namhaften Wissenschaftern in der Online-Ausgabe des Fachmagazins Spektrum der Wissenschaften ein digitales Manifest. Die Autoren – unter denen sich auch der ehemalige Präsident der ETH-Zürich, Ernst Hafen, und der Ökonom Bruno S. Frey befinden – warnen vor den Auswüchsen der Datensammelwut und der Massenüberwachung. Wenn Big Data und künstliche Intelligenz nicht mit unseren Grundrechten kompatibel sind, würden sie früher oder später grossflächigen Schaden anrichten. «Im schlimmsten Fall», so schreiben die Forscher, «droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln.»

Wie können wir persönliche Daten der Bürger nutzen, ohne dass wir Gefahr laufen, in eine Überwachungsgesellschaft zu schlittern?
Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren. Es ist also wichtig, darauf zu bestehen, dass dieser Missstand schnellstmöglich behoben wird.

Und wie soll das gehen?
Mit einem neuen Datenschutzgesetz. Alle Daten, die über uns erzeugt werden, sollten – abgesehen von wenigen Ausnahmen – als Kopie in eine persönliche Datenmailbox gesandt werden. Dort könnten wir dann einstellen, welche Daten von wem, für welchen Zweck und wie lange genutzt werden dürfen. Unautorisierte, missbräuchliche Verwendungen von Daten, wie sie vom Gesetzgeber zu definieren wären, müssten bestraft werden. Bestimmte Anwendungen sind sicher im gesellschaftlichen Interesse, aber das Individuum muss geschützt werden.

Das könnte dich auch interessieren

So überwacht uns der Staat

Wo war Herr Glättli die letzten sechs Monate? Minute für Minute, Ort für Ort? Swisscom oder Sunrise wissen es, Sie wissen es jetzt – und der Staat kann es jederzeit wissen

Link to Article

Was der Staat von Ihrem Smartphone will. Und wann. Und weshalb.

Link to Article

«Es ist nur eine Frage der Zeit, bis der Bund auch Telefongespräche und SMS speichern will»

Link to Article

«Dass die Speicherung von Handydaten nichts bringt, ist kompletter Unsinn»

Link to Article

Das Beziehungsnetz: Wer ist beruflich wichtig, wer ist verwandt? Mit wem hat Herr Glättli wirklich viel zu tun?

Link to Article

Wie der Staat Daten «wegen Terror» abgreift – und uns eigentlich bloss komplett verarscht

Link to Article

Die Kapo Bern hat bald ein teures neues Abhörsystem. Aber der eigentliche Skandal dahinter ist die Beschaffung

Link to Article

Die vergessenen Jahre des Terrors: In den 70ern und 80ern zogen Terroristen eine Blutspur durch Europa

Link to Article

Wenn Sie immer noch glauben, Datenschutz sei nur für Menschen, die etwas zu verbergen haben, bitte hier weiterlesen

Link to Article

Die unsäglich peinliche Geschichte der gehackten Hacker (und Kapo-ZH-Lieferanten) in 25 Tweets erzählt

Link to Article

Diese Politiker sorgten sich eben noch um unsere Privatsphäre – und sagen jetzt trotzdem Ja zu mehr Überwachung

Link to Article

Fremde Geheimdienste sollen die Leitungen von Swisscom und Co. angezapft haben. Das musst du wissen

Link to Article

Polizei und Staat wollen Sie im Internet umfassend überwachen. Jeder zweite Schweizer sagt «Nein, danke!»

Link to Article
Alle Artikel anzeigen

Abonniere unseren Newsletter

5
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
5Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Monti_Gh 18.11.2015 19:17
    Highlight Highlight Ich sehe schwarz für unsere freiheitliche Gesellschaft! Wenn sogar die NZZ China als Vorbild für die Sicherheitspolitik (http://www.nzz.ch/international/das-ende-der-heilen-welt-1.18648659) nimmt.
    Und ihr Chefredaktor Eric Gujer einen direkt Draht zu den Nachrichtdiensten hat! :(
  • daenu 18.11.2015 11:34
    Highlight Highlight Nicht nur die digitale Überwachung führt in eine Sackgasse. Auch mehr Grenzkontrollen, Grenzzäune und höhere Mauern verhindern kaum Anschläge aber sie behindern unsere Freiheit und manipulieren unsere Wahrnehmung. Umdenken wäre endlich angesagt.
  • Aurel 18.11.2015 10:51
  • Lowend 18.11.2015 10:30
    Highlight Highlight Diesen warnenden Worten von Dirk Helbing ist nichts hinzuzufügen und wer meint, dass er oder sie nichts zu verstecken hat, soll sich kurz mal ausmalen, um wie viel effektiver die Judenverfolgung gewesen wäre, wenn die Nazis über unsere Technologien verfügt hätten! Wer weiss, ob nicht schon bald ein neuer Führer auf die Idee kommt, alle Menschen, die seine Ideen nicht teilen, zu eliminieren um so, zusammen mit seinen Gesinnungsgenossen, die perfekte Diktatur des Volkes zu errichten? Die Möglichkeiten dazu wären vorhanden und darum ist es wichtig, diesen Büpf-Unsinn an der Urne zu beerdigen!
    • Dr. Zoidberg 18.11.2015 11:31
      Highlight Highlight zur judenverfolgung gibt ja die "nette" geschichte aus den niederlanden, die in ihren einwohnerregistern die religionszugehörigkeit gespeichert haben. als die nazis kamen, mussten die nur die register durchforsten und wussten sofort, wer jude war oder jüdische vorfahren hatte. sehr praktisch.

      die amis geben offen zu, dass sie auf basis der abgeschnorchelten daten menschen töten.

      trotzdem: um wie viel wollen wir wetten, dass büpf (und im zweifel noch viel weitergehende gesetze) von den besorgten bürgern wegen der ganzen islamistischen kinderschänderwildpinkler durchgewunken wird?

Kriminelle versenden gefälschte Swisscom-Rechnungen per E-Mail – so erkennst du den Betrug

Eine neue Phishing-Welle grassiert seit heute Mittag in der Schweiz. Die Betrüger fälschen Swisscom-E-Mails, um an Passwörter, Kreditkartendaten etc. ihrer Opfer zu gelangen und somit das Bankkonto leerzuräumen. Das Computer Emergency Response Team des Bundes schreibt auf Twitter:

Der E-Banking-Trojaner Gozi war erstmals 2007 entdeckt worden. Er wird von Internet-Kriminellen immer wieder verändert und per Fake-Mails oder manipulierte Webseiten neu in Umlauf gebracht. Wer in die Falle tappt, …

Artikel lesen
Link to Article