Wirtschaft
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Mechanic and welder Sergei Kulagin, 32, tests the

Der Mensch im Dienste des Roboters.  Bild: ILYA NAYMUSHIN/REUTERS

Dichtung und Wahrheit

Ein Tanz mit dem Teufel: Übernehmen bald die Roboter die Macht?

Der Physiker Stephen Hawking und der Unternehmer Elon Musk bezeichnen die rasante Entwicklung der künstlichen Intelligenz als grösste Gefahr für die Menschheit.

Schon 1950 schrieb Isaac Asimow den Science Fiction-Klassiker «Ich, der Roboter». Darin beschreibt er einen Aufstand der Maschinen gegen die Menschen, der erst im letzten Moment abgewendet werden kann. Asimow formulierte darin auch die drei legendären Gesetze der Robotik:

  1. Ein Roboter darf keinem Menschen schaden oder durch Untätigkeit einen Schaden an Menschen zulassen.
  2. Ein Roboter muss jeden von einem Menschen gegebenen Befehl ausführen, aber nur, wenn dabei das erste Gesetz nicht gebrochen wird.
  3. Ein Roboter muss seine eigene Existenz bewahren, es sei denn, dies spricht gegen das erste oder zweite Gesetz. 
epa04511607 British astrophysicist Professor Stephen Hawking speaks during a press conference in London, Britain, 02 December 2014. US semiconductor chip maker Intel demonstrated for the first time with Professor Stephen Hawking a new Intel-created communications platform to replace his decades-old system, dramatically improving his ability to communicate with the world. The customizable platform will be available to research and technology communities by January of next year.  EPA/ANDY RAIN

Schwer behindert und genial: Stephen Hawking.  Bild: ANDY RAIN/EPA/KEYSTONE

So weit, so gut. Nun warnen aber zwei sehr prominente Vertreter von Wissenschaft und Wirtschaft, dass sich die Roboter eventuell nicht an diese Gesetze halten. Der Physiker Stephen Hawking hat jüngst in einem Interview mit der BBC erklärt, dass «die Entwicklung der künstlichen Intelligenz das Ende der Menschheit bedeuten könnte». 

«Die Entwicklung der künstlichen Intelligenz könnte das Ende der Menschheit bedeuten.»

Stephen Hawking

Weiter äusserte Hawking Bedenken vor einer digitalen Rekonstruktion des menschlichen Gehirns. Ein solches Gehirn «könnte ein Eigenleben entwickeln und sich selbst redesignen», führte der Physiker aus und fügte hinzu: «Die Menschen sind wegen der langsamen biologischen Entwicklung limitiert und hätten keine Chance, mitzuhalten.» 

SpaceX CEO Elon Musk speaks after unveiling the Dragon V2 spacecraft in Hawthorne, California in this May 29, 2014 file photo. NASA will partner with Boeing and SpaceX to building commercially owned and operated

Elon Musk, der neue Steve Jobs, vor einer seiner Raketen. Bild: MARIO ANZUONI/REUTERS

Ins gleiche Horn stösst auch Elon Musk. Der ehemalige Co-Gründer von Paypal ist der geistige Vater des Elektroautos Tesla und der privaten Raumfahrtgesellschaft Space X und wird bereits als neuer Steve Jobs gefeiert. Musk hat die künstliche Intelligenz kürzlich als «unsere grösste existentielle Bedrohung» bezeichnet und vor einem «Tanz mit dem Teufel» gewarnt. Fortgeschrittene künstliche Intelligenz sei «potentiell gefährlicher als Atomwaffen», erklärte Musk wörtlich.

«Künstliche Intelligenz ist potentiell gefährlicher als Atomwaffen.»

Elon Musk

Die Vorstellung einer Machtübernahme durch Roboter ist nicht neu. Im Zuge der künstlichen Intelligenz-Euphorie nach dem Zweiten Weltkrieg gab es tonnenweise Sci-Fi-Romane mit diesem Inhalt. Weil sich die erhofften Fortschritte nicht eingestellt hatten, ebbte in den 1970er und 1980er Jahren die Roboter-Euphorie wieder ab. Die künstliche Intelligenz verschwand von der Bildfläche und verfiel in einen jahrzehntelangen Winterschlaf. 

Die Intelligenz der Software nimmt exponentiell zu

Aufgeweckt aus diesem Schlaf wurde sie dank dem Intel Co-Gründer Gordon Moore. Er hatte entdeckt, dass sich die Kapazität der Computer-Chips rund alle zwei Jahre verdoppelte. Die Intelligenz der Software nimmt daher exponentiell zu, will heissen, nach einer langen Phase, in der sich wenig ändert, nimmt die Kapazität explosiv zu. Verschiedene Wissenschaftler und IT-Fachleute sind zur Überzeugung gelangt, dass der Tipping Point in der künstlichen Intelligenz nun erreicht sei. 



Deshalb sind in den letzten Jahren eine Reihe von spektakulären Entwicklungen möglich geworden. Dazu gehören: Mit Software gesteuerte Autos, immer bessere Simultan-Übersetzungen, immer bessere GPS, sprechende iPhones (Siri) etc. Weil das Moor’sche Gesetz auch heute noch gültig ist und sich die Chip-Kapazität auf hohem Niveau verdoppelt, versprechen sich die Enthusiasten der künstlichen Intelligenz nun wahre Wunderdinge. 

This undated image provided by Google, shows an early version of Google's prototype self-driving car.  For the first time, California's Department of Motor Vehicles knows how many self-driving cars are traveling on the state's public roads. The agency is issuing permits, Tuesday, Sept. 16, 2014 that let three companies test 29 vehicles on highways and in neighborhoods.  (AP Photo/Google, File)

Fährt ohne Lenker: Das Google Auto. Bild: AP/Google

Die Angst, dass Roboter die Macht übernehmen könnten, wird von den meisten nicht geteilt. Zwar wird auf beiden Seiten des Atlantiks mit grossem Aufwand versucht, das menschliche Gehirn digital nachzubauen. Ob diese Versuche auch Erfolg haben werden, ist jedoch umstritten. Andrew McAfee, Wissenschaftler am MIT und Co-Autor von zwei sehr erfolgreichen Büchern über das kommende Maschinenzeitalter, schreibt in der «Financial Times»: «Ich will nicht ausschliessen, dass es möglich sein wird, die Geheimnisse der Intelligenz zu entschlüsseln. Aber wir sind noch nicht einmal nahe dran.»

«Watson denkt nicht, Watson ist ein totaler Idiot.»

Marc Teerlink, IBM

Marc Teerlink ist bei IBM für die Vermarktung von Watson zuständig, einem Computer, der ein amerikanisches TV-Quiz gewonnen hat. Auch er gibt Entwarnung: Künstliche Intelligenz werde den Menschen nicht ersetzen, sondern ergänzen, erklärt Teerlink in einem Interview mit watson.ch. «Es geht darum, dass die Menschen mit Hilfe des Computers kreativer werden.» Und was ist mit der Roboter-Revolution? «Watson denkt nicht», winkt Teerlink ab. «Watson ist ein totaler Idiot.» 

Das könnte dich auch interessieren:

«Es ist absurd» – der Chef erklärt, was er vom Feminismus hält

Link zum Artikel

Vorsicht, jetzt kommt die Wohnmobil-Rezession!

Link zum Artikel

Du bist ein Schwing-Banause? Wir klären dich rechtzeitig fürs Eidgenössische auf

Link zum Artikel

Zug steckt während 3 Stunden zwischen Grenchen und Biel fest – Passagiere wurden evakuiert

Link zum Artikel

Apples Update-Schlamassel – gefährliche iOS-Lücke steht zurzeit wieder offen

Link zum Artikel

So viel verdient dein Lehrer – der grosse Schweizer Lohnreport 2019

Link zum Artikel

Prügelt Trump die amerikanische Wirtschaft in eine Rezession?

Link zum Artikel

Schweizer Firmen wollen keine Raucher einstellen – weil sie (angeblich) stinken

Link zum Artikel

Liam und Emma sind die beliebtesten Namen der Schweiz – wie sieht es in deinem Kanton aus?

Link zum Artikel

AfD-Politikerin Alice Weidel ist heimlich wieder in die Schweiz gezogen

Link zum Artikel

Mein Horror-Erlebnis im Militär – und was ich daraus lernte

Link zum Artikel

2 mal 3 macht 4! – Das wurde aus den Darstellern von «Pippi Langstrumpf»

Link zum Artikel

Greta Thunberg wollte Panik säen, erntet nun aber Wut

Link zum Artikel

Pasta mit Tomatensauce? OK, wir müssen kurz reden.

Link zum Artikel

«Es war die Hölle» – dieser Schweizer war am ersten Woodstock dabei

Link zum Artikel

Oppos Reno 5G ist ein spektakuläres Smartphone – das seiner Zeit voraus ist

Link zum Artikel

MEI, Minarett und Güsel: Das musst du zum Polit-Röstigraben wissen

Link zum Artikel

Ich hab die 3 neuen Huawei-Handys 2 Monate im Alltag getestet – es gab einen klaren Sieger

Link zum Artikel

Keine Hoffnung auf Überlebende nach Unwetter im Wallis ++ Gesperrte Pässe in Graubünden

Link zum Artikel

Immer wieder Djokovic – oder Federers Kampf gegen die Dämonen der Vergangenheit

Link zum Artikel

QDH: Huber ist in den Ferien. Wir haben ihn vorher noch ein bisschen gequält

Link zum Artikel

YB-Fan lehnt sich im Extrazug aus dem Fenster – und wird von Schild getroffen

Link zum Artikel

10 Tweets, die zeigen, dass in Grönland gerade etwas komplett schief läuft

Link zum Artikel

Wahlvorschau: Die Zentralschweiz ist diesmal nicht nur für Rot-Grün ein hartes Pflaster

Link zum Artikel

Sogar Taschenrechner verwirrt: Dieses Mathe-Rätsel macht gerade alle verrückt

Link zum Artikel

Die bizarre Geschichte der Skinwalker-Ranch, Teil 4: Die Zweifel des Insiders

Link zum Artikel

Uli, der Unsportliche – warum GC-Trainer Forte in Aarau unten durch ist

Link zum Artikel

Die Bloggerin, die 22 Holocaust-Opfer erfand, ist tot, ihre Fantasie war grenzenlos

Link zum Artikel

Google enthüllt sechs Sicherheitslücken in iOS – das solltest du wissen

Link zum Artikel

Der neue Tarantino? Ist Mist. Aber vielleicht seht ihr das ganz anders

Link zum Artikel

Wohin ist denn eigentlich die Hitzewelle verschwunden? Nun, die Antwort ist beunruhigend

Link zum Artikel

Gewalt und Krankheiten – die Bewohner der ersten Steinzeit-Stadt lebten gefährlich

Link zum Artikel

Ab heute lebt die Welt auf Ökopump – und diese Länder sind die grössten Umweltsünder

Link zum Artikel

ARD-Moderatorin lästert über «Fortnite»-Spieler und erntet Shitstorm – nun wehrt sie sich

Link zum Artikel
Alle Artikel anzeigen

Abonniere unseren Newsletter

10
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
10Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • smoe 10.12.2014 22:27
    Highlight Highlight In dem von ihnen hier leider nicht verlinkten Interviw[0] geht es nur ganz am Rande um die Gefahren der Künstlichen Intelligenz. Hawking hat sich vor einigen Monaten bedeutend ausführlicher zum Thema geäussert[1].

    Er kritisiert in erster Linie nicht deren Entwicklung selbst, sondern den sorglosen Umgang damit, dass, abgesehen von einer Handvoll Non-Profit Institute, sich niemand mit den Gefahren ernsthaft auseinandersetzt. Er äussert im BBC-Interview auch keine Bedenken zur digitalen Rekonstruktion des menschlichen Hirns, sondern vom grundsätzlichen Schritt von den primitiven Formen, die wir jetzt haben, zu «voller Künstlicher Intelligenz». Das ist nicht dasselbe. Sie können diese Schlussfolgerung nicht einfach ziehen, nur um dann ein paar Absätze später auf entsprechende Forschungsprojekte verweisen zu können.

    In diesen Projekten, wie z.B. dem europäischen «Human Brain Project», geht es primär darum, das menschliche Gehirn überhaupt zu verstehen, was für eine Vielzahl von Bereichen wichtig ist, nicht nur AI. Z.B finden wir Tierversuche böse und an Menschen sollte man auch nicht verfrüht Rumdoktoren, also brauchen wir digitale Modelle aufgrund denen wir neue Behandlungsmethoden für Krankheiten wie Parkinson oder Alzheimer simulieren zu können.

    Wenn Fachleute, die Bedenken von Hawking und Musk vermeintlich nicht teilen, liegt das an unterschiedlichen Definitionen und Teilbereichen der Künstlicher Intelligenz. Ich habe noch von niemandem gehört/gelesen, dass er keine potenziellen Probleme darin sieht, wenn sie menschliche Ka­pa­zi­täten erreicht. Wie weit wir davon entfernt sind, da gehen die Meinungen auseinander. Und die meisten Projekte gehen auch nicht in diese Richtung. Wenn der IBM Marketingmensch sagt, Watson sei ein totaler Idiot, ist das nicht naiv, sondern schlicht eine Tatsache. Watson mag Jeopardy gewonnen ist aber trotzdem um Welten dümmer als ein menschliches Kleinkind. Das System denkt nicht, versteht Konzepte nicht und wird auch nicht plötzlich von sich aus damit anfangen.

    Die Bedenken sind berechtigt und die Menschheit sollte sich lieber früher als später damit befassen. Aber "Angstmacherei" vor neuer Technologie hat der Menschheit meines Wissens, noch nie etwas gebracht.

    [0] http://www.bbc.com/news/technology-30299992
    [1] http://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence--but-are-we-taking-ai-seriously-enough-9313474.html
  • Stellar 10.12.2014 21:28
    Highlight Highlight "Ein Roboter darf keinem Menschen schaden oder durch Untätigkeit einen Schaden an Menschen zulassen."

    Fragt sich nur wie man das Verstehen soll. Müsste ein Roboter somit nicht in jeden menschlichen Konflikt eingreifen und führt einen Menschen vor einem Schaden zu schützen nicht automatisch zu dessen Bevormundung?
    • smoe 10.12.2014 23:23
      Highlight Highlight Es gibt noch diverse offne Fragen im Mensch-Maschinen-Zusammenleben.

      Kleines Gedankenspiel mit Selbstfahrenden Autos:
      Du fährst gemütlich einer Küstenstrasse entlang und geniesst den Sonnenuntergang. Plötzlich platzt ein Reifen (oder sonst was geht kaputt) und eine Kollision mit einem entgegenkommenden Fahrzeug mit zwei Insassen scheint un­aus­weich­lich.

      Was wird/soll der Computer tun? Über die Klippe steuern, was deinen sicheren Tod bedeutet, aber zwei Menschenleben rettet, oder die Fahrzeuge kollidieren lassen und drei Menschen in Lebensgefahr bringen?

      http://www.popsci.com/blog-network/zero-moment/mathematics-murder-should-robot-sacrifice-your-life-save-two
  • Zeit_Genosse 10.12.2014 20:58
    Highlight Highlight Das Thema ist ein "Brenner". Herr Löpfe, gut dass sie dieses Thema in die Breite bringen, damit sich möglichst viele frühzeitig mit dem Thema beschäftigen. In erster Linie werden Maschinen durch das Internet der Dinge verbunden und lernen in einer gemeinsamen Sprache zu sprechen. Damit werden bis zu 40% (meine Schätzung) der Jobs bedroht. Software-Hardware-Robotic-Connectivity kommen zusammen und rationalisieren ganze Branchen weg. Diese intelligente-Maschinen-Kombination verdrängt den Menschen als Arbeitnehmer. Der Mensch wird nur noch Konsument, gespiessen von einer grossen Geldumverteilung, die das Besteuern der Maschinenarbeit einschliessen muss. Der Mensch wird bei weiteren Entwicklungen zum Schwachpunkt und von den Maschinen umgangen. So macht es keinen Sinn, Menschen auf lebensfeindliche Planeten mit einem Riesenaufwand zu entsenden. Maschinen können das besser und billiger. Die Rüstungsindustrie geht diesen Weg und zeichnet vor. Man lässt (Maschinen-)Kriege führen. Heute hält der Mensch als schwächstes Glied alles noch in den Händen. Doch er behindert den Fortschritt. Wir können heute mehr als wir womöglich tun sollten und für uns verträglich ist. Wir sind jetzt an dem Punkt wo die Menschen enscheiden müssen, ob sie für die weitere Entwicklung die Hoheit den Maschinen abzugeben bereit sind. Mit allen Konsequenzen, die nicht zum Vorteil Mensch, sondern der Maschinen sein könnte. Science-Fiction? Ich denke schon bald Science-Reality.
  • The Destiny // Team Telegram 10.12.2014 20:45
    Highlight Highlight «Watson denkt nicht», winkt Teerlink ab. «Watson ist ein totaler Idiot.»

    seltsamerweise fängt es doch genau so in den meisten Bücher und Filmen an. Ich dachte wir hätten etwas gelernt auch wenn das andere nur sci fi war.
    • smoe 10.12.2014 23:01
      Highlight Highlight Die in Bücher und Filmen beschriebenen Künstlichen Intelligenzen haben mit IBM Watson in seiner jetzigen Form nichts zu tun.

      Watson ist eine semantische Suchmaschine dessen Architektur und Algorithmen von biologischen Nervensystemen inspiriert sind. Mann bedient sich für effizientere Computersysteme an Millionen Jahren Evolution anstatt das Rad neu zu erfinden. Deshalb denkt es aber noch lange selbständig.

      Die von Musk und Hawking geschilderten Gefahren – die durchaus erst zunehmen sind – treten erst auf, wenn solchen Systeme nicht nur spezifisches Wissen eingetrichtert wird, sondern der Lernprozess völlig autonom stattfindet und die Systeme darauf ausgelegt werden ihren eigenen Programmcode zur Verbesserung zu modifizieren. Erst dann wird eine neue Evolution angestossen.
    • The Destiny // Team Telegram 11.12.2014 09:07
      Highlight Highlight "Sondern der Lernprozess völlig autonom stattfindet und die Systeme darauf ausgelegt werden ihren eigenen Programmcode zur Verbesserung zu modifizieren."

      Genau auf diesen Punkt beziehe ich mich, mit dem was ich Zitiert habe. Wann genau ist dieser punkt erreicht wo eine KI sich verselbstständigt ?
      Wissenschaftler sind überheblich in einigen Sachen.
    • smoe 11.12.2014 21:22
      Highlight Highlight Das Problem ist, dass wenn Leute wie Hawkings und Musk, der Typ von IBM Watson sowie Sci Fi Autoren von Künstlicher Intelligenz sprechen, sind das drei fundamental unterschiedliche Dinge. Der Begriff ist leider sehr wage – auch weil es keine allgemein anerkannte Definition von Intelligenz gibt. Wenn aber Journalisten dies über einen Kamm scheren ist das wenig hilfreich.

      Ein System wie Watson ist pure statistische Klassifizierung und Wahrscheinlichkeitsberechnungen auf einem riesigen Datenset. Es ist selbst nicht Intelligent, aber es lassen sich damit Applikationen bauen, die für den Mensch, der damit interagiert, intelligent wirkt. Es kann sich nicht verselbständigen, das würde diversen Naturgesetzen widersprechen. Die potenziellen Gefahren, welche entstehen, wenn Menschen diese aufbereiteten Daten missinterpretieren (Beispiel Predictive policing), sind massiv grösser.

      Dass was Hawikings und Musk meinen, wird Technologische Singularität gennant, also der Zeitpunkt ab dem sich Maschinen mittels künstlicher Intelligenz selbst verbessern können. Dieser Zeitpunkt wurde bereits mehrfach um Jahrzehnte in die Zukunft verschoben, ist aber im Moment wieder im Gespräch wegen den rapiden Fortschritten in AI während der letzten Jahre.

      Kein mir bekannter Wissenschaftler bestreitet, dass dies ein Problem für die Menscheit darstellen wird. Wann und ob dieser Zeitpunkt eintreffen wird, das ist stark umstritten. Einer der bekanntesten Vertretern der Singularität, Futurist und Buchautor Ray Kurzweil, sagt dafür das Jahr 2045 voraus. Um das in Relation zu setzen, er geht auch davon aus, dass die Menschen in 15 Jahren quasi unsterblich sein werden. Andere denken, dass es noch im Laufe dieses Jahrhunderts sein wird. Wiederum andere bezweifeln, dass die Singularität überhaupt in absehbarer Zeit eintreffen wird und verweisen auf physikalische und logische Limitierungen, aber auch Gesellschaftliche: Bevor die Singularität erreicht wird, wäre ein grosser Teil der Jobs bereits wegautomatisiert und so viele Menschen arbeitslos, dass der weiteren Entwicklung die wirtschaftliche Grundlage entzogen wird. Kapitalismus müsste also zuvor überwunden werden:)

      Ich gebe Hawkings vollkommen recht, wenn er kritisiert, dass sich zu wenige Menschen ernsthaft mit den Gefahren von AI auseinandersetzen. Was mich stört, ist die latente Angstmacherei davor. Es erinnert mich an die Zeit, als die Kirche Ärzten verbot, menschliche Leichen zu sezieren.
  • Hexentanz 10.12.2014 19:27
    Highlight Highlight Musk wir von einigen wie Jobs Nachfolger angesehen.. Jetzt müsst man nur noch die Verbindung finden was den Jobs selbst großartiges getan hat :o
  • Romeo 10.12.2014 18:53
    Highlight Highlight Super Herr Löpfe. Wieder einmal den Nagel getroffen. Merci :)

Warum verschwenden wir so viele Lebensmittel? – «Weil wir es uns leisten können»

Wir alle verurteilen Foodwaste. Aber warum schmeissen wir rund einen Drittel unserer Nahrung in den Abfall? Antworten gibt Claudio Beretta, Spezialist für Foodwaste am Institut für Umweltingenieurwissenschaften an der ETH.

Was essen Sie am liebsten? Jetzt gerade hätte ich grosse Lust auf eine frische Aprikosenwähe.

Sind Sie Vegetarier oder Veganer? Ich esse vorwiegend pflanzliche Produkte. Wenn ich jedoch weiss, dass ein Stück Fleisch von einem Tier stammt, das ein artgerechtes Leben geführt hat und mit Bio-Futter ernährt wurde, dann mache ich selten auch Ausnahmen.

Fällt Ihnen der Verzicht auf tierische Produkte schwer? Was Fleisch betrifft, überhaupt nicht. Ich bin in einer Familie aufgewachsen, in der wenig …

Artikel lesen
Link zum Artikel