Wirtschaft
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

Matt Damon im Film «The Martian». Für uns Menschen wird das All stets feindlich sein.

«Nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter»

Smarte Maschinen werden bald viel klüger sein als Menschen. Das wird unsere Arbeitswelt und unsere Gesellschaft verändern. Warum wir trotzdem keine Angst haben müssen, erklärt Jürgen Schmidhuber, ein führender Experte auf dem Gebiet der künstlichen Intelligenz.

12.03.17, 16:44 12.02.18, 13:19


Donald Trump will die Rüstungsausgaben massiv erhöhen und wieder atomar aufrüsten. Gleichzeitig hat die Forschung auf dem Gebiet der künstlichen Intelligenz (KI) grosse Fortschritte gemacht. Wird die Kombination von Atomwaffen und KI zur ultimativen Bedrohung der Menschheit?
Seit 60 Jahren gibt es Wasserstoffbomben samt den Raketen, die sie transportieren können. Eine grosse Wasserstoffbombe hat mehr Zerstörungskraft als alle Waffen des Zweiten Weltkrieges zusammengenommen. Ein Militär, das so was hat, braucht keine KI.

Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?
Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern. Dabei sind sie aber derzeit vor allem von kommerziellen Erwägungen getrieben. Es geht darum, die Menschen glücklicher oder langlebiger zu machen – oder abhängiger von ihren Smartphones.

«Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.»

Sie selbst haben einst erklärt, Ihr Ziel sei es, bevor Sie in Rente gehen, eine Maschine konstruiert zu haben, die intelligenter ist als Sie selbst. In gut zehn Jahren werden Sie das Pensionsalter erreichen. Werden Sie auch Ihr Ziel verwirklicht haben?
In der Tat habe ich mir dieses Ziel als Bub in den 70er Jahren gesetzt. Seither ist es immer realistischer geworden, denn alle fünf Jahre werden Rechner zehnmal billiger. Bald werden sie mehr Kapazität aufweisen als das menschliche Gehirn. Ich denke, dass unsere sich selbst verbessernde Software damit Schritt halten wird.

Jürgen Schmidhuber, 54, hat die moderne künstliche Intelligenz (KI) massgeblich geprägt. Er ist wissenschaftlicher Direktor des Schweizer Forschungsinstituts für KI IDSIA (USI & SUPSI). Die preisgekrönten tiefen neuronalen Netzwerke seiner Forschungsgruppen an der TU München und am IDSIA revolutionierten das Maschinelle Lernen und die KI, und sind nun Milliarden von Nutzern zugänglich durch Google, Apple, Microsoft, IBM, Baidu, Amazon und zahlreiche weitere Firmen. Sie waren die weltweit ersten, die übermenschliche visuelle Mustererkennungsresultate erzielten, wichtig u.a. zur Krebsfrüherkennung. Er erhielt zahlreiche internationale Preise, und ist Präsident der Firma NNAISENSE, die die erste praktische Allzweck-KI erschaffen will.

Sie sind ein Spezialist auf diesem Gebiet. Können Sie kurz erläutern, was Sie genau forschen?
Ich baue Maschinen, die aus Erfahrung klüger werden. Unter anderem habe ich in den späten 80ern begonnen, mich mit rückgekoppelten lernenden neuronalen Netzwerken (RNN) zu beschäftigen. Damals waren die Rechner sehr langsam, und unsere RNN konnten nur Spielzeug-Probleme lösen. Heute ist Rechenzeit fast eine Million mal billiger, das ermöglichte jüngst den kommerziellen Durchbruch. 2009 hat unser «Long Short Term Memory»-Netzwerk (LSTM) erste Wettbewerbe gewonnen, da ging es um das Erkennen von Handschriften in Sprachen wie Französisch oder Arabisch. Seit einigen Jahren ist LSTM auf Ihrem Smartphone. Es kann gesprochene Sprache besser erkennen als andere Programme, oder Sprachen besser übersetzen, oder Bilder besser beschriften, oder Ausfälle in Fabriken besser vorhersagen, usw., usw.  Vier  der fünf  wertvollsten börsennotierten Firmen der Welt (Apple, Google, Microsoft, Amazon) stützen sich nun massiv auf unsere Erfindungen.

Attendees interact with Commerce Bot, a robot that provides customer service with artificial intelligence technology and voice recognition, at SK telecom's stand at the Mobile World Congress in Barcelona, Spain, February 28, 2017. REUTERS/Paul Hanna

Eine Roboterfrau gibt Auskunft an einem KI-Kongress in Barcelona. Bild: PAUL HANNA/REUTERS

So gesehen sind Sie auf gutem Weg, Ihr selbst gesetztes Ziel zu erreichen.
Ich denke schon, zumal wir immer älter werden und das Rentenalter erhöht werden wird. Schauen wir also, wann es bei mir soweit sein wird. Dass es dereinst Wesen geben wird, die klüger sind als die Menschen, ist übrigens schon lange ein Science Fiction Thema. Nur wird es nun langsam realistisch.

«Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen.»

Und was bedeutet das für uns Menschen?
KI und smarte Maschinen werden das Leben der Menschen weiter erleichtern. Dabei werden wie schon seit vielen Jahrzehnten weiterhin Arbeitsplätze verschwinden und neue entstehen. Wer hätte noch vor 20 Jahren vorausgesehen, dass  viele Menschen ihr Geld in sozialen Netzwerken verdienen werden, z.B. als Videoblogger? Interessant: Gerade in Ländern, in denen es viele Industrieroboter gibt – Japan, Südkorea, Deutschland, Schweiz – herrscht weitgehend Vollbeschäftigung.

Bill Gates plädiert für eine Steuer auf Robotern. Brauchen wir auch eine andere Wirtschaftsordnung, um zu verhindern, dass die soziale Ordnung der Gesellschaft aus dem Gleichgewicht gerät?
Ich befürworte seit vielen Jahren das Konzept einer Steuer für Roboter. Ich habe auch die Abstimmung über das bedingungslose Grundeinkommen in der Schweiz mit Interesse verfolgt. Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.

The world’s top Go player Lee Sedol and Demis Hassabis, the CEO of DeepMind Technologies and developer of AlphaGO, arrive at an award ceremony for the Google DeepMind Challenge Match against Google's artificial intelligence program AlphaGo in Seoul, South Korea, March 15, 2016.  REUTERS/Kim Hong-Ji

DeepMind, eine Tochterfirma von Google, arbeitet ebenfalls mit «Long Short Term Memory». Bild: KIM HONG-JI/REUTERS

Wir leben im postfaktischen Zeitalter mit den «alternativen Fakten» und den Fake News. Teilen Sie die Befürchtung, dass uns die KI immer häufiger manipuliert, nicht nur bei unserem Konsum, sondern auch bei unserem politischen Verhalten?
Ich habe ja das «Long Short Term Memory» (LSTM) schon erwähnt. Diese Form von Deep Learning wurde seit den 90er Jahren in meinen Labors in München und der Schweiz entwickelt. LSTM tut uns heute viel Gutes. Man kann es allerdings auch dazu verwenden, automatisch Twitter-Nachrichten zu beantworten, und Fake News zu verbreiten.

Diese selbstlernenden Chatbots werden sogar rassistisch und frauenfeindlich, wie die Ingenieure von Microsoft zu ihrem Entsetzen feststellen mussten.
Zunächst wurden diese Chatbots in China getestet, wo sie von Menschen freundlich behandelt wurden. In Amerika hingegen wurden sie von bestimmten Nutzern allerdings gezielt mit Nazi-Sprüchen gefüttert. Dadurch haben sie sich  zu Nazi-Bots entwickelt. Leider kann man LSTM nicht nur zum Wohl der Menschheit einsetzen, sondern auch für solche Dinge, oder zum Steuern militärischer Drohnen. Die meisten Anwendungen sind allerdings für viele Millionen Menschen sehr hilfreich.

«Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor.»

Sie haben auch die Gödelmaschine entworfen, eine Maschine, die nicht nur lernen, sondern auch ihren Lernmechanismus verändern kann.
Die Gödelmaschine kann auf theoretisch optimale Weise lernen, einen besseren Lernalgorithmus zu lernen. Das geht über das hinaus, was das LSTM kann, und ist sehr aufregend. Derzeit befindet sich dies aber noch in der Phase der Grundlagenforschung.

Könnte eine Gödelmaschine auch so etwas wie ein Bewusstsein entwickeln?
Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen. Schon seit 1991 haben wir im Labor lernende Agenten mit rudimentären Formen der Selbstrepräsentation und des Bewusstseins.

Es geht auch um Gefühle. Warum müssen Maschinen Hunger und Schmerzen haben?
Mein Roboter soll sich nicht verletzen und kaputt gehen. Deswegen baue ich ihm Schmerz- und Hungersensoren ein. Signale dieser Sensoren will er vermeiden. Hat die Batterie bald keinen Strom mehr, wächst der Hunger, und motiviert ihn, die Ladestation zu finden, ohne schmerzhaft an Hindernissen anzuecken.

Douglas Hines, founder of True Companion, poses with a life-size rubber doll named Roxxxy during the Adult Entertainment Expo in Las Vegas, Saturday, Jan. 9, 2010. (AP Photo/Paul Sakuma)

Weiblicher Sex-Roboter. Bereits jetzt können Maschinen Schmerz und Hunger empfinden.  Bild: AP

Was ist mit Empathie, Liebe und Hass?
Viele Probleme lassen sich gemeinsam besser lösen. KIs können daher im Prinzip lernen, zusammenzuarbeiten, und sich Prinzipien wie «Wie-du-mir-so-ich-dir» anzueignen. Eine KI-Gesellschaft, deren Mitglieder sich darauf verständigen, sich gegenseitig zu helfen, wird oft erfolgreicher sein als eine andere. Sich den Regeln eines geordneten Zusammenlebens zu unterwerfen, ist ein Evolutionsvorteil. Die Evolution von Empathie ergibt sich hieraus als Nebenprodukt.

Was unterscheidet diese Roboter dann noch vom Menschen?
Natürlich sind die heutigen doofen kleinen Roboter dem Menschen in vieler Hinsicht noch weit unterlegen. Die Hirnrinde eines Menschen hat heute noch etwa hunderttausend Mal mehr Verbindungen als das derzeit grösste LSTM-Netzwerk. Falls der gegenwärtige Beschleunigungstrend anhält, werden wir jedoch in etwa 25 Jahren Gleichstand haben. Und elektronische LSTM-Verbindungen sind viel schneller als die biologischen des menschlichen Gehirns. In den nächsten 25 Jahren werden wohl ganz viele und ganz erstaunliche Dinge passieren.

Woran denken Sie?
Meinem Team ist es 2011 erstmals gelungen, visuelle Muster mit KI besser zu erkennen als Menschen. Das war vor fünf Jahren. Inzwischen haben wir schon wieder einen Faktor zehn gewonnen. In 25 Jahren sind wir wohl nochmals hunderttausend Mal besser. Sehr viele Aufgaben, die Menschen heute noch besser erledigen, werden LSTM-Netzwerke und verwandte KIs übernehmen. Das gilt für das Gesundheitswesen bis hin zu vielfältigsten Tätigkeiten in der Industrie.

«Geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.»

Wenn die Maschinen klüger als Menschen sind, wollen sie sich dann auch fortpflanzen?
Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor. Netzwerke tun sich zusammen und gebären Kinder, sozusagen. Das Beste der DNA eines Netzes wird kombiniert mit dem Besten eines anderen. Diese Evolution gibt es längst.

Führt das nicht dazu, dass sich der Mensch selbst abschafft?
Nein.

Jürgen Schmidhuber wird einer der Referenten an der Veranstaltung «Silicon Valley meets Switzerland». Sie findet am 31. März 2017 im Palazzo die Congressi in Lugano statt. Details unter www.Siliconvalleymeetsswitzerland.com

Rotten dann die KIs die Menschen aus?
Davor brauchen wir keine Angst zu haben. Es ist ja nicht so, dass der Klügere stets das Bedürfnis hat, den Dümmeren auszurotten. Wir Menschen wollen ja auch nicht die Kängurus ausrotten.

epaselect epa05779335 A Pepper robot wearing a construction worker costume design gestures during the Tokyo Pepper Collection 2017 fashion contest in Tokyo, Japan, 09 February 2017. Five designers were selected to compete in the final after about 150 creators participated in the fashion contest organised by telecommunications and mobile phone carrier SoftBank Corp. The nurse costume won the Jury Special award and the airline crew costume won the Grand Prix award.  EPA/FRANCK ROBICHON

Japaner sind die grössten Roboter-Fans. Bild: FRANCK ROBICHON/EPA/KEYSTONE

Für die klügeren Roboter werden die Menschen aber mehr oder weniger uninteressant?
Wenn diese Maschinen klug sind – und die werden sehr klug –, dann werden sie auch merken, dass die meisten Ressourcen sich nicht in unserer Biosphäre befinden, sondern im Weltraum. Weniger als ein Milliardstel der Sonnenenergie trifft die Erde, beispielsweise. Das heisst: Ganz viele KIs werden auswandern, selbstreplizierende Roboterfabriken im All bauen und sich weiter in die Milchstrasse ausbreiten. Der grösste Teil der KIs wird weit weg sein von allem Menschlichen.

Das tönt wie der fantastische Roman «The Hitchhiker’s Guide to the Galaxy» von Douglas Adams.
Nicht ganz, denn das ist einer von vielen Sci-Fi-Romanen, in denen Dinge vorkommen, die physikalisch gar nicht möglich sind. Zeitlöcher, Hypersprünge, etc. Das ist natürlich alles Unsinn. Das mussten sich diese Autoren einfallen lassen, um die riesigen Distanzen in der Galaxis mit in den kurzen Lebenszeiten der Menschen zu vereinbaren. Doch nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter. Der Weltraum ist dem Menschen feindlich gesinnt. Wir brauchen sechs Meter Blei, um uns vor den Strahlen zu schützen. Einen Roboter hingegen kann ich so bauen, dass er sich dort ganz glücklich fühlt.

Nicht Elon Musk wird also den Mars kolonialisieren, sondern eine KI-Gemeinschaft.
Ich habe ihn darauf hingewiesen, dass es uneffizient ist und wenig Sinn macht, Planeten im Sonnensystem durch Menschen zu kolonialisieren. Es ist für Menschen tausend Mal attraktiver, in der Wüste Namib zu leben, als auf dem Mars. Aber geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.

Künstliche Intelligenz

«Eine Maschine wird niemals ein Bewusstsein haben»

Wenn wir Glück haben, behalten uns die Roboter als Haustiere

Wer hat in 20 Jahren noch einen Job? Wir haben drei Zukunfts-Expertinnen gefragt

Eine phantastische Reise hat begonnen

Das Mooresche Gesetz wird 50: Irgendwann werden die Maschinen schlauer als wir – was werden sie mit uns tun? 

«Das Auto der Zukunft wird eine Mischung aus Büro und Wohnzimmer sein»

präsentiert von

Die dunkle Seite des Fortschritts: Smartphones und Facebook machen uns depressiv und gefühllos

Alle Artikel anzeigen

Das könnte dich auch interessieren:

Das passiert, wenn Manchester-Fans beim FC Basel nach Champions-League-Tickets fragen 😂

Genital-Check bei jungen Flüchtlingen: Jetzt intervenieren Fachleute und Politik

Instagram vs. Realität – wie es hinter den perfekten Fotos wirklich aussieht

Unsere Liebe zu den Bauern endet beim Portemonnaie

Das essen wir alles in einem Jahr

Sex, Lügen und Politik: Der Fall Kavanaugh erinnert an die Hetze gegen Anita Hill

iOS 12 ist hier – das sind 13 nützliche Tipps für iPhone-User

Diese 9 Schweizer Orte liebt das Internet (zu sehr)

Wie ein Fussball-Teenie 600'000 Franken für Koks und Alk verprasste und abstürzte

Trump Jr. postet dieses Fake-Bild – und wird vom Moderator komplett demontiert

Riesen-Show von Shaqiri – deshalb wechselte ihn Klopp trotzdem in der Halbzeit aus

«NACHBARN AUFGEPASST» – Wie eine Touristin in Deutschland zur Einbrecherin erklärt wurde

Wir haben kürzlich dieses BMW-Plakat gesehen – und hatten da ein paar Fragen

Diese 19 Comics zeigen, wie sich Depressionen und Angst anfühlen

St.Gallen verbietet Burkas – 3 Dinge, die du dazu wissen musst

Autistin flüchtet aus Angst vor SBB-Ticket-Kontrolle – und wird hammerhart bestraft

Mehr als nur Sex zwischen Bäumen: Wie dieser Wald im Aargau zum «Schwulewäldli» wurde

Alle Artikel anzeigen

Hol dir die App!

Zeno Hirt, 25.6.2017
Immer wieder mal schmunzeln und sich freuen an dem, was da weltweit alles passiert! Genial!

Abonniere unseren Daily Newsletter

17
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
17Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • baBIELon 13.03.2017 16:26
    Highlight Hört auf Gott zu spielen... Wie kann mann darauf hinarbeiten dass es eine neue Spezies gibt, welche uns dann vielleicht als niedliche Haustiere halten will? Ich kriege echt Gänsehaut bei dem Geschwafel dieses Typen...
    5 7 Melden
  • Thinktank 12.03.2017 19:17
    Highlight Der grösste Feind des Menschen ist der Mensch selber. Es wird sich relativ schnell jemand finden, der die Klugboter so programmiert, dass er selber profitiert und seine Feinde aus dem Weg räumt. Ich beginne schon mal im Garten einen Bunker zu bauen.
    40 11 Melden
  • welefant 12.03.2017 18:57
    Highlight Das macht die juso dann schon!
    11 20 Melden
  • N. Y. P. 12.03.2017 18:28
    Highlight Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?

    Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern.

    Tönt soo schön. Bis uns die ganze Sache aus dem Ruder läuft. Ich als KI würde die Waffen gegen die Menschen einsetzen, damit man (KI's) unter sich sein kann. Sind KI's noch auf die Menschen angewiesen, wenn sie mal eine gewisse Stufe an Intelligenz und Einfluss erreicht haben ? (Science Fiction, I know)

    P. S. (➡️T3⬅️)
    27 9 Melden
    • Menel 13.03.2017 07:59
      Highlight Wieso sollten KIs die Menschen ausrotten wollen? Wir werden wahrscheinlich aneinander geraten, wenn unsere Ziele miteinander kollidieren. Das ist so, wie wenn sie im Garten arbeiten und beim Umstechen des Bodens Regenwürmer töten. Sie hassen die Regenwürmer nicht, sie wollen sie auch nicht ausrotten, aber ihr Lebensraum ist blöderweise gerade dort, wo sie ihr Gemüse anpflanzen wollen.
      12 1 Melden
    • N. Y. P. 13.03.2017 12:27
      Highlight @Menel
      Meiner Meinung nach sind die KI's für uns da, sozusagen zu unseren Diensten. Sie sollen uns durchaus helfen uns zu entwickeln.
      Unsere Ziele sind aber immer vorrangig. Ich sehe nicht ein, wieso wir uns jemals deren Zielen unterordnen müssten. Uns unterstützen JA. Uns ihnen unterordnen NEIN.
      2 3 Melden
    • Menel 13.03.2017 18:14
      Highlight @NYP, ja, so lange bis sie uns überflügeln. Danach werden wir nichts mehr haben, worin sie uns brauchen. Unsere Evolution läuft langsamer als ihre und sie sind nicht mal sterblich.
      4 0 Melden
    • N. Y. P. 13.03.2017 20:44
      Highlight Wenn die Entwicklung so weitergeht, kommt vielleicht am 12. Juni 2096 der Tag, wo es das erste Mal nicht mehr in der Macht der Menschen liegt, "den Stecker" zu ziehen.
      Oder vielleicht können wir ab 2040 Menschen nicht mehr von Maschinen unterscheiden. Oder Realität vor Fiktion. Oder Wahrheit vor Lügen.
      Wir werden die Kontrolle verlieren. Vielleicht kommt es gut, vielleicht nicht..

      1 1 Melden
  • Bynaus 12.03.2017 18:02
    Highlight 6 Meter Blei - also bitte (die Abschirmung der Erdatmosphäre entspricht ca. 1 m Wasser oder 10 cm Blei)... Aber wenn KIs aus Ressourcen-Hunger dereinst ins Weltall auswandern, werden sie Planeten (wie den Mars) tunlichst meiden - dort gibt es vergleichsweise wenig zu holen (der grösste Teil der Masse ist im Planeteninneren unzugänglich). Der Mensch hingegen ist froh, wenn er einen Boden unter den Füssen und etwas Gravitation hat - beides ist für KI irrelevant. Entsprechend denke ich, dass es heissen wird: die Planeten (und Monde) für die Menschen, der Rest für die KIs.
    16 1 Melden
    • Itchy 12.03.2017 22:25
      Highlight Welcher Rest? Die Sonnen?🤔
      2 4 Melden
    • Bynaus 13.03.2017 09:05
      Highlight Die Kleinkörper: Asteroiden, Kometenkerne, kleine Monde, etc. Mit anderen Worten: Die erdrückende Mehrheit der zugänglichen Rohstoffe des Universums. Das klingt zwar paradox, aber von der Erde und all ihrer Masse können wir nur die obersten paar km wirklich nutzen. Je geringer die Gravitation, desto mehr des Inneren kann man nutzen.
      3 0 Melden
  • Tikvaw 12.03.2017 17:50
    Highlight Nick Bostrom und seine Vorträge u. Buch "Superintelligence: Paths, Dangers, Strategies, sind ebenfalls sehr empfehlenswert zu diesem Thema.
    Bezüglich der Gefahr für den Menschen sagt er unter Anderem (Sinngemäss):
    Wir wollen Menschenaffen zwar nicht direkt töten, aber ob sie überleben oder aussterben, liegt allein in der Hand des Menschen.
    Sein Buch ist aber keineswegs als negatives Statement gegenüber KI anzusehen, er diskutiert nur mögliche Probleme aber auch Vorteile.
    Ausserdem erklärt er sehr gut den aktuellen Stand bezüglich, genetische Algorithmen, neuronale Netzwerke usw.





    23 2 Melden
  • Raphael Stein 12.03.2017 17:38
    Highlight ....wir jedoch in etwa 25 Jahren Gleichstand haben.

    Als die Roboter ihre Schöpfer ausrotteten. Grusel.....
    17 16 Melden

«Aus Gewissensgründen» – Diese Apothekerin verbannt Homöopathie aus Regalen

Wer die Bahnhof-Apotheke in bayerischen Weilheim betritt und nach homöopathischen Mitteln fragt, wird erstmal vertröstet. Iris Hundertmark, der die Apotheke gehört, hat sich zu einem drastischen Schritt entschieden. Sie hat Homöopathie aus ihren Regalen verbannt.

Frau Hundertmark, warum haben Sie sich dazu entschieden, homöopathische Medikamente nicht mehr anzubieten?Iris Hundertmark: Aus Gewissensgründen – ich möchte absolut ehrlich zu meinen Kunden sein. Ich habe Pharmazie studiert, bin …

Artikel lesen