Digital

Matt Damon im Film «The Martian». Für uns Menschen wird das All stets feindlich sein.

«Nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter»

Smarte Maschinen werden bald viel klüger sein als Menschen. Das wird unsere Arbeitswelt und unsere Gesellschaft verändern. Warum wir trotzdem keine Angst haben müssen, erklärt Jürgen Schmidhuber, ein führender Experte auf dem Gebiet der künstlichen Intelligenz.

12.03.17, 16:44 13.03.17, 09:30

Donald Trump will die Rüstungsausgaben massiv erhöhen und wieder atomar aufrüsten. Gleichzeitig hat die Forschung auf dem Gebiet der künstlichen Intelligenz (KI) grosse Fortschritte gemacht. Wird die Kombination von Atomwaffen und KI zur ultimativen Bedrohung der Menschheit?
Seit 60 Jahren gibt es Wasserstoffbomben samt den Raketen, die sie transportieren können. Eine grosse Wasserstoffbombe hat mehr Zerstörungskraft als alle Waffen des Zweiten Weltkrieges zusammengenommen. Ein Militär, das so was hat, braucht keine KI.

Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?
Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern. Dabei sind sie aber derzeit vor allem von kommerziellen Erwägungen getrieben. Es geht darum, die Menschen glücklicher oder langlebiger zu machen – oder abhängiger von ihren Smartphones.

«Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.»

Sie selbst haben einst erklärt, Ihr Ziel sei es, bevor Sie in Rente gehen, eine Maschine konstruiert zu haben, die intelligenter ist als Sie selbst. In gut zehn Jahren werden Sie das Pensionsalter erreichen. Werden Sie auch Ihr Ziel verwirklicht haben?
In der Tat habe ich mir dieses Ziel als Bub in den 70er Jahren gesetzt. Seither ist es immer realistischer geworden, denn alle fünf Jahre werden Rechner zehnmal billiger. Bald werden sie mehr Kapazität aufweisen als das menschliche Gehirn. Ich denke, dass unsere sich selbst verbessernde Software damit Schritt halten wird.

Jürgen Schmidhuber, 54, hat die moderne künstliche Intelligenz (KI) massgeblich geprägt. Er ist wissenschaftlicher Direktor des Schweizer Forschungsinstituts für KI IDSIA (USI & SUPSI). Die preisgekrönten tiefen neuronalen Netzwerke seiner Forschungsgruppen an der TU München und am IDSIA revolutionierten das Maschinelle Lernen und die KI, und sind nun Milliarden von Nutzern zugänglich durch Google, Apple, Microsoft, IBM, Baidu, Amazon und zahlreiche weitere Firmen. Sie waren die weltweit ersten, die übermenschliche visuelle Mustererkennungsresultate erzielten, wichtig u.a. zur Krebsfrüherkennung. Er erhielt zahlreiche internationale Preise, und ist Präsident der Firma NNAISENSE, die die erste praktische Allzweck-KI erschaffen will.

Sie sind ein Spezialist auf diesem Gebiet. Können Sie kurz erläutern, was Sie genau forschen?
Ich baue Maschinen, die aus Erfahrung klüger werden. Unter anderem habe ich in den späten 80ern begonnen, mich mit rückgekoppelten lernenden neuronalen Netzwerken (RNN) zu beschäftigen. Damals waren die Rechner sehr langsam, und unsere RNN konnten nur Spielzeug-Probleme lösen. Heute ist Rechenzeit fast eine Million mal billiger, das ermöglichte jüngst den kommerziellen Durchbruch. 2009 hat unser «Long Short Term Memory»-Netzwerk (LSTM) erste Wettbewerbe gewonnen, da ging es um das Erkennen von Handschriften in Sprachen wie Französisch oder Arabisch. Seit einigen Jahren ist LSTM auf Ihrem Smartphone. Es kann gesprochene Sprache besser erkennen als andere Programme, oder Sprachen besser übersetzen, oder Bilder besser beschriften, oder Ausfälle in Fabriken besser vorhersagen, usw., usw.  Vier  der fünf  wertvollsten börsennotierten Firmen der Welt (Apple, Google, Microsoft, Amazon) stützen sich nun massiv auf unsere Erfindungen.

Eine Roboterfrau gibt Auskunft an einem KI-Kongress in Barcelona. Bild: PAUL HANNA/REUTERS

So gesehen sind Sie auf gutem Weg, Ihr selbst gesetztes Ziel zu erreichen.
Ich denke schon, zumal wir immer älter werden und das Rentenalter erhöht werden wird. Schauen wir also, wann es bei mir soweit sein wird. Dass es dereinst Wesen geben wird, die klüger sind als die Menschen, ist übrigens schon lange ein Science Fiction Thema. Nur wird es nun langsam realistisch.

«Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen.»

Und was bedeutet das für uns Menschen?
KI und smarte Maschinen werden das Leben der Menschen weiter erleichtern. Dabei werden wie schon seit vielen Jahrzehnten weiterhin Arbeitsplätze verschwinden und neue entstehen. Wer hätte noch vor 20 Jahren vorausgesehen, dass  viele Menschen ihr Geld in sozialen Netzwerken verdienen werden, z.B. als Videoblogger? Interessant: Gerade in Ländern, in denen es viele Industrieroboter gibt – Japan, Südkorea, Deutschland, Schweiz – herrscht weitgehend Vollbeschäftigung.

Bill Gates plädiert für eine Steuer auf Robotern. Brauchen wir auch eine andere Wirtschaftsordnung, um zu verhindern, dass die soziale Ordnung der Gesellschaft aus dem Gleichgewicht gerät?
Ich befürworte seit vielen Jahren das Konzept einer Steuer für Roboter. Ich habe auch die Abstimmung über das bedingungslose Grundeinkommen in der Schweiz mit Interesse verfolgt. Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.

DeepMind, eine Tochterfirma von Google, arbeitet ebenfalls mit «Long Short Term Memory». Bild: KIM HONG-JI/REUTERS

Wir leben im postfaktischen Zeitalter mit den «alternativen Fakten» und den Fake News. Teilen Sie die Befürchtung, dass uns die KI immer häufiger manipuliert, nicht nur bei unserem Konsum, sondern auch bei unserem politischen Verhalten?
Ich habe ja das «Long Short Term Memory» (LSTM) schon erwähnt. Diese Form von Deep Learning wurde seit den 90er Jahren in meinen Labors in München und der Schweiz entwickelt. LSTM tut uns heute viel Gutes. Man kann es allerdings auch dazu verwenden, automatisch Twitter-Nachrichten zu beantworten, und Fake News zu verbreiten.

Diese selbstlernenden Chatbots werden sogar rassistisch und frauenfeindlich, wie die Ingenieure von Microsoft zu ihrem Entsetzen feststellen mussten.
Zunächst wurden diese Chatbots in China getestet, wo sie von Menschen freundlich behandelt wurden. In Amerika hingegen wurden sie von bestimmten Nutzern allerdings gezielt mit Nazi-Sprüchen gefüttert. Dadurch haben sie sich  zu Nazi-Bots entwickelt. Leider kann man LSTM nicht nur zum Wohl der Menschheit einsetzen, sondern auch für solche Dinge, oder zum Steuern militärischer Drohnen. Die meisten Anwendungen sind allerdings für viele Millionen Menschen sehr hilfreich.

«Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor.»

Sie haben auch die Gödelmaschine entworfen, eine Maschine, die nicht nur lernen, sondern auch ihren Lernmechanismus verändern kann.
Die Gödelmaschine kann auf theoretisch optimale Weise lernen, einen besseren Lernalgorithmus zu lernen. Das geht über das hinaus, was das LSTM kann, und ist sehr aufregend. Derzeit befindet sich dies aber noch in der Phase der Grundlagenforschung.

Könnte eine Gödelmaschine auch so etwas wie ein Bewusstsein entwickeln?
Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen. Schon seit 1991 haben wir im Labor lernende Agenten mit rudimentären Formen der Selbstrepräsentation und des Bewusstseins.

Es geht auch um Gefühle. Warum müssen Maschinen Hunger und Schmerzen haben?
Mein Roboter soll sich nicht verletzen und kaputt gehen. Deswegen baue ich ihm Schmerz- und Hungersensoren ein. Signale dieser Sensoren will er vermeiden. Hat die Batterie bald keinen Strom mehr, wächst der Hunger, und motiviert ihn, die Ladestation zu finden, ohne schmerzhaft an Hindernissen anzuecken.

Weiblicher Sex-Roboter. Bereits jetzt können Maschinen Schmerz und Hunger empfinden.  Bild: AP

Was ist mit Empathie, Liebe und Hass?
Viele Probleme lassen sich gemeinsam besser lösen. KIs können daher im Prinzip lernen, zusammenzuarbeiten, und sich Prinzipien wie «Wie-du-mir-so-ich-dir» anzueignen. Eine KI-Gesellschaft, deren Mitglieder sich darauf verständigen, sich gegenseitig zu helfen, wird oft erfolgreicher sein als eine andere. Sich den Regeln eines geordneten Zusammenlebens zu unterwerfen, ist ein Evolutionsvorteil. Die Evolution von Empathie ergibt sich hieraus als Nebenprodukt.

Was unterscheidet diese Roboter dann noch vom Menschen?
Natürlich sind die heutigen doofen kleinen Roboter dem Menschen in vieler Hinsicht noch weit unterlegen. Die Hirnrinde eines Menschen hat heute noch etwa hunderttausend Mal mehr Verbindungen als das derzeit grösste LSTM-Netzwerk. Falls der gegenwärtige Beschleunigungstrend anhält, werden wir jedoch in etwa 25 Jahren Gleichstand haben. Und elektronische LSTM-Verbindungen sind viel schneller als die biologischen des menschlichen Gehirns. In den nächsten 25 Jahren werden wohl ganz viele und ganz erstaunliche Dinge passieren.

Woran denken Sie?
Meinem Team ist es 2011 erstmals gelungen, visuelle Muster mit KI besser zu erkennen als Menschen. Das war vor fünf Jahren. Inzwischen haben wir schon wieder einen Faktor zehn gewonnen. In 25 Jahren sind wir wohl nochmals hunderttausend Mal besser. Sehr viele Aufgaben, die Menschen heute noch besser erledigen, werden LSTM-Netzwerke und verwandte KIs übernehmen. Das gilt für das Gesundheitswesen bis hin zu vielfältigsten Tätigkeiten in der Industrie.

«Geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.»

Wenn die Maschinen klüger als Menschen sind, wollen sie sich dann auch fortpflanzen?
Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor. Netzwerke tun sich zusammen und gebären Kinder, sozusagen. Das Beste der DNA eines Netzes wird kombiniert mit dem Besten eines anderen. Diese Evolution gibt es längst.

Führt das nicht dazu, dass sich der Mensch selbst abschafft?
Nein.

Jürgen Schmidhuber wird einer der Referenten an der Veranstaltung «Silicon Valley meets Switzerland». Sie findet am 31. März 2017 im Palazzo die Congressi in Lugano statt. Details unter www. Silcionvalleymeetsswitzerland.com

Rotten dann die KIs die Menschen aus?
Davor brauchen wir keine Angst zu haben. Es ist ja nicht so, dass der Klügere stets das Bedürfnis hat, den Dümmeren auszurotten. Wir Menschen wollen ja auch nicht die Kängurus ausrotten.

Japaner sind die grössten Roboter-Fans. Bild: FRANCK ROBICHON/EPA/KEYSTONE

Für die klügeren Roboter werden die Menschen aber mehr oder weniger uninteressant?
Wenn diese Maschinen klug sind – und die werden sehr klug –, dann werden sie auch merken, dass die meisten Ressourcen sich nicht in unserer Biosphäre befinden, sondern im Weltraum. Weniger als ein Milliardstel der Sonnenenergie trifft die Erde, beispielsweise. Das heisst: Ganz viele KIs werden auswandern, selbstreplizierende Roboterfabriken im All bauen und sich weiter in die Milchstrasse ausbreiten. Der grösste Teil der KIs wird weit weg sein von allem Menschlichen.

Das tönt wie der fantastische Roman «The Hitchhiker’s Guide to the Galaxy» von Douglas Adams.
Nicht ganz, denn das ist einer von vielen Sci-Fi-Romanen, in denen Dinge vorkommen, die physikalisch gar nicht möglich sind. Zeitlöcher, Hypersprünge, etc. Das ist natürlich alles Unsinn. Das mussten sich diese Autoren einfallen lassen, um die riesigen Distanzen in der Galaxis mit in den kurzen Lebenszeiten der Menschen zu vereinbaren. Doch nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter. Der Weltraum ist dem Menschen feindlich gesinnt. Wir brauchen sechs Meter Blei, um uns vor den Strahlen zu schützen. Einen Roboter hingegen kann ich so bauen, dass er sich dort ganz glücklich fühlt.

Nicht Elon Musk wird also den Mars kolonialisieren, sondern eine KI-Gemeinschaft.
Ich habe ihn darauf hingewiesen, dass es uneffizient ist und wenig Sinn macht, Planeten im Sonnensystem durch Menschen zu kolonialisieren. Es ist für Menschen tausend Mal attraktiver, in der Wüste Namib zu leben, als auf dem Mars. Aber geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.

Künstliche Intelligenz

Wenn wir Glück haben, behalten uns die Roboter als Haustiere

Eine phantastische Reise hat begonnen

Das Mooresche Gesetz wird 50: Irgendwann werden die Maschinen schlauer als wir – was werden sie mit uns tun? 

«Das Auto der Zukunft wird eine Mischung aus Büro und Wohnzimmer sein»

Die dunkle Seite des Fortschritts: Smartphones und Facebook machen uns depressiv und gefühllos

Alle Artikel anzeigen

Das könnte dich auch interessieren:

Eine Million Gründe, warum ich nie wieder an ein Konzert gehen werde

10 mysteriöse Entdeckungen, die uns heute noch verblüffen

7 klassische Handy-Chats vom Wochenende, die jeder kennt – und was dahinter steckt

«Arena»-Fight ums Fleisch: Veganerin fetzt Verbotsgegner – und alle lieben Bauer Capaul 

17 Dinge, die du (wahrscheinlich) nur verstehst, wenn du in der IT arbeitest

Schleichender Jodmangel in der Schweiz: Werden wir wieder zu «Idioten der Alpen»?

Von A wie Assistkönig bis Z wie Zuschauer: Das ABC der Bundesliga-Saison

Grünen-Chefin Rytz: «Wir haben punkto Energiewende viel bessere Karten als Deutschland»

Alle Artikel anzeigen

Hol dir die App!

User-Review:
DendoRex, 19.12.2016
Watson ist für mich das Nr. 1 Newsportal und wird es auch bleiben. So weitermachen!
Abonniere unseren NewsletterNewsletter-Abo
17 Kommentare anzeigen
17
Um mit zudiskutieren oder Bilder und Youtube-Videos zu posten, musst du eingeloggt sein.
Youtube-Videos und Links einfach ins Textfeld kopieren.
600
  • baBIELon 13.03.2017 16:26
    Highlight Hört auf Gott zu spielen... Wie kann mann darauf hinarbeiten dass es eine neue Spezies gibt, welche uns dann vielleicht als niedliche Haustiere halten will? Ich kriege echt Gänsehaut bei dem Geschwafel dieses Typen...
    4 7 Melden
    600
  • Thinktank 12.03.2017 19:17
    Highlight Der grösste Feind des Menschen ist der Mensch selber. Es wird sich relativ schnell jemand finden, der die Klugboter so programmiert, dass er selber profitiert und seine Feinde aus dem Weg räumt. Ich beginne schon mal im Garten einen Bunker zu bauen.
    40 11 Melden
    600
  • Lea- 12.03.2017 19:10
    Highlight Wie dumm der Mensch manchmal ist, wie er menschliche Intelligenz definiert.
    20 11 Melden
    600
  • lululove 12.03.2017 18:57
    Highlight Das macht die juso dann schon!
    11 20 Melden
    600
  • N. Y. P. 12.03.2017 18:28
    Highlight Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?

    Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern.

    Tönt soo schön. Bis uns die ganze Sache aus dem Ruder läuft. Ich als KI würde die Waffen gegen die Menschen einsetzen, damit man (KI's) unter sich sein kann. Sind KI's noch auf die Menschen angewiesen, wenn sie mal eine gewisse Stufe an Intelligenz und Einfluss erreicht haben ? (Science Fiction, I know)

    P. S. (➡️T3⬅️)
    27 9 Melden
    • Menel 13.03.2017 07:59
      Highlight Wieso sollten KIs die Menschen ausrotten wollen? Wir werden wahrscheinlich aneinander geraten, wenn unsere Ziele miteinander kollidieren. Das ist so, wie wenn sie im Garten arbeiten und beim Umstechen des Bodens Regenwürmer töten. Sie hassen die Regenwürmer nicht, sie wollen sie auch nicht ausrotten, aber ihr Lebensraum ist blöderweise gerade dort, wo sie ihr Gemüse anpflanzen wollen.
      11 1 Melden
    • N. Y. P. 13.03.2017 12:27
      Highlight @Menel
      Meiner Meinung nach sind die KI's für uns da, sozusagen zu unseren Diensten. Sie sollen uns durchaus helfen uns zu entwickeln.
      Unsere Ziele sind aber immer vorrangig. Ich sehe nicht ein, wieso wir uns jemals deren Zielen unterordnen müssten. Uns unterstützen JA. Uns ihnen unterordnen NEIN.
      2 3 Melden
    • Menel 13.03.2017 18:14
      Highlight @NYP, ja, so lange bis sie uns überflügeln. Danach werden wir nichts mehr haben, worin sie uns brauchen. Unsere Evolution läuft langsamer als ihre und sie sind nicht mal sterblich.
      4 0 Melden
    • N. Y. P. 13.03.2017 20:44
      Highlight Wenn die Entwicklung so weitergeht, kommt vielleicht am 12. Juni 2096 der Tag, wo es das erste Mal nicht mehr in der Macht der Menschen liegt, "den Stecker" zu ziehen.
      Oder vielleicht können wir ab 2040 Menschen nicht mehr von Maschinen unterscheiden. Oder Realität vor Fiktion. Oder Wahrheit vor Lügen.
      Wir werden die Kontrolle verlieren. Vielleicht kommt es gut, vielleicht nicht..

      1 1 Melden
    600
  • Bynaus 12.03.2017 18:02
    Highlight 6 Meter Blei - also bitte (die Abschirmung der Erdatmosphäre entspricht ca. 1 m Wasser oder 10 cm Blei)... Aber wenn KIs aus Ressourcen-Hunger dereinst ins Weltall auswandern, werden sie Planeten (wie den Mars) tunlichst meiden - dort gibt es vergleichsweise wenig zu holen (der grösste Teil der Masse ist im Planeteninneren unzugänglich). Der Mensch hingegen ist froh, wenn er einen Boden unter den Füssen und etwas Gravitation hat - beides ist für KI irrelevant. Entsprechend denke ich, dass es heissen wird: die Planeten (und Monde) für die Menschen, der Rest für die KIs.
    15 1 Melden
    • Itchy 12.03.2017 22:25
      Highlight Welcher Rest? Die Sonnen?🤔
      2 4 Melden
    • Bynaus 13.03.2017 09:05
      Highlight Die Kleinkörper: Asteroiden, Kometenkerne, kleine Monde, etc. Mit anderen Worten: Die erdrückende Mehrheit der zugänglichen Rohstoffe des Universums. Das klingt zwar paradox, aber von der Erde und all ihrer Masse können wir nur die obersten paar km wirklich nutzen. Je geringer die Gravitation, desto mehr des Inneren kann man nutzen.
      3 0 Melden
    600
  • Tikvaw 12.03.2017 17:50
    Highlight Nick Bostrom und seine Vorträge u. Buch "Superintelligence: Paths, Dangers, Strategies, sind ebenfalls sehr empfehlenswert zu diesem Thema.
    Bezüglich der Gefahr für den Menschen sagt er unter Anderem (Sinngemäss):
    Wir wollen Menschenaffen zwar nicht direkt töten, aber ob sie überleben oder aussterben, liegt allein in der Hand des Menschen.
    Sein Buch ist aber keineswegs als negatives Statement gegenüber KI anzusehen, er diskutiert nur mögliche Probleme aber auch Vorteile.
    Ausserdem erklärt er sehr gut den aktuellen Stand bezüglich, genetische Algorithmen, neuronale Netzwerke usw.





    23 2 Melden
    600
  • Raphael Stein 12.03.2017 17:38
    Highlight ....wir jedoch in etwa 25 Jahren Gleichstand haben.

    Als die Roboter ihre Schöpfer ausrotteten. Grusel.....
    17 16 Melden
    600
  • Radiochopf 12.03.2017 17:35
    Highlight Sehr interessantes Interview, danke schön! Wie immer hat alles 2 Seiten.. wieso wir Menschen aber immer mehr in die schlechte Seite investieren verstehe ich nicht... dafür hat mich das hier gar nicht überrascht "Zunächst wurden diese Chatbots in China getestet, wo sie von Menschen freundlich behandelt wurden. In Amerika hingegen wurden sie von bestimmten Nutzern allerdings gezielt mit Nazi-Sprüchen gefüttert. "
    24 4 Melden
    • Toerpe Zwerg 12.03.2017 21:17
      Highlight Das erstaunt nich auch nicht.
      4 2 Melden
    600
  • Joël 12.03.2017 17:20
    Highlight Ich vermute, dass "klug" hier nicht im aufklärerischen Sinn benutzt wurde.
    28 0 Melden
    600

«Ich hätte verbluten können» – das sagt Hockeyspieler Rüfenacht zur Horror-Attacke 

Der Schweizer Hockeyspieler Thomas Rüfenacht ist mit dem Schrecken davongekommen. Ein Spieler von Slowenien attackierte ihn mit der messerscharfen Schlittschuh-Kufe. Das hätte ganz böse enden können.

Thomas Rüfenacht, was ist Ihnen durch den Kopf gegangen, als sie die Attacke des Slowenen erstmals gesehen haben?Thomas Rüfenacht: Ich war recht überrascht, als ich die Szene auf Video gesehen habe. Ich habe auch erst am Tag danach realisiert, was passiert ist. Ich habe es während des Spiels schlicht nicht gemerkt.

Wie erlebten Sie die Szene selber?Ich war in ein Scharmützel mit dem slowenischen Spieler Nummer 55 verwickelt und kassierte von ihm zwei Fausthiebe. Dann habe ich einen Schlag auf …

Artikel lesen