Wirtschaft
Wissen

Die Roboter werden das All kolonialisieren

Matt Damon im Film «The Martian». Für uns Menschen wird das All stets feindlich sein.
Matt Damon im Film «The Martian». Für uns Menschen wird das All stets feindlich sein.
Interview

«Nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter»

Smarte Maschinen werden bald viel klüger sein als Menschen. Das wird unsere Arbeitswelt und unsere Gesellschaft verändern. Warum wir trotzdem keine Angst haben müssen, erklärt Jürgen Schmidhuber, ein führender Experte auf dem Gebiet der künstlichen Intelligenz.
12.03.2017, 16:4412.02.2018, 13:19
Mehr «Wirtschaft»

Donald Trump will die Rüstungsausgaben massiv erhöhen und wieder atomar aufrüsten. Gleichzeitig hat die Forschung auf dem Gebiet der künstlichen Intelligenz (KI) grosse Fortschritte gemacht. Wird die Kombination von Atomwaffen und KI zur ultimativen Bedrohung der Menschheit?
Seit 60 Jahren gibt es Wasserstoffbomben samt den Raketen, die sie transportieren können. Eine grosse Wasserstoffbombe hat mehr Zerstörungskraft als alle Waffen des Zweiten Weltkrieges zusammengenommen. Ein Militär, das so was hat, braucht keine KI.

Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?
Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern. Dabei sind sie aber derzeit vor allem von kommerziellen Erwägungen getrieben. Es geht darum, die Menschen glücklicher oder langlebiger zu machen – oder abhängiger von ihren Smartphones.

«Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.»

Sie selbst haben einst erklärt, Ihr Ziel sei es, bevor Sie in Rente gehen, eine Maschine konstruiert zu haben, die intelligenter ist als Sie selbst. In gut zehn Jahren werden Sie das Pensionsalter erreichen. Werden Sie auch Ihr Ziel verwirklicht haben?
In der Tat habe ich mir dieses Ziel als Bub in den 70er Jahren gesetzt. Seither ist es immer realistischer geworden, denn alle fünf Jahre werden Rechner zehnmal billiger. Bald werden sie mehr Kapazität aufweisen als das menschliche Gehirn. Ich denke, dass unsere sich selbst verbessernde Software damit Schritt halten wird.

Jürgen Schmidhuber, 54, hat die moderne künstliche Intelligenz (KI)
massgeblich geprägt. Er ist wissenschaftlicher Direktor des Schweizer Forschungsinstituts
für KI IDSIA (USI & SUPSI). Die preisg ...
Jürgen Schmidhuber, 54, hat die moderne künstliche Intelligenz (KI) massgeblich geprägt. Er ist wissenschaftlicher Direktor des Schweizer Forschungsinstituts für KI IDSIA (USI & SUPSI). Die preisgekrönten tiefen neuronalen Netzwerke seiner Forschungsgruppen an der TU München und am IDSIA revolutionierten das Maschinelle Lernen und die KI, und sind nun Milliarden von Nutzern zugänglich durch Google, Apple, Microsoft, IBM, Baidu, Amazon und zahlreiche weitere Firmen. Sie waren die weltweit ersten, die übermenschliche visuelle Mustererkennungsresultate erzielten, wichtig u.a. zur Krebsfrüherkennung. Er erhielt zahlreiche internationale Preise, und ist Präsident der Firma NNAISENSE, die die erste praktische Allzweck-KI erschaffen will.

Sie sind ein Spezialist auf diesem Gebiet. Können Sie kurz erläutern, was Sie genau forschen?
Ich baue Maschinen, die aus Erfahrung klüger werden. Unter anderem habe ich in den späten 80ern begonnen, mich mit rückgekoppelten lernenden neuronalen Netzwerken (RNN) zu beschäftigen. Damals waren die Rechner sehr langsam, und unsere RNN konnten nur Spielzeug-Probleme lösen. Heute ist Rechenzeit fast eine Million mal billiger, das ermöglichte jüngst den kommerziellen Durchbruch. 2009 hat unser «Long Short Term Memory»-Netzwerk (LSTM) erste Wettbewerbe gewonnen, da ging es um das Erkennen von Handschriften in Sprachen wie Französisch oder Arabisch. Seit einigen Jahren ist LSTM auf Ihrem Smartphone. Es kann gesprochene Sprache besser erkennen als andere Programme, oder Sprachen besser übersetzen, oder Bilder besser beschriften, oder Ausfälle in Fabriken besser vorhersagen, usw., usw.  Vier  der fünf  wertvollsten börsennotierten Firmen der Welt (Apple, Google, Microsoft, Amazon) stützen sich nun massiv auf unsere Erfindungen.

Attendees interact with Commerce Bot, a robot that provides customer service with artificial intelligence technology and voice recognition, at SK telecom's stand at the Mobile World Congress in B ...
Eine Roboterfrau gibt Auskunft an einem KI-Kongress in Barcelona.Bild: PAUL HANNA/REUTERS

So gesehen sind Sie auf gutem Weg, Ihr selbst gesetztes Ziel zu erreichen.
Ich denke schon, zumal wir immer älter werden und das Rentenalter erhöht werden wird. Schauen wir also, wann es bei mir soweit sein wird. Dass es dereinst Wesen geben wird, die klüger sind als die Menschen, ist übrigens schon lange ein Science Fiction Thema. Nur wird es nun langsam realistisch.

«Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen.»

Und was bedeutet das für uns Menschen?
KI und smarte Maschinen werden das Leben der Menschen weiter erleichtern. Dabei werden wie schon seit vielen Jahrzehnten weiterhin Arbeitsplätze verschwinden und neue entstehen. Wer hätte noch vor 20 Jahren vorausgesehen, dass  viele Menschen ihr Geld in sozialen Netzwerken verdienen werden, z.B. als Videoblogger? Interessant: Gerade in Ländern, in denen es viele Industrieroboter gibt – Japan, Südkorea, Deutschland, Schweiz – herrscht weitgehend Vollbeschäftigung.

Bill Gates plädiert für eine Steuer auf Robotern. Brauchen wir auch eine andere Wirtschaftsordnung, um zu verhindern, dass die soziale Ordnung der Gesellschaft aus dem Gleichgewicht gerät?
Ich befürworte seit vielen Jahren das Konzept einer Steuer für Roboter. Ich habe auch die Abstimmung über das bedingungslose Grundeinkommen in der Schweiz mit Interesse verfolgt. Gesellschaften, die keine Revolution wollen, werden wohl nicht darum herumkommen, irgendwann mal eine Form von Grundeinkommen einzuführen.

The world’s top Go player Lee Sedol and Demis Hassabis, the CEO of DeepMind Technologies and developer of AlphaGO, arrive at an award ceremony for the Google DeepMind Challenge Match against Google&#0 ...
DeepMind, eine Tochterfirma von Google, arbeitet ebenfalls mit «Long Short Term Memory».Bild: KIM HONG-JI/REUTERS

Wir leben im postfaktischen Zeitalter mit den «alternativen Fakten» und den Fake News. Teilen Sie die Befürchtung, dass uns die KI immer häufiger manipuliert, nicht nur bei unserem Konsum, sondern auch bei unserem politischen Verhalten?
Ich habe ja das «Long Short Term Memory» (LSTM) schon erwähnt. Diese Form von Deep Learning wurde seit den 90er Jahren in meinen Labors in München und der Schweiz entwickelt. LSTM tut uns heute viel Gutes. Man kann es allerdings auch dazu verwenden, automatisch Twitter-Nachrichten zu beantworten, und Fake News zu verbreiten.

Diese selbstlernenden Chatbots werden sogar rassistisch und frauenfeindlich, wie die Ingenieure von Microsoft zu ihrem Entsetzen feststellen mussten.
Zunächst wurden diese Chatbots in China getestet, wo sie von Menschen freundlich behandelt wurden. In Amerika hingegen wurden sie von bestimmten Nutzern allerdings gezielt mit Nazi-Sprüchen gefüttert. Dadurch haben sie sich  zu Nazi-Bots entwickelt. Leider kann man LSTM nicht nur zum Wohl der Menschheit einsetzen, sondern auch für solche Dinge, oder zum Steuern militärischer Drohnen. Die meisten Anwendungen sind allerdings für viele Millionen Menschen sehr hilfreich.

«Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor.»

Sie haben auch die Gödelmaschine entworfen, eine Maschine, die nicht nur lernen, sondern auch ihren Lernmechanismus verändern kann.
Die Gödelmaschine kann auf theoretisch optimale Weise lernen, einen besseren Lernalgorithmus zu lernen. Das geht über das hinaus, was das LSTM kann, und ist sehr aufregend. Derzeit befindet sich dies aber noch in der Phase der Grundlagenforschung.

Könnte eine Gödelmaschine auch so etwas wie ein Bewusstsein entwickeln?
Bewusstsein wird überschätzt. Ich sah es immer als Nebenprodukt der Datenkompression beim Problemlösen. Schon seit 1991 haben wir im Labor lernende Agenten mit rudimentären Formen der Selbstrepräsentation und des Bewusstseins.

Es geht auch um Gefühle. Warum müssen Maschinen Hunger und Schmerzen haben?
Mein Roboter soll sich nicht verletzen und kaputt gehen. Deswegen baue ich ihm Schmerz- und Hungersensoren ein. Signale dieser Sensoren will er vermeiden. Hat die Batterie bald keinen Strom mehr, wächst der Hunger, und motiviert ihn, die Ladestation zu finden, ohne schmerzhaft an Hindernissen anzuecken.

Douglas Hines, founder of True Companion, poses with a life-size rubber doll named Roxxxy during the Adult Entertainment Expo in Las Vegas, Saturday, Jan. 9, 2010. (AP Photo/Paul Sakuma)
Weiblicher Sex-Roboter. Bereits jetzt können Maschinen Schmerz und Hunger empfinden. Bild: AP

Was ist mit Empathie, Liebe und Hass?
Viele Probleme lassen sich gemeinsam besser lösen. KIs können daher im Prinzip lernen, zusammenzuarbeiten, und sich Prinzipien wie «Wie-du-mir-so-ich-dir» anzueignen. Eine KI-Gesellschaft, deren Mitglieder sich darauf verständigen, sich gegenseitig zu helfen, wird oft erfolgreicher sein als eine andere. Sich den Regeln eines geordneten Zusammenlebens zu unterwerfen, ist ein Evolutionsvorteil. Die Evolution von Empathie ergibt sich hieraus als Nebenprodukt.

Was unterscheidet diese Roboter dann noch vom Menschen?
Natürlich sind die heutigen doofen kleinen Roboter dem Menschen in vieler Hinsicht noch weit unterlegen. Die Hirnrinde eines Menschen hat heute noch etwa hunderttausend Mal mehr Verbindungen als das derzeit grösste LSTM-Netzwerk. Falls der gegenwärtige Beschleunigungstrend anhält, werden wir jedoch in etwa 25 Jahren Gleichstand haben. Und elektronische LSTM-Verbindungen sind viel schneller als die biologischen des menschlichen Gehirns. In den nächsten 25 Jahren werden wohl ganz viele und ganz erstaunliche Dinge passieren.

Woran denken Sie?
Meinem Team ist es 2011 erstmals gelungen, visuelle Muster mit KI besser zu erkennen als Menschen. Das war vor fünf Jahren. Inzwischen haben wir schon wieder einen Faktor zehn gewonnen. In 25 Jahren sind wir wohl nochmals hunderttausend Mal besser. Sehr viele Aufgaben, die Menschen heute noch besser erledigen, werden LSTM-Netzwerke und verwandte KIs übernehmen. Das gilt für das Gesundheitswesen bis hin zu vielfältigsten Tätigkeiten in der Industrie.

«Geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.»

Wenn die Maschinen klüger als Menschen sind, wollen sie sich dann auch fortpflanzen?
Künstliche Genome verwenden wir bereits seit Jahrzehnten im Labor. Netzwerke tun sich zusammen und gebären Kinder, sozusagen. Das Beste der DNA eines Netzes wird kombiniert mit dem Besten eines anderen. Diese Evolution gibt es längst.

Führt das nicht dazu, dass sich der Mensch selbst abschafft?
Nein.

Jürgen Schmidhuber wird einer der Referenten an der Veranstaltung «Silicon Valley meets Switzerland». Sie findet am 31. März 2017 im Palazzo die Congressi in Lugano statt. Details unter www.Siliconvalleymeetsswitzerland.com

Rotten dann die KIs die Menschen aus?
Davor brauchen wir keine Angst zu haben. Es ist ja nicht so, dass der Klügere stets das Bedürfnis hat, den Dümmeren auszurotten. Wir Menschen wollen ja auch nicht die Kängurus ausrotten.

epaselect epa05779335 A Pepper robot wearing a construction worker costume design gestures during the Tokyo Pepper Collection 2017 fashion contest in Tokyo, Japan, 09 February 2017. Five designers wer ...
Japaner sind die grössten Roboter-Fans.Bild: FRANCK ROBICHON/EPA/KEYSTONE

Für die klügeren Roboter werden die Menschen aber mehr oder weniger uninteressant?
Wenn diese Maschinen klug sind – und die werden sehr klug –, dann werden sie auch merken, dass die meisten Ressourcen sich nicht in unserer Biosphäre befinden, sondern im Weltraum. Weniger als ein Milliardstel der Sonnenenergie trifft die Erde, beispielsweise. Das heisst: Ganz viele KIs werden auswandern, selbstreplizierende Roboterfabriken im All bauen und sich weiter in die Milchstrasse ausbreiten. Der grösste Teil der KIs wird weit weg sein von allem Menschlichen.

Das tönt wie der fantastische Roman «The Hitchhiker’s Guide to the Galaxy» von Douglas Adams.
Nicht ganz, denn das ist einer von vielen Sci-Fi-Romanen, in denen Dinge vorkommen, die physikalisch gar nicht möglich sind. Zeitlöcher, Hypersprünge, etc. Das ist natürlich alles Unsinn. Das mussten sich diese Autoren einfallen lassen, um die riesigen Distanzen in der Galaxis mit in den kurzen Lebenszeiten der Menschen zu vereinbaren. Doch nicht die Menschen werden das Weltall kolonialisieren, sondern die Roboter. Der Weltraum ist dem Menschen feindlich gesinnt. Wir brauchen sechs Meter Blei, um uns vor den Strahlen zu schützen. Einen Roboter hingegen kann ich so bauen, dass er sich dort ganz glücklich fühlt.

Nicht Elon Musk wird also den Mars kolonialisieren, sondern eine KI-Gemeinschaft.
Ich habe ihn darauf hingewiesen, dass es uneffizient ist und wenig Sinn macht, Planeten im Sonnensystem durch Menschen zu kolonialisieren. Es ist für Menschen tausend Mal attraktiver, in der Wüste Namib zu leben, als auf dem Mars. Aber geeignet konstruierte Roboter werden auf dem Mars ihre Erfüllung finden.

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
14 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Thinktank
12.03.2017 19:17registriert Oktober 2016
Der grösste Feind des Menschen ist der Mensch selber. Es wird sich relativ schnell jemand finden, der die Klugboter so programmiert, dass er selber profitiert und seine Feinde aus dem Weg räumt. Ich beginne schon mal im Garten einen Bunker zu bauen.
4011
Melden
Zum Kommentar
avatar
Tikvaw
12.03.2017 17:50registriert Mai 2015
Nick Bostrom und seine Vorträge u. Buch "Superintelligence: Paths, Dangers, Strategies, sind ebenfalls sehr empfehlenswert zu diesem Thema.
Bezüglich der Gefahr für den Menschen sagt er unter Anderem (Sinngemäss):
Wir wollen Menschenaffen zwar nicht direkt töten, aber ob sie überleben oder aussterben, liegt allein in der Hand des Menschen.
Sein Buch ist aber keineswegs als negatives Statement gegenüber KI anzusehen, er diskutiert nur mögliche Probleme aber auch Vorteile.
Ausserdem erklärt er sehr gut den aktuellen Stand bezüglich, genetische Algorithmen, neuronale Netzwerke usw.
232
Melden
Zum Kommentar
avatar
N. Y. P. D.
12.03.2017 18:28registriert Oktober 2015
Könnte aber die KI dafür sorgen, dass diese Waffen nie zum Einsatz kommen?

Natürlich ist es die Hoffnung vieler KI-Forscher, dass KI dazu beträgt, das Leben der Menschen zu verbessern.

Tönt soo schön. Bis uns die ganze Sache aus dem Ruder läuft. Ich als KI würde die Waffen gegen die Menschen einsetzen, damit man (KI's) unter sich sein kann. Sind KI's noch auf die Menschen angewiesen, wenn sie mal eine gewisse Stufe an Intelligenz und Einfluss erreicht haben ? (Science Fiction, I know)

P. S. (➡️T3⬅️)
279
Melden
Zum Kommentar
14
Platz da, Mario! Princess Peach lässt es in ihrem Solo-Abenteuer ordentlich krachen
Princess Peach muss in ihrem Solo-Abenteuer für die Nintendo Switch in zahlreiche Rollen schlüpfen, um diverse Showbühnen vor bösen Wesen zu befreien. Auch wenn das Game viel zu schnell durch ist, wartet eine innige Spielspass-Explosion auf euch.

Princess Peach hat es nicht einfach: Immer wieder wird sie von Superschurke Bowser entführt und muss darauf warten, dass Super Mario sie befreit und zurück in ihr Schloss geleitet.

Zur Story