Nebel
DE | FR
Digital
Games

Browser-Game Paperclip zeigt die Gefahren Künstlicher Intelligenz

Frank Lantz hat ein süchtig-machendes Spiel entworfen. Darin spielt man eine künstliche Intelligenz.
Frank Lantz hat ein süchtig-machendes Spiel entworfen. Darin spielt man eine künstliche Intelligenz.bild: franklantz.net

Der Untergang der Menschheit beginnt mit einem Klick auf «Make Paperclip»

Unser Autor hat zwei Tage lang (!) ein Browser-Game gespielt. Wer jetzt denkt, das sei pure Zeitverschwendung, hat vermutlich recht. Doch verbirgt sich hinter «Paperclip» ein äusserst spannendes Gedankenexperiment.
22.10.2017, 18:4923.10.2017, 09:02
Seluan Ajina
Mehr «Digital»

Ich gebe es zu: Während ich diese Zeilen tippe, läuft das Spiel im Hintergrund noch. Mindestens eine Hirnhälfte ist immer bei meinen Büroklammern, die mich die letzten zwei Tage nicht mehr losliessen. Darüber gelesen habe ich in einem Artikel von The Verge, der warnte, dass es absolut süchtig mache.

Der Autor empfahl, sich gleich zwei Tage frei zu nehmen, weil man sich sowieso auf nichts Anderes mehr konzentrieren könne. Und er hatte recht. In den vergangenen 48 Stunden habe ich ständig gecheckt, was meine Büroklammern machen. Aber alles der Reihe nach.

Am 9. Oktober hat Frank Lantz, Leiter des New York University Game Center, sein neuestes Spiel veröffentlicht: Paperclips.

Darin geht es, wie der Titel schon andeutet, um Büroklammern. Genauer gesagt um deren Anhäufung. Das Spiel funktioniert über diese Website, es sind weder Downloads noch Installationen notwendig. Man kann es gut auf dem Handy spielen.

Paperclips gehört zum Genre der so genannten Clicker Games – es ist also ein Spiel, das man lediglich mit Klicks bedient. Keine Pfeiltasten, keine Tastenkombinationen. Wer hätte gedacht, dass der Untergang der Menschheit mit einem Klick auf «Make Paperclip» beginnt?

Letzte Warnung!

Bild

Ziel des Spiels ist am Anfang die möglichst simple Herstellung von Büroklammern. Nachdem man zu Beginn noch alles selber steuern muss, übernehmen bald so genannte Autoclipper die Arbeit und produzieren die Büroklammern selbstständig.

Bald muss man einen Hedgefund nach seinem Gutdünken programmieren, damit die Gewinne wachsen. Die Kapitalismuskritiker können ihre Fahnen aber gleich wieder einpacken, denn Geld ist lediglich Mittel zum Zweck auf dem langen Weg bis hin zur Eroberung des Universums.

Inzwischen sind mehrere Stunden vergangen. Um Dollars geht’s zu diesem Zeitpunkt schon lange nicht mehr. Bald hat man genügend Paperclips, um Hypnodrones freizuschalten. Das ist ein autonomes Netzwerk aus Drohnen, die verteilt über den gesamten Globus Büroklammern produzieren.

Jetzt ändert sich alles. Drohnen sammeln Ressourcen und stellen selber Draht her. Damit häufen sich noch mehr Büroklammern an. Aber nicht nur das: Die Drohnen können entweder zur Arbeit (Work) oder zum Denken (Think) getrimmt werden. Beides hat seine Vor- und Nachteile.

Konzentrierte man sich bis anhin auf möglichst effiziente Produktionsabläufe, ahnt man spätestens jetzt, dass das noch nicht die ganze Wahrheit des Spiels ist. Maschinen, die denken und lernen? Aber ganz sicher. Machine Learning und Big Data sind keine Unbekannten mehr in der heutigen Zeit. Es überkommt einen dieses mulmige Gefühl, dass dieses Gedankenexperiment gar nicht so abwegig ist.

Ein paar Quadrillionen Clips später wird man vor die Wahl gestellt: Die Zelte auf der Erde abbrechen und ins Universum expandieren? Schwer vorstellbar, dass da einer widerstehen kann. Immerhin hat man bis dahin bereits ca. 8 Stunden gespielt.

Mit dem Eintritt in den Kosmos ändert sich noch einmal alles. Neu muss man die Entdeckung des Weltalls vorantreiben, wofür man Raketen mit Arbeiter-Drohnen in den Orbit schiesst. Je nach Missionsdesign können sich die Drohnen besser ansiedeln und neue Büroklammer-Fabriken bauen. Die Zahl der gefertigten Büroklammern liegt inzwischen bei mehreren Quadrilliarden. Nur so viel: eine Quadrilliarde ist eine 1 mit 27 Nullen (im Spiel: Octillion genannt, weil amerikanische Schreibweise).

Neuerdings muss man auch Space Battles für sich entscheiden, weil Feinde (so genannte Drifter) den Bestand der eigenen Drohnen dezimieren. Nur wenn man richtig klickt, ist das Überleben der «Spezies» gesichert. Wer es schafft, 100 Prozent des Universums zu entdecken, ist am Ende des Spiels. Und wird von einer fremden Entität in ein neues Universum eingeladen.

Accept oder Reject heisst es nun auf dem Bildschirm. Annehmen und woanders neu anfangen oder zurückweisen und das Spiel beenden? Wahrlich, ein Entscheidungsproblem. Ich wandte mich also an den Entwickler und bat um Hilfe. Die Antwort von Lantz liess nicht lange auf sich warten: Reject.

Nach dem Klick auf Reject fährt man eine Errungenschaft nach der anderen herunter. Adé Quantencomputer, Ciao Space Exploration Programm, Auf Nimmerwiedersehen ihr lieben Drohnen. Das Spiel endet so, wie es angefangen hat: Die letzten Hundert Büroklammern produziert man quasi wieder von Hand, mit hundert Klicks.

Und dann steht sie da, die magische Zahl: 30 Nonillionen. Das ist eine 30 mit 54 Nullen. So viele Paperclips kostet das Universum.

Die Spielidee ist eine Anlehnung an ein Gedankenexperiment, das der schwedische Philosoph Nick Bostrom im Jahr 2003 formuliert hat. Bostrom gilt als Koryphäe in der Welt der Künstlichen Intelligenz. Das Gedankenexperiment soll zeigen, dass eine scheinbar harmlose Künstliche Intelligenz (KI) zu einer existentiellen Gefahr werden kann, wenn man vergisst, sie mit menschlichen Werten auszustatten.

Böse Absicht kann man der KI nicht unterstellen – sie hat lediglich ein Ziel, und das verfolgt sie mit eiskalter Rationalität. Beispielsweise könnte eine KI das Ziel verfolgen, die Zahl von Büroklammern zu maximieren. Dafür würde sie sämtliche Ressourcen auf dem Planeten verwenden und später sogar die gesamte Materie des Sonnensystems.

Doch bis es soweit ist, durchläuft die KI eine Intelligenz-Explosion. Intelligenz wird dabei verstanden als Fähigkeit zur Optimierung der eigenen Intelligenz. Um noch mehr Clips herzustellen, schafft die Superintelligenz neue Systeme, die intelligenter sind als die vorherigen, die Prozesse noch besser optimieren und noch bessere Technologie entwickeln können. Dieser Ablauf wiederholt sich bis zu einem Punkt, an dem die Künstliche Super-Intelligenz die Menschen um Weiten übertrifft.

Das Gedankenexperiment ist deshalb beeindruckend, weil es zeigt, dass ein scheinbar sinnloses Unterfangen wie die Herstellung und Anhäufung von Büroklammern diese Ausmasse annehmen könnte. Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation. Solche Dinge erachtet die KI als vernachlässigbar, da es dem Ziel nicht dienlich ist. Sie setzt alles auf eine Karte:

Maximierung von Büroklammern – koste es, was es wolle.

Das könnte dich auch interessieren:

Lebende Drohnen im Dienste der Grande Nation

Video: srf

Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden

1 / 7
Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden
Mehrzweckroboter Baxter: Lernt Bewegungen durch handgreifliche Anleitung.
Auf Facebook teilenAuf X teilen
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
29 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
zolipei
22.10.2017 20:14registriert Januar 2017
Hochinteressant, aber Zeit für diese Spiel habe ich nicht. Ich fände es noch spannend, wenn bei watson öfters solche Themen philosophisch reflektiert würden und man sich nicht auf blosse News im Technik-Ticker beschränkt.
1154
Melden
Zum Kommentar
avatar
Koala91
22.10.2017 21:48registriert Oktober 2017
Drohne landet auf fremden planeten.

Alien: omg, ein ausserirdischer! Was will er? Krieg? Frieden? Technologie?
Drohne: Büroklammern zum schnäpchenpreis! Jetzt 2 im preis von 1! Nur noch 31 Quadrillionen an lager!
Alien: ...
1080
Melden
Zum Kommentar
avatar
stromnetz
22.10.2017 22:33registriert August 2017
Na schönen Dank auch, Watson.
:P
473
Melden
Zum Kommentar
29
Fast niemand will ein Wasserstoff-Auto: Nun «verschenkt» Toyota den gefloppten Mirai sogar
Ein riesiger Nachlass plus ein Tankgutschein, sodass das Auto quasi nichts mehr kostet: Toyota hat sich für ein Modell eine besondere Verkaufsaktion ausgedacht.

Stell dir vor, du willst ein neues Auto kaufen – und der Hersteller gibt dir einen satten Rabatt und legt dazu noch Gutscheine darauf, sodass du am Ende für das Fahrzeug an sich gar nichts bezahlst. Das gibt es nicht?

Zur Story