Ich gebe es zu: Während ich diese Zeilen tippe, läuft das Spiel im Hintergrund noch. Mindestens eine Hirnhälfte ist immer bei meinen Büroklammern, die mich die letzten zwei Tage nicht mehr losliessen. Darüber gelesen habe ich in einem Artikel von The Verge, der warnte, dass es absolut süchtig mache.
Der Autor empfahl, sich gleich zwei Tage frei zu nehmen, weil man sich sowieso auf nichts Anderes mehr konzentrieren könne. Und er hatte recht. In den vergangenen 48 Stunden habe ich ständig gecheckt, was meine Büroklammern machen. Aber alles der Reihe nach.
Am 9. Oktober hat Frank Lantz, Leiter des New York University Game Center, sein neuestes Spiel veröffentlicht: Paperclips.
My new game, in which you play an AI who makes paperclips: https://t.co/KAEIvW6usc pic.twitter.com/AjItc7DhX1
— Frank Lantz (@flantz) 9. Oktober 2017
Darin geht es, wie der Titel schon andeutet, um Büroklammern. Genauer gesagt um deren Anhäufung. Das Spiel funktioniert über diese Website, es sind weder Downloads noch Installationen notwendig. Man kann es gut auf dem Handy spielen.
Paperclips gehört zum Genre der so genannten Clicker Games – es ist also ein Spiel, das man lediglich mit Klicks bedient. Keine Pfeiltasten, keine Tastenkombinationen. Wer hätte gedacht, dass der Untergang der Menschheit mit einem Klick auf «Make Paperclip» beginnt?
Ziel des Spiels ist am Anfang die möglichst simple Herstellung von Büroklammern. Nachdem man zu Beginn noch alles selber steuern muss, übernehmen bald so genannte Autoclipper die Arbeit und produzieren die Büroklammern selbstständig.
Bald muss man einen Hedgefund nach seinem Gutdünken programmieren, damit die Gewinne wachsen. Die Kapitalismuskritiker können ihre Fahnen aber gleich wieder einpacken, denn Geld ist lediglich Mittel zum Zweck auf dem langen Weg bis hin zur Eroberung des Universums.
Inzwischen sind mehrere Stunden vergangen. Um Dollars geht’s zu diesem Zeitpunkt schon lange nicht mehr. Bald hat man genügend Paperclips, um Hypnodrones freizuschalten. Das ist ein autonomes Netzwerk aus Drohnen, die verteilt über den gesamten Globus Büroklammern produzieren.
Jetzt ändert sich alles. Drohnen sammeln Ressourcen und stellen selber Draht her. Damit häufen sich noch mehr Büroklammern an. Aber nicht nur das: Die Drohnen können entweder zur Arbeit (Work) oder zum Denken (Think) getrimmt werden. Beides hat seine Vor- und Nachteile.
Konzentrierte man sich bis anhin auf möglichst effiziente Produktionsabläufe, ahnt man spätestens jetzt, dass das noch nicht die ganze Wahrheit des Spiels ist. Maschinen, die denken und lernen? Aber ganz sicher. Machine Learning und Big Data sind keine Unbekannten mehr in der heutigen Zeit. Es überkommt einen dieses mulmige Gefühl, dass dieses Gedankenexperiment gar nicht so abwegig ist.
Ein paar Quadrillionen Clips später wird man vor die Wahl gestellt: Die Zelte auf der Erde abbrechen und ins Universum expandieren? Schwer vorstellbar, dass da einer widerstehen kann. Immerhin hat man bis dahin bereits ca. 8 Stunden gespielt.
Mit dem Eintritt in den Kosmos ändert sich noch einmal alles. Neu muss man die Entdeckung des Weltalls vorantreiben, wofür man Raketen mit Arbeiter-Drohnen in den Orbit schiesst. Je nach Missionsdesign können sich die Drohnen besser ansiedeln und neue Büroklammer-Fabriken bauen. Die Zahl der gefertigten Büroklammern liegt inzwischen bei mehreren Quadrilliarden. Nur so viel: eine Quadrilliarde ist eine 1 mit 27 Nullen (im Spiel: Octillion genannt, weil amerikanische Schreibweise).
Neuerdings muss man auch Space Battles für sich entscheiden, weil Feinde (so genannte Drifter) den Bestand der eigenen Drohnen dezimieren. Nur wenn man richtig klickt, ist das Überleben der «Spezies» gesichert. Wer es schafft, 100 Prozent des Universums zu entdecken, ist am Ende des Spiels. Und wird von einer fremden Entität in ein neues Universum eingeladen.
Accept oder Reject heisst es nun auf dem Bildschirm. Annehmen und woanders neu anfangen oder zurückweisen und das Spiel beenden? Wahrlich, ein Entscheidungsproblem. Ich wandte mich also an den Entwickler und bat um Hilfe. Die Antwort von Lantz liess nicht lange auf sich warten: Reject.
Nach dem Klick auf Reject fährt man eine Errungenschaft nach der anderen herunter. Adé Quantencomputer, Ciao Space Exploration Programm, Auf Nimmerwiedersehen ihr lieben Drohnen. Das Spiel endet so, wie es angefangen hat: Die letzten Hundert Büroklammern produziert man quasi wieder von Hand, mit hundert Klicks.
Die Spielidee ist eine Anlehnung an ein Gedankenexperiment, das der schwedische Philosoph Nick Bostrom im Jahr 2003 formuliert hat. Bostrom gilt als Koryphäe in der Welt der Künstlichen Intelligenz. Das Gedankenexperiment soll zeigen, dass eine scheinbar harmlose Künstliche Intelligenz (KI) zu einer existentiellen Gefahr werden kann, wenn man vergisst, sie mit menschlichen Werten auszustatten.
Böse Absicht kann man der KI nicht unterstellen – sie hat lediglich ein Ziel, und das verfolgt sie mit eiskalter Rationalität. Beispielsweise könnte eine KI das Ziel verfolgen, die Zahl von Büroklammern zu maximieren. Dafür würde sie sämtliche Ressourcen auf dem Planeten verwenden und später sogar die gesamte Materie des Sonnensystems.
Doch bis es soweit ist, durchläuft die KI eine Intelligenz-Explosion. Intelligenz wird dabei verstanden als Fähigkeit zur Optimierung der eigenen Intelligenz. Um noch mehr Clips herzustellen, schafft die Superintelligenz neue Systeme, die intelligenter sind als die vorherigen, die Prozesse noch besser optimieren und noch bessere Technologie entwickeln können. Dieser Ablauf wiederholt sich bis zu einem Punkt, an dem die Künstliche Super-Intelligenz die Menschen um Weiten übertrifft.
Das Gedankenexperiment ist deshalb beeindruckend, weil es zeigt, dass ein scheinbar sinnloses Unterfangen wie die Herstellung und Anhäufung von Büroklammern diese Ausmasse annehmen könnte. Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation. Solche Dinge erachtet die KI als vernachlässigbar, da es dem Ziel nicht dienlich ist. Sie setzt alles auf eine Karte: