Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Frank Lantz hat ein süchtig-machendes Spiel entworfen. Darin spielt man eine künstliche Intelligenz. bild: franklantz.net

Der Untergang der Menschheit beginnt mit einem Klick auf «Make Paperclip»

Unser Autor hat zwei Tage lang (!) ein Browser-Game gespielt. Wer jetzt denkt, das sei pure Zeitverschwendung, hat vermutlich recht. Doch verbirgt sich hinter «Paperclip» ein äusserst spannendes Gedankenexperiment.

Seluan Ajina



Ich gebe es zu: Während ich diese Zeilen tippe, läuft das Spiel im Hintergrund noch. Mindestens eine Hirnhälfte ist immer bei meinen Büroklammern, die mich die letzten zwei Tage nicht mehr losliessen. Darüber gelesen habe ich in einem Artikel von The Verge, der warnte, dass es absolut süchtig mache.

Der Autor empfahl, sich gleich zwei Tage frei zu nehmen, weil man sich sowieso auf nichts Anderes mehr konzentrieren könne. Und er hatte recht. In den vergangenen 48 Stunden habe ich ständig gecheckt, was meine Büroklammern machen. Aber alles der Reihe nach.

Am 9. Oktober hat Frank Lantz, Leiter des New York University Game Center, sein neuestes Spiel veröffentlicht: Paperclips.

Darin geht es, wie der Titel schon andeutet, um Büroklammern. Genauer gesagt um deren Anhäufung. Das Spiel funktioniert über diese Website, es sind weder Downloads noch Installationen notwendig. Man kann es gut auf dem Handy spielen.

Paperclips gehört zum Genre der so genannten Clicker Games – es ist also ein Spiel, das man lediglich mit Klicks bedient. Keine Pfeiltasten, keine Tastenkombinationen. Wer hätte gedacht, dass der Untergang der Menschheit mit einem Klick auf «Make Paperclip» beginnt?

Letzte Warnung!

Bild

screenshot: decisionproblem.com

Ziel des Spiels ist am Anfang die möglichst simple Herstellung von Büroklammern. Nachdem man zu Beginn noch alles selber steuern muss, übernehmen bald so genannte Autoclipper die Arbeit und produzieren die Büroklammern selbstständig.

Bald muss man einen Hedgefund nach seinem Gutdünken programmieren, damit die Gewinne wachsen. Die Kapitalismuskritiker können ihre Fahnen aber gleich wieder einpacken, denn Geld ist lediglich Mittel zum Zweck auf dem langen Weg bis hin zur Eroberung des Universums.

Inzwischen sind mehrere Stunden vergangen. Um Dollars geht’s zu diesem Zeitpunkt schon lange nicht mehr. Bald hat man genügend Paperclips, um Hypnodrones freizuschalten. Das ist ein autonomes Netzwerk aus Drohnen, die verteilt über den gesamten Globus Büroklammern produzieren.

Jetzt ändert sich alles. Drohnen sammeln Ressourcen und stellen selber Draht her. Damit häufen sich noch mehr Büroklammern an. Aber nicht nur das: Die Drohnen können entweder zur Arbeit (Work) oder zum Denken (Think) getrimmt werden. Beides hat seine Vor- und Nachteile.

Konzentrierte man sich bis anhin auf möglichst effiziente Produktionsabläufe, ahnt man spätestens jetzt, dass das noch nicht die ganze Wahrheit des Spiels ist. Maschinen, die denken und lernen? Aber ganz sicher. Machine Learning und Big Data sind keine Unbekannten mehr in der heutigen Zeit. Es überkommt einen dieses mulmige Gefühl, dass dieses Gedankenexperiment gar nicht so abwegig ist.

Ein paar Quadrillionen Clips später wird man vor die Wahl gestellt: Die Zelte auf der Erde abbrechen und ins Universum expandieren? Schwer vorstellbar, dass da einer widerstehen kann. Immerhin hat man bis dahin bereits ca. 8 Stunden gespielt.

Mit dem Eintritt in den Kosmos ändert sich noch einmal alles. Neu muss man die Entdeckung des Weltalls vorantreiben, wofür man Raketen mit Arbeiter-Drohnen in den Orbit schiesst. Je nach Missionsdesign können sich die Drohnen besser ansiedeln und neue Büroklammer-Fabriken bauen. Die Zahl der gefertigten Büroklammern liegt inzwischen bei mehreren Quadrilliarden. Nur so viel: eine Quadrilliarde ist eine 1 mit 27 Nullen (im Spiel: Octillion genannt, weil amerikanische Schreibweise).

Neuerdings muss man auch Space Battles für sich entscheiden, weil Feinde (so genannte Drifter) den Bestand der eigenen Drohnen dezimieren. Nur wenn man richtig klickt, ist das Überleben der «Spezies» gesichert. Wer es schafft, 100 Prozent des Universums zu entdecken, ist am Ende des Spiels. Und wird von einer fremden Entität in ein neues Universum eingeladen.

Accept oder Reject heisst es nun auf dem Bildschirm. Annehmen und woanders neu anfangen oder zurückweisen und das Spiel beenden? Wahrlich, ein Entscheidungsproblem. Ich wandte mich also an den Entwickler und bat um Hilfe. Die Antwort von Lantz liess nicht lange auf sich warten: Reject.

Nach dem Klick auf Reject fährt man eine Errungenschaft nach der anderen herunter. Adé Quantencomputer, Ciao Space Exploration Programm, Auf Nimmerwiedersehen ihr lieben Drohnen. Das Spiel endet so, wie es angefangen hat: Die letzten Hundert Büroklammern produziert man quasi wieder von Hand, mit hundert Klicks.

Und dann steht sie da, die magische Zahl: 30 Nonillionen. Das ist eine 30 mit 54 Nullen. So viele Paperclips kostet das Universum.

Die Spielidee ist eine Anlehnung an ein Gedankenexperiment, das der schwedische Philosoph Nick Bostrom im Jahr 2003 formuliert hat. Bostrom gilt als Koryphäe in der Welt der Künstlichen Intelligenz. Das Gedankenexperiment soll zeigen, dass eine scheinbar harmlose Künstliche Intelligenz (KI) zu einer existentiellen Gefahr werden kann, wenn man vergisst, sie mit menschlichen Werten auszustatten.

Böse Absicht kann man der KI nicht unterstellen – sie hat lediglich ein Ziel, und das verfolgt sie mit eiskalter Rationalität. Beispielsweise könnte eine KI das Ziel verfolgen, die Zahl von Büroklammern zu maximieren. Dafür würde sie sämtliche Ressourcen auf dem Planeten verwenden und später sogar die gesamte Materie des Sonnensystems.

Doch bis es soweit ist, durchläuft die KI eine Intelligenz-Explosion. Intelligenz wird dabei verstanden als Fähigkeit zur Optimierung der eigenen Intelligenz. Um noch mehr Clips herzustellen, schafft die Superintelligenz neue Systeme, die intelligenter sind als die vorherigen, die Prozesse noch besser optimieren und noch bessere Technologie entwickeln können. Dieser Ablauf wiederholt sich bis zu einem Punkt, an dem die Künstliche Super-Intelligenz die Menschen um Weiten übertrifft.

Das Gedankenexperiment ist deshalb beeindruckend, weil es zeigt, dass ein scheinbar sinnloses Unterfangen wie die Herstellung und Anhäufung von Büroklammern diese Ausmasse annehmen könnte. Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation. Solche Dinge erachtet die KI als vernachlässigbar, da es dem Ziel nicht dienlich ist. Sie setzt alles auf eine Karte:

Maximierung von Büroklammern – koste es, was es wolle.

Das könnte dich auch interessieren:

Lebende Drohnen im Dienste der Grande Nation

abspielen

Video: srf

Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden

«Ein Asiate in Hausschuhen? Das gibt Ärger!» – der Chef hat ein Finken-Problem

Link zum Artikel

So würde das Parlament aussehen, wenn nur die Romands wählen würden

Link zum Artikel

Die Reaktionen auf Fox News legen eine schonungslose Wahrheit über das Impeachment offen

Link zum Artikel

«The Game Changers» – haben wir uns ein Leben lang falsch ernährt?

Link zum Artikel

Das Drama um Klein-Anna: Trennungsschmerz on fleek

Link zum Artikel

Heute kochen wir einen französischen Dreigänger. Weil Herbst. Und weil geil.

Link zum Artikel

Picdump. Spass. Jetzt.

Link zum Artikel

Katze zu fett für die Passagier-Kabine im Flugzeug – Besitzer trickst Airline aus

Link zum Artikel

Das will die Mikrosteuer-Intiative – das Wichtigste in 5 Punkten

Link zum Artikel

Kritik an Federer-Fans wegen Applaus bei Doppelfehlern: «Das hat Djokovic nicht verdient»

Link zum Artikel

Diese 17-Jährige bezwingt die AfD. Eine Vorweihnachts-Geschichte, die ans Herz geht

Link zum Artikel

Darum macht sich Christian Levrat keine Sorgen wegen den erstarkten Grünen

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

«Ein Asiate in Hausschuhen? Das gibt Ärger!» – der Chef hat ein Finken-Problem

72
Link zum Artikel

So würde das Parlament aussehen, wenn nur die Romands wählen würden

99
Link zum Artikel

Die Reaktionen auf Fox News legen eine schonungslose Wahrheit über das Impeachment offen

84
Link zum Artikel

«The Game Changers» – haben wir uns ein Leben lang falsch ernährt?

341
Link zum Artikel

Das Drama um Klein-Anna: Trennungsschmerz on fleek

167
Link zum Artikel

Heute kochen wir einen französischen Dreigänger. Weil Herbst. Und weil geil.

48
Link zum Artikel

Picdump. Spass. Jetzt.

220
Link zum Artikel

Katze zu fett für die Passagier-Kabine im Flugzeug – Besitzer trickst Airline aus

48
Link zum Artikel

Das will die Mikrosteuer-Intiative – das Wichtigste in 5 Punkten

141
Link zum Artikel

Kritik an Federer-Fans wegen Applaus bei Doppelfehlern: «Das hat Djokovic nicht verdient»

31
Link zum Artikel

Diese 17-Jährige bezwingt die AfD. Eine Vorweihnachts-Geschichte, die ans Herz geht

107
Link zum Artikel

Darum macht sich Christian Levrat keine Sorgen wegen den erstarkten Grünen

35
Link zum Artikel

Das könnte dich auch interessieren:

«Ein Asiate in Hausschuhen? Das gibt Ärger!» – der Chef hat ein Finken-Problem

72
Link zum Artikel

So würde das Parlament aussehen, wenn nur die Romands wählen würden

99
Link zum Artikel

Die Reaktionen auf Fox News legen eine schonungslose Wahrheit über das Impeachment offen

84
Link zum Artikel

«The Game Changers» – haben wir uns ein Leben lang falsch ernährt?

341
Link zum Artikel

Das Drama um Klein-Anna: Trennungsschmerz on fleek

167
Link zum Artikel

Heute kochen wir einen französischen Dreigänger. Weil Herbst. Und weil geil.

48
Link zum Artikel

Picdump. Spass. Jetzt.

220
Link zum Artikel

Katze zu fett für die Passagier-Kabine im Flugzeug – Besitzer trickst Airline aus

48
Link zum Artikel

Das will die Mikrosteuer-Intiative – das Wichtigste in 5 Punkten

141
Link zum Artikel

Kritik an Federer-Fans wegen Applaus bei Doppelfehlern: «Das hat Djokovic nicht verdient»

31
Link zum Artikel

Diese 17-Jährige bezwingt die AfD. Eine Vorweihnachts-Geschichte, die ans Herz geht

107
Link zum Artikel

Darum macht sich Christian Levrat keine Sorgen wegen den erstarkten Grünen

35
Link zum Artikel

Abonniere unseren Newsletter

30
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
30Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • AfterEightUmViertelVorAchtEsser___________________ 25.10.2017 15:35
    Highlight Highlight So ein Mist, jetzt habe ich das komplette Universum in Büroklammern umgewandelt. Und wo sollen wir jetzt leben?
  • Pasch 24.10.2017 00:04
    Highlight Highlight Und dann fängts wieder von vorne im Paralleluniversum an aaaaahhhhhhhhhhhhh 😂
  • Freddie 23.10.2017 19:48
    Highlight Highlight Egg Inc ist etwa auch so ein spiel. Total sinnlos, macht aber unheimlich süchtig. Vor allem wenn man mit freunden um die wette spielt....
  • Siebenstein 23.10.2017 15:21
    Highlight Highlight Aaaaarrrrghhhh!😂
  • Herren 23.10.2017 14:00
    Highlight Highlight Danke, Watson. Gestern Abend um halb acht begonnen, um 2 ins Bett, heute in der Mittagspause war ich durch. Sehr interessant, aber wer gibt mir den verlorenen halben Tag zurück?
  • fischbrot 23.10.2017 13:29
    Highlight Highlight Was ich absolut nicht verstehe, ist das strategic modeling.. kann mir das jemand in einfachen Worten erklären?
    • LandeiStudi 23.10.2017 17:53
      Highlight Highlight Es sind immer spieltheoretische probleme du musst die Strategie wählen bei der du am gewinnst
  • You will not be able to use your remote control. 23.10.2017 08:56
    Highlight Highlight 'Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation.'

    Wie soll ein Algorithmus Werte berücksichtigen?
    • Flexon 23.10.2017 19:23
      Highlight Highlight Du wirst garantiert noch staunen, was Algorithmen alles können werden.

  • Weasel 23.10.2017 08:41
    Highlight Highlight „Watson ruined my life...“
    -Weasel
  • Theor 23.10.2017 08:03
    Highlight Highlight Klingt vom System gleich wie die ganzen "Idle"-Games, die man seit paar Monaten/Jahren auf Google Play Store runterladen kann.

    Ich habe selber mal eines gespielt, das hiess Idle Miner Tycoon glaubs. Da gings im wesentlichen auch nur drum, immer absurdere Menge an Erzen zu fördern. Am Anfang überwacht man noch alles selber, stellt dann aber nach und nach NPCs ein, welche das ganze überwachen. Macht zwei-drei Tage Spass, aber dann war bei mir die Luft raus.
  • blablup 23.10.2017 00:32
    Highlight Highlight Ich kann zwar euch die Schuld nicht geben, aber: Ich habe es durchgespielt und trotz der teilweisen Monotonie war es interessant (und es kann auch gut eine weile im Hintergrund laufen)
  • seventhinkingsteps 23.10.2017 00:08
    Highlight Highlight Ich habs nach 30 Sekunden wieder zu gemacht weil ichs nicht verstanden habe. Bin ich zu blöd dafür oder sehe ich einfach den Reiz daran nicht?
  • stromnetz 22.10.2017 22:33
    Highlight Highlight Na schönen Dank auch, Watson.
    :P
  • Shin Kami 22.10.2017 22:31
    Highlight Highlight Teste mal Cookie clicker.
  • derEchteElch 22.10.2017 22:24
    Highlight Highlight Hallo Ajina; wenn dir morgen auch wieder langweilig ist, probier doch mal folgendes;

    http://agar.io 😉
  • panaap 22.10.2017 21:51
    Highlight Highlight Super.... Wieso habe ich angefangen 🙄
  • Koala91 22.10.2017 21:48
    Highlight Highlight Drohne landet auf fremden planeten.

    Alien: omg, ein ausserirdischer! Was will er? Krieg? Frieden? Technologie?
    Drohne: Büroklammern zum schnäpchenpreis! Jetzt 2 im preis von 1! Nur noch 31 Quadrillionen an lager!
    Alien: ...
  • zolipei 22.10.2017 20:14
    Highlight Highlight Hochinteressant, aber Zeit für diese Spiel habe ich nicht. Ich fände es noch spannend, wenn bei watson öfters solche Themen philosophisch reflektiert würden und man sich nicht auf blosse News im Technik-Ticker beschränkt.
  • Slant 22.10.2017 20:05
    Highlight Highlight Viel ein besseres Spiel findet ihr hier :-)

    https://dogeminer.se/
  • Denk-mal 22.10.2017 19:39
    Highlight Highlight Entwicklelt mal ein Spiel, wenn folgendes passiert und es wird passieren: Uns fehlt plötzlich der Phosphor, (Ernährung) das Oel, (Schmierstoff für die Weltwirtschaft) der Sand, der Kupfer, das Eisenerz, Tantal + Indium, ohne die beiden Elemente läuft/gibt es kein Handy. Dieses Spiel würde ich kaufen!
    • Telomerase 22.10.2017 22:25
      Highlight Highlight Was genau muss der Spieler dann machen um zu gewinnen?
    • blablup 23.10.2017 00:35
      Highlight Highlight ALLE MENSCHEN VERNICHTEN! Oder nicht? :-)
  • KAMPFPANZER 22.10.2017 19:35
    Highlight Highlight Habe ich das richtig verstanden? Ein game wie "Cookie Clicker" (oder ähnliche) einfach mit neuem Thema?
    • Flexon 22.10.2017 22:27
      Highlight Highlight @ Kampfpanzer
      Du hast das Buch von Nick Bostrom nicht gelesen, stimmts?
    • KAMPFPANZER 23.10.2017 09:14
      Highlight Highlight Das stimmt, jedoch denke ich dass die Spielidee nicht auf das Buch agestimmt wurde sondern das Thema des Buchs einfach auf das "clicker-genre" umgemünzt wurde.
  • Denk-mal 22.10.2017 19:30
    Highlight Highlight Entwickle mal ein Spiel
  • ingmarbergman 22.10.2017 19:04
    Highlight Highlight 48h - jeeez!?
    ich hatte es in knapp 4 stunden durch und ich denke, wenn man es konzentriert spielt, geht es noch schneller..
    • blablup 23.10.2017 00:36
      Highlight Highlight Ja, die richtige Wahl der Weiterentwicklung kürzt das Spiel extrem ab
  • desmond_der_mondbaer 22.10.2017 18:55
    Highlight Highlight Versuchs mal mit „Coockie Clicker“. Equivalente Idee.

Das neue Modern Warfare ist grossartig, aber ...

Infinity Ward und Activision haben vor einer Woche das neue Call of Duty: Modern Warfare herausgegeben. Das Spiel hat im Vorfeld grosse Erwartungen geweckt, dabei tritt es sowieso schon ein grosses Erbe an. Kann das neue CoD dennoch überzeugen?

Letzte Woche war ich noch misstrauisch. Meine Hauptsorge gegenüber dem neuen CoD galt besonders dem ewigen Hin und Her zwischen grossen Versprechungen und der darauffolgenden Enttäuschung in Form von Pay-to-Win und Lootboxen.

Mittlerweile habe ich das Spiel etwa 10 Stunden gespielt und mich sowohl im Einzelspieler wie auch im Multiplayer ausgetobt. Dabei bin auch auf sehr viel Gutes gestossen, einen Wermutstropfen gibt es aber trotzdem.

Hier noch kurz eine Spoilerwarnung. Ich bemühe mich, …

Artikel lesen
Link zum Artikel