Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Frank Lantz hat ein süchtig-machendes Spiel entworfen. Darin spielt man eine künstliche Intelligenz. bild: franklantz.net

Der Untergang der Menschheit beginnt mit einem Klick auf «Make Paperclip»

Unser Autor hat zwei Tage lang (!) ein Browser-Game gespielt. Wer jetzt denkt, das sei pure Zeitverschwendung, hat vermutlich recht. Doch verbirgt sich hinter «Paperclip» ein äusserst spannendes Gedankenexperiment.

Seluan Ajina



Ich gebe es zu: Während ich diese Zeilen tippe, läuft das Spiel im Hintergrund noch. Mindestens eine Hirnhälfte ist immer bei meinen Büroklammern, die mich die letzten zwei Tage nicht mehr losliessen. Darüber gelesen habe ich in einem Artikel von The Verge, der warnte, dass es absolut süchtig mache.

Der Autor empfahl, sich gleich zwei Tage frei zu nehmen, weil man sich sowieso auf nichts Anderes mehr konzentrieren könne. Und er hatte recht. In den vergangenen 48 Stunden habe ich ständig gecheckt, was meine Büroklammern machen. Aber alles der Reihe nach.

Am 9. Oktober hat Frank Lantz, Leiter des New York University Game Center, sein neuestes Spiel veröffentlicht: Paperclips.

Darin geht es, wie der Titel schon andeutet, um Büroklammern. Genauer gesagt um deren Anhäufung. Das Spiel funktioniert über diese Website, es sind weder Downloads noch Installationen notwendig. Man kann es gut auf dem Handy spielen.

Paperclips gehört zum Genre der so genannten Clicker Games – es ist also ein Spiel, das man lediglich mit Klicks bedient. Keine Pfeiltasten, keine Tastenkombinationen. Wer hätte gedacht, dass der Untergang der Menschheit mit einem Klick auf «Make Paperclip» beginnt?

Letzte Warnung!

Bild

screenshot: decisionproblem.com

Ziel des Spiels ist am Anfang die möglichst simple Herstellung von Büroklammern. Nachdem man zu Beginn noch alles selber steuern muss, übernehmen bald so genannte Autoclipper die Arbeit und produzieren die Büroklammern selbstständig.

Bald muss man einen Hedgefund nach seinem Gutdünken programmieren, damit die Gewinne wachsen. Die Kapitalismuskritiker können ihre Fahnen aber gleich wieder einpacken, denn Geld ist lediglich Mittel zum Zweck auf dem langen Weg bis hin zur Eroberung des Universums.

Inzwischen sind mehrere Stunden vergangen. Um Dollars geht’s zu diesem Zeitpunkt schon lange nicht mehr. Bald hat man genügend Paperclips, um Hypnodrones freizuschalten. Das ist ein autonomes Netzwerk aus Drohnen, die verteilt über den gesamten Globus Büroklammern produzieren.

Jetzt ändert sich alles. Drohnen sammeln Ressourcen und stellen selber Draht her. Damit häufen sich noch mehr Büroklammern an. Aber nicht nur das: Die Drohnen können entweder zur Arbeit (Work) oder zum Denken (Think) getrimmt werden. Beides hat seine Vor- und Nachteile.

Konzentrierte man sich bis anhin auf möglichst effiziente Produktionsabläufe, ahnt man spätestens jetzt, dass das noch nicht die ganze Wahrheit des Spiels ist. Maschinen, die denken und lernen? Aber ganz sicher. Machine Learning und Big Data sind keine Unbekannten mehr in der heutigen Zeit. Es überkommt einen dieses mulmige Gefühl, dass dieses Gedankenexperiment gar nicht so abwegig ist.

Ein paar Quadrillionen Clips später wird man vor die Wahl gestellt: Die Zelte auf der Erde abbrechen und ins Universum expandieren? Schwer vorstellbar, dass da einer widerstehen kann. Immerhin hat man bis dahin bereits ca. 8 Stunden gespielt.

Mit dem Eintritt in den Kosmos ändert sich noch einmal alles. Neu muss man die Entdeckung des Weltalls vorantreiben, wofür man Raketen mit Arbeiter-Drohnen in den Orbit schiesst. Je nach Missionsdesign können sich die Drohnen besser ansiedeln und neue Büroklammer-Fabriken bauen. Die Zahl der gefertigten Büroklammern liegt inzwischen bei mehreren Quadrilliarden. Nur so viel: eine Quadrilliarde ist eine 1 mit 27 Nullen (im Spiel: Octillion genannt, weil amerikanische Schreibweise).

Neuerdings muss man auch Space Battles für sich entscheiden, weil Feinde (so genannte Drifter) den Bestand der eigenen Drohnen dezimieren. Nur wenn man richtig klickt, ist das Überleben der «Spezies» gesichert. Wer es schafft, 100 Prozent des Universums zu entdecken, ist am Ende des Spiels. Und wird von einer fremden Entität in ein neues Universum eingeladen.

Accept oder Reject heisst es nun auf dem Bildschirm. Annehmen und woanders neu anfangen oder zurückweisen und das Spiel beenden? Wahrlich, ein Entscheidungsproblem. Ich wandte mich also an den Entwickler und bat um Hilfe. Die Antwort von Lantz liess nicht lange auf sich warten: Reject.

Nach dem Klick auf Reject fährt man eine Errungenschaft nach der anderen herunter. Adé Quantencomputer, Ciao Space Exploration Programm, Auf Nimmerwiedersehen ihr lieben Drohnen. Das Spiel endet so, wie es angefangen hat: Die letzten Hundert Büroklammern produziert man quasi wieder von Hand, mit hundert Klicks.

Und dann steht sie da, die magische Zahl: 30 Nonillionen. Das ist eine 30 mit 54 Nullen. So viele Paperclips kostet das Universum.

Die Spielidee ist eine Anlehnung an ein Gedankenexperiment, das der schwedische Philosoph Nick Bostrom im Jahr 2003 formuliert hat. Bostrom gilt als Koryphäe in der Welt der Künstlichen Intelligenz. Das Gedankenexperiment soll zeigen, dass eine scheinbar harmlose Künstliche Intelligenz (KI) zu einer existentiellen Gefahr werden kann, wenn man vergisst, sie mit menschlichen Werten auszustatten.

Böse Absicht kann man der KI nicht unterstellen – sie hat lediglich ein Ziel, und das verfolgt sie mit eiskalter Rationalität. Beispielsweise könnte eine KI das Ziel verfolgen, die Zahl von Büroklammern zu maximieren. Dafür würde sie sämtliche Ressourcen auf dem Planeten verwenden und später sogar die gesamte Materie des Sonnensystems.

Doch bis es soweit ist, durchläuft die KI eine Intelligenz-Explosion. Intelligenz wird dabei verstanden als Fähigkeit zur Optimierung der eigenen Intelligenz. Um noch mehr Clips herzustellen, schafft die Superintelligenz neue Systeme, die intelligenter sind als die vorherigen, die Prozesse noch besser optimieren und noch bessere Technologie entwickeln können. Dieser Ablauf wiederholt sich bis zu einem Punkt, an dem die Künstliche Super-Intelligenz die Menschen um Weiten übertrifft.

Das Gedankenexperiment ist deshalb beeindruckend, weil es zeigt, dass ein scheinbar sinnloses Unterfangen wie die Herstellung und Anhäufung von Büroklammern diese Ausmasse annehmen könnte. Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation. Solche Dinge erachtet die KI als vernachlässigbar, da es dem Ziel nicht dienlich ist. Sie setzt alles auf eine Karte:

Maximierung von Büroklammern – koste es, was es wolle.

Das könnte dich auch interessieren:

Lebende Drohnen im Dienste der Grande Nation

abspielen

Video: srf

Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden

15 Bilder, die zeigen, wie wunderschön und gleichzeitig brutal die Natur ist

Link zum Artikel

Wie gut kennst du dich in der Schweiz aus? Diese 11 Rätsel zeigen es dir

Link zum Artikel

«Ich hatte Sex mit dem Ex meiner besten Freundin…»

Link zum Artikel

Eine Untergrund-Industrie plündert Banking-Apps wie Revolut – so gehen die Betrüger vor

Link zum Artikel

«Informiert euch!»: Greta liest den Amerikanern bei Trevor Noah die Leviten

Link zum Artikel

Migros Aare baut rund 300 Arbeitsplätze ab

Link zum Artikel

Alles, was du über die neuen iPhones und den «Netflix-Killer» von Apple wissen musst

Link zum Artikel

Warum wir bald wieder über den Schweizer Pass reden werden

Link zum Artikel

Keine Angst vor Freitag, dem 13.! Diese 13 Menschen haben bereits alles Pech aufgebraucht

Link zum Artikel

So erklärt das OK der Hockey-WM in der Schweiz die Ähnlichkeit zum Tim-Hortons-Spot

Link zum Artikel

Matheproblem um die Zahl 42 geknackt

Link zum Artikel

«Ich bin … wie soll ich es sagen … so ein bisschen ein Arschloch-Spieler»

Link zum Artikel

«In der Schweiz gibt es zu viel Old Money und zu wenig Smart Money»

Link zum Artikel

Shaqiri? Xhaka? Von wegen! Zwei Torhüter sind die besten Schweizer bei «FIFA 20»

Link zum Artikel

Die amerikanische Agentin, die Frankreichs Résistance aufbaute

Link zum Artikel

YB droht Bickel mit Gericht, nachdem er als Sportchef 40 Mio. verlochte

Link zum Artikel

So schneiden die Politiker im Franz-Test ab – wärst du besser?

Link zum Artikel

CVP fährt grosse Negativ-Kampagne gegen andere Parteien – die Reaktionen sind heftig

Link zum Artikel

Röstigraben im Bundeshaus: «Sobald ich auf Deutsch wechsle, sinkt der Lärm um 10 Dezibel»

Link zum Artikel

Die Geschichte von «Ausbrecherkönig» Walter Stürm und seinem traurigen Ende

Link zum Artikel

Der Kampf einer indonesischen Insel gegen den Plastik

Link zum Artikel

Wo du in dieser Saison Champions League und Europa League sehen kannst

Link zum Artikel
Alle Artikel anzeigen

Abonniere unseren Newsletter

30
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
30Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Hallo I bims. Ein AfterEightUmViertelVorAchtEsser 25.10.2017 15:35
    Highlight Highlight So ein Mist, jetzt habe ich das komplette Universum in Büroklammern umgewandelt. Und wo sollen wir jetzt leben?
  • Pasch 24.10.2017 00:04
    Highlight Highlight Und dann fängts wieder von vorne im Paralleluniversum an aaaaahhhhhhhhhhhhh 😂
  • Freddie 23.10.2017 19:48
    Highlight Highlight Egg Inc ist etwa auch so ein spiel. Total sinnlos, macht aber unheimlich süchtig. Vor allem wenn man mit freunden um die wette spielt....
  • Siebenstein 23.10.2017 15:21
    Highlight Highlight Aaaaarrrrghhhh!😂
  • Herren 23.10.2017 14:00
    Highlight Highlight Danke, Watson. Gestern Abend um halb acht begonnen, um 2 ins Bett, heute in der Mittagspause war ich durch. Sehr interessant, aber wer gibt mir den verlorenen halben Tag zurück?
  • fischbrot 23.10.2017 13:29
    Highlight Highlight Was ich absolut nicht verstehe, ist das strategic modeling.. kann mir das jemand in einfachen Worten erklären?
    • LandeiStudi 23.10.2017 17:53
      Highlight Highlight Es sind immer spieltheoretische probleme du musst die Strategie wählen bei der du am gewinnst
  • You will not be able to use your remote control. 23.10.2017 08:56
    Highlight Highlight 'Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation.'

    Wie soll ein Algorithmus Werte berücksichtigen?
    • Flexon 23.10.2017 19:23
      Highlight Highlight Du wirst garantiert noch staunen, was Algorithmen alles können werden.

  • Weasel 23.10.2017 08:41
    Highlight Highlight „Watson ruined my life...“
    -Weasel
  • Theor 23.10.2017 08:03
    Highlight Highlight Klingt vom System gleich wie die ganzen "Idle"-Games, die man seit paar Monaten/Jahren auf Google Play Store runterladen kann.

    Ich habe selber mal eines gespielt, das hiess Idle Miner Tycoon glaubs. Da gings im wesentlichen auch nur drum, immer absurdere Menge an Erzen zu fördern. Am Anfang überwacht man noch alles selber, stellt dann aber nach und nach NPCs ein, welche das ganze überwachen. Macht zwei-drei Tage Spass, aber dann war bei mir die Luft raus.
  • blablup 23.10.2017 00:32
    Highlight Highlight Ich kann zwar euch die Schuld nicht geben, aber: Ich habe es durchgespielt und trotz der teilweisen Monotonie war es interessant (und es kann auch gut eine weile im Hintergrund laufen)
  • seventhinkingsteps 23.10.2017 00:08
    Highlight Highlight Ich habs nach 30 Sekunden wieder zu gemacht weil ichs nicht verstanden habe. Bin ich zu blöd dafür oder sehe ich einfach den Reiz daran nicht?
  • stromnetz 22.10.2017 22:33
    Highlight Highlight Na schönen Dank auch, Watson.
    :P
  • Shin Kami 22.10.2017 22:31
    Highlight Highlight Teste mal Cookie clicker.
  • derEchteElch 22.10.2017 22:24
    Highlight Highlight Hallo Ajina; wenn dir morgen auch wieder langweilig ist, probier doch mal folgendes;

    http://agar.io 😉
  • panaap 22.10.2017 21:51
    Highlight Highlight Super.... Wieso habe ich angefangen 🙄
  • Koala91 22.10.2017 21:48
    Highlight Highlight Drohne landet auf fremden planeten.

    Alien: omg, ein ausserirdischer! Was will er? Krieg? Frieden? Technologie?
    Drohne: Büroklammern zum schnäpchenpreis! Jetzt 2 im preis von 1! Nur noch 31 Quadrillionen an lager!
    Alien: ...
  • zolipei 22.10.2017 20:14
    Highlight Highlight Hochinteressant, aber Zeit für diese Spiel habe ich nicht. Ich fände es noch spannend, wenn bei watson öfters solche Themen philosophisch reflektiert würden und man sich nicht auf blosse News im Technik-Ticker beschränkt.
  • Slant 22.10.2017 20:05
    Highlight Highlight Viel ein besseres Spiel findet ihr hier :-)

    https://dogeminer.se/
  • Denk-mal 22.10.2017 19:39
    Highlight Highlight Entwicklelt mal ein Spiel, wenn folgendes passiert und es wird passieren: Uns fehlt plötzlich der Phosphor, (Ernährung) das Oel, (Schmierstoff für die Weltwirtschaft) der Sand, der Kupfer, das Eisenerz, Tantal + Indium, ohne die beiden Elemente läuft/gibt es kein Handy. Dieses Spiel würde ich kaufen!
    • Telomerase 22.10.2017 22:25
      Highlight Highlight Was genau muss der Spieler dann machen um zu gewinnen?
    • blablup 23.10.2017 00:35
      Highlight Highlight ALLE MENSCHEN VERNICHTEN! Oder nicht? :-)
  • KAMPFPANZER 22.10.2017 19:35
    Highlight Highlight Habe ich das richtig verstanden? Ein game wie "Cookie Clicker" (oder ähnliche) einfach mit neuem Thema?
    • Flexon 22.10.2017 22:27
      Highlight Highlight @ Kampfpanzer
      Du hast das Buch von Nick Bostrom nicht gelesen, stimmts?
    • KAMPFPANZER 23.10.2017 09:14
      Highlight Highlight Das stimmt, jedoch denke ich dass die Spielidee nicht auf das Buch agestimmt wurde sondern das Thema des Buchs einfach auf das "clicker-genre" umgemünzt wurde.
  • Denk-mal 22.10.2017 19:30
    Highlight Highlight Entwickle mal ein Spiel
  • ingmarbergman 22.10.2017 19:04
    Highlight Highlight 48h - jeeez!?
    ich hatte es in knapp 4 stunden durch und ich denke, wenn man es konzentriert spielt, geht es noch schneller..
    • blablup 23.10.2017 00:36
      Highlight Highlight Ja, die richtige Wahl der Weiterentwicklung kürzt das Spiel extrem ab
  • desmond_der_mondbaer 22.10.2017 18:55
    Highlight Highlight Versuchs mal mit „Coockie Clicker“. Equivalente Idee.

Google enthüllt riesige Hacker-Attacke gegen iPhone-Nutzer – steckt China dahinter?

Apple-Nutzer sind über Jahre hinweg unbemerkt von Hackern attackiert worden. Sie wurden auf manipulierte Webseiten gelockt, wo ihre Geräte heimlich mit Malware infiziert und anschliessend ausgespäht wurden. Einiges deutet auf eine gezielte Kampagne gegen Minderheiten hin.

IT-Sicherheitsforscher von Google haben über ein Dutzend - inzwischen geschlossene - Schwachstellen in der Software von Apples iPhones entdeckt, über die alle möglichen privaten Daten abgegriffen werden konnten. Das Nachrichtenportal Spiegel Online spekuliert, dass es sich um «den bisher massivsten Hack von iPhones» handeln könnte.

So seien die Angreifer unter anderem in der Lage gewesen, den aktuellen Aufenthaltsort der Nutzer zu verfolgen sowie Fotos und Kontakte zu kopieren. Die Angreifer …

Artikel lesen
Link zum Artikel