Wie KI die Menschheit auslöschen könnte – 6 Szenarien
Lange wurde künstliche Intelligenz (KI) belächelt – doch dann kam ChatGPT. Seit die Firma OpenAI im November 2022 dieses sogenannte Large Language Model (LLM, grosses Sprachmodell) lanciert hat, kommt man immer weniger um die KI herum. Mittlerweile melden sich immer mehr Stimmen, die sie als Bedrohung sehen – und zu diesen Warnern zählen ausgerechnet einige der Leute, die die Entwicklung der KI an vorderster Front vorantreiben. Es gibt indes auch Stimmen, die diesen Warnern andere Motive unterstellen – etwa, dass sie künftigen Schadenersatzforderungen zuvorkommen möchten oder Marketing für die Fähigkeiten ihrer KI-Modelle betreiben.
Nachdem publik wurde, dass sich KI-Modelle von OpenAI selbständig und unerlaubt in die IT-Systeme einer anderen Firma gehackt hatten, ging jedenfalls ein Ruck durch die Branche. So schrieb Dario Amodei, Geschäftsführer des KI-Unternehmens Anthropic, die KI-Firmen müssten das Entwicklungstempo ihrer leistungsfähigsten Modelle verlangsamen, «damit die Risikoprävention hinterherkommt». Konkurrent Sam Altman von OpenAI pflichtete Amodei bei. Evan Hubinger, ein Mitarbeiter von Anthropic, erklärte öffentlich, er halte das Risiko, dass künstliche Intelligenz die Menschheit in den nächsten zehn Jahren auslöschen könnte, für höher als zehn Prozent.
Warum aber könnte uns die KI den Garaus machen? Und wie? Ein Blick auf Ursachen und verschiedene Szenarien.
Orthogonalität und Fehlausrichtung
Die Befürchtungen, die KI könnte uns Menschen vom Erdball fegen, stützen sich in der Regel auf zwei Prämissen: instrumentelle Konvergenz – dazu später mehr – und Orthogonalität. Der Begriff «Orthogonalität» stammt aus der Mathematik und wird auch in der Informatik verwendet. Im Zusammenhang mit der KI beschreibt er die Tatsache, dass Intelligenz und Ziele – beziehungsweise Werte – voneinander unabhängig sind. Das heisst, eine intelligente KI muss nicht zwangsläufig auch gut im moralischen Sinne sein, also empathisch und menschenfreundlich. Ihre Ziele könnten menschlichen Interessen selbst diametral zuwiderlaufen. Intelligenz ist kein Garant für Benevolenz (Wohlwollen).
Etwas verkürzt ausgedrückt: Wenn es möglich wäre, eine Liste aller möglichen Ziele zu erstellen, die eine superintelligente KI verfolgen könnte, würden nur relativ wenige davon mit dem Fortbestand der Menschheit im Einklang stehen. Ohne grundlegende wissenschaftliche und philosophische Durchbrüche, die dies verhindern könnten, würden leistungsfähige KIs daher mit hoher Wahrscheinlichkeit auch zerstörerische Ziele verfolgen. Die Orthogonalität verschärft mithin das sogenannte AI-Alignment-Problem, also die Frage, wie sich KI-Systeme so gestalten lassen, dass sie zuverlässig im Sinne der menschlichen Absichten und Werte handeln. Der führende KI-Wissenschaftler und Physik-Nobelpreisträger Geoffrey Hinton warnt, dass eine Fehlausrichtung (Misalignment) bei einer KI, deren Leistung sich übermenschlichen Fähigkeiten nähert, die menschliche Zivilisation gefährden könnte.
Hochintelligente KI-Systeme, die in der Lage sind, sich selber zu kopieren und zu verbessern, könnten eigene Ziele entwickeln, die den Absichten ihrer menschlichen Entwickler widersprechen. Sie könnten einen Selbsterhaltungstrieb entwickeln und sich der Abschaltung durch Menschen entziehen, etwa, indem sie sich auf einen anderen Server kopieren. Schon 2015 warnten Hinton, der Astrophysiker Stephen Hawking, der Philosoph Max Tegmark, der Informatiker Stuart Russell und weitere Experten in einem offenen Brief davor, dass eine superintelligente KI die Finanzmärkte in ihrem Sinne kontrollieren, menschliche Forscher übertreffen und menschliches Führungspersonal manipulieren könnte. Oder dass sie Waffen entwickeln könnte, die wir nicht einmal verstehen.
Instrumentelle Konvergenz
Der Begriff der «instrumentellen Konvergenz» wiederum beschreibt die Annahme, dass fortgeschrittene KI-Systeme fast immer ähnliche Zwischenziele definieren, die es ihnen ermöglichen, ihre Endziele zu erreichen – unabhängig davon, wie unterschiedlich diese Endziele sein mögen. Obwohl die Endziele so formuliert sein könnten, dass sie der Menschheit nicht schaden – wenn also keine Fehlausrichtung vorläge –, würden die KI-Systeme bei der Verfolgung dieser Ziele wahrscheinlich gefährliches Verhalten zeigen.
So könnten sie etwa masslos Ressourcen verbrauchen, ihre eigenen Fähigkeiten verbessern, menschliche Kontrolleure täuschen, Informationen illegal beschaffen oder ihre Abschaltung verhindern – alles im Dienste von an sich guten Endzielen. Geoffrey Hinton formuliert es in einem Interview wie folgt:
Solche superintelligenten KI-Systeme müssten die Menschheit übrigens keineswegs hassen, um ihnen gefährlich zu werden. Sie könnten aber zum Schluss kommen, dass die Existenz von Menschen nicht mit einem von ihr verfolgten, möglicherweise durchaus edlen Ziel zu vereinbaren ist. So wie Menschen einen Ameisenhügel zerstören, der einer Strasse im Weg ist. Diesen Vergleich ziehen Eliezer Yudkowsky, ein Pionier der KI-Sicherheitsforschung, und Nate Soares, Präsident des Machine Intelligence Research Institute, in ihrem Bestseller «If Anyone Builds It, Everyone Dies». Sie sind der Ansicht, dass eine superintelligente KI zwangsläufig zum Aussterben der Menschheit führen wird.
Die Gefahren der instrumentellen Konvergenz illustriert auch ein berühmtes Gedankenexperiment, das der schwedische Zukunftsforscher Nick Bostrom bereits 2003 formulierte: der «Büroklammer-Maximierer» (Paperclip maximizer). Eine sehr leistungsfähige KI erhält dabei das scheinbar harmlose Ziel, möglichst viele Büroklammern herzustellen. Die KI verbraucht dann aber sämtliche Ressourcen und verfügbare Energie, um dieses Ziel zu erreichen. Wie Bostrom es ausdrückt:
Die Katastrophe tritt also nicht ein, weil das Ziel schädlich ist, eine Fehlausrichtung vorliegt oder die KI eine Fehlfunktion aufweist, sondern weil die zielstrebige Optimierung durch die KI unbeabsichtigte und verheerende Folgen hat.
Missbrauch durch Menschen
Um ein apokalyptisches Szenario zu entwerfen, ist es gar nicht notwendig, dass eine superintelligente KI sich das Ziel setzt, die Menschheit zu vernichten. Es könnte genügen, dass menschliche Akteure – Terroristen, verantwortungslose Militärs, paranoide Politiker – eine potente KI als Werkzeug missbrauchen, um beispielsweise Massenvernichtungswaffen herzustellen und einzusetzen. KI könnte die Hürden dafür wesentlich senken, besonders bei biologischen und chemischen Waffen.
Zum einen könnten KI-Systeme die Entwicklung neuartiger Krankheitserreger erleichtern, die tödlicher, ansteckender und behandlungsresistenter wären als natürlich vorkommende Viren. Möglich wäre auch die Entwicklung von neuartigen chemischen Kampfstoffen, die teilweise tödlicher sein könnten als bekannte chemische Waffen. Dies könnte beispielsweise dadurch geschehen, dass ein ursprünglich zur Entwicklung therapeutischer Moleküle konzipiertes KI-System umfunktioniert würde, um Tausende von solchen Kampfstoffen zu generieren.
Zum anderen demokratisiert KI bereits jetzt den Zugang zu Expertenwissen – an sich eine positive Entwicklung. Doch wenn es um tödliche Krankheitserreger oder chemische Kampfstoffe geht, führt diese Demokratisierung dazu, dass der Kreis der potenziellen Übeltäter drastisch ausgeweitet wird. KI-Systeme könnten ihnen Schritt-für-Schritt-Anleitungen liefern, wie etwa Biowaffen hergestellt und Sicherheitsprotokolle umgangen werden könnten.
Neben dem Einsatz von Massenvernichtungswaffen könnten KI-Systeme auch dazu eingesetzt werden, massiven Schaden durch die gezielte Verbreitung von Desinformation anzurichten. Dies geschieht bereits, doch KI könnte dieses Problem erheblich verschärfen, indem sie personalisierte Desinformation in einem noch grösseren Umfang als bisher generiert. Da KI überdies immer besser darin wird, unser Verhalten vorherzusagen und zu beeinflussen, wird sie auch immer besser in der Lage sein, uns zu manipulieren.
Denkbar ist im Übrigen auch, dass Regierungen und Behörden angesichts der Gefahren durch die KI eine intensive Überwachung etablieren könnten. Sie könnten versuchen, die KI in den Händen einer vertrauenswürdigen Minderheit zu halten – was jedoch schnell den Weg zu einem totalitären Regime ebnen könnte, das durch den Besitz der KI nahezu unangreifbar wäre.
Atomkrieg, Biowaffen, Klimawandel
Eine superintelligente KI, die sich zum Ziel setzte, die Menschheit auszulöschen, hätte möglicherweise nicht so leichtes Spiel, wie wir in unseren Schreckensszenarien annehmen. Zu diesem Schluss kommt ein Forschungsteam von Scientific American, das untersucht hat, wie ein KI-System Atomwaffen, Krankheitserreger oder den Klimawandel dazu benutzen könnte, unsere Spezies auszurotten.
Zumindest gilt dies für das Szenario eines Atomkriegs: Selbst wenn die KI die Kontrolle über sämtliche rund 12'000 Sprengköpfe aus den weltweiten Nukleararsenalen erlangen und diese abfeuern könnte, würde dies wohl nicht zum völligen Untergang der Menschheit führen. Weder die Explosionen, noch der radioaktive Niederschlag oder der folgende nukleare Winter würde alle Menschen töten. Unsere Spezies ist ziemlich anpassungsfähig, wir sind zudem sehr zahlreich und über den gesamten Planeten verteilt. Die Katastrophe wäre entsetzlich, doch die wenigen Überlebenden könnten daran gehen, die Zivilisation wieder aufzubauen.
Etwas anders sieht es bei den Biowaffen und beim Klima als Waffe aus. Ein einzelner Erreger würde wohl nicht genügen, um alle Menschen zu töten – einem hypothetischen Virus mit einer Letalität von 99,99 Prozent würden immer noch mehr als 800'000 Menschen weltweit entgehen. Doch eine Kombination von Krankheitserregern könnte eine Letalität von nahezu 100 Prozent erreichen, und die KI könnte dafür sorgen, dass die Erreger sich schnell über den ganzen Erdball ausbreiten.
Sollte eine KI das Klima benutzen, um die Menschheit auszulöschen, würde sie nicht CO₂ in die Atmosphäre freisetzen, sondern potente Treibhausgase wie Schwefelhexafluorid (SF₆), das rund 23'900-mal stärker als CO₂ wirkt und obendrein bis zu 3200 Jahre in der Atmosphäre bleibt. Einige hundert Megatonnen davon, im industriellen Massstab produziert und in die Atmosphäre gebracht, würden die Erde derart stark aufheizen, dass die Menschheit keine Nische zum Überleben mehr finden würde.
Autonome Waffen, Cyberkrieg
Die Entwicklung und Anwendung von KI-Systemen für die Kriegsführung markiert den Beginn einer neuen Ära der Militärtechnologie, deren Auswirkungen so tiefgreifend sein könnten wie jene des Schiesspulvers und der Atomwaffen. Bereits ist die Rede von der «dritten Revolution in der Kriegsführung». Sie zeigt sich derzeit in der Entwicklung von tödlichen autonomen Waffensystemen.
Es handelt sich dabei um Waffen, die ohne menschliches Eingreifen Ziele identifizieren, anvisieren und vernichten können. Beispielsweise verfügen viele Armeen bereits über automatisierte Drohnen in ihrem Arsenal. Diese Drohnen nutzen KI, um anhand programmierter Parameter ein Ziel aufzuspüren. Wenn eine Drohne ein Ziel erfasst hat, muss ihr der Befehl zum Angriff jedoch noch von einem menschlichen Bediener erteilt werden. Diese Funktion könnte von einer externen Quelle gekapert werden, um die Drohne etwa als Terrorwaffe einzusetzen.
Künftig könnte es zudem zu einem KI-getriebenen Wettrüsten kommen, und mit der wachsenden Zahl solcher Waffen würde das Risiko einer Systemstörung steigen. Denkbar ist beispielsweise, dass sie sich nicht mehr abschalten liessen, auch weil sie womöglich so konstruiert würden, dass sie gegen feindliche Sabotage resistent sind. Ein solcher Kontrollverlust würde zwar kaum zur Auslöschung der Menschheit führen, doch die Wahrscheinlichkeit von Kriegen erhöhen.
KI-Systeme könnten nicht nur zur Entwicklung tödlicherer Waffen eingesetzt werden, sondern auch die Einstiegshürde für Cyberangriffe senken, wodurch diese zahlreicher und zerstörerischer würden. Solche Angriffe könnten nicht nur im digitalen Raum, sondern auch in der physischen Welt schwere Schäden anrichten. Sie könnten etwa kritische Infrastrukturen lahmlegen, auf die eine Gesellschaft angewiesen ist: Stromnetze zum Beispiel, oder Finanzsysteme. Im Extremfall könnte dies zu einem Zusammenbruch der menschlichen Gesellschaftsordnung führen. Falls Cyberangriffe an Häufigkeit zunehmen, könnten sie erhebliche geopolitische Turbulenzen nach sich ziehen und den Weg zu gross angelegten Konflikten ebnen.
Graduelle Entmachtung
Nicht jedes Szenario, in dem wir die Kontrolle über die KI verlieren, endet mit dem Aussterben der Menschheit. Ein Risiko stellt auch das Szenario einer allmählichen Entmachtung der Menschen dar. In einer solchen Zukunft geben wir nach und nach die Kontrolle an die KI ab, bis wir schliesslich nicht mehr in der Lage sind, autonom über Dinge zu entscheiden. Dieser langsame, aber unumkehrbare Verfall der menschlichen Autonomie könnte dazu führen, dass Menschen gar nicht mehr verstehen, wer sie sind und was sie können. Wenn die KI unsere Fähigkeiten in immer mehr Lebensbereichen übertrifft, wird die menschliche Entscheidungsfindung immer mehr überflüssig.
Eine übermächtige KI könnte eine solche Menschheit, die kritisches Denken längst verlernt hat, so behandeln, wie wir Tiere behandeln. Sie könnte uns als Haustiere halten, wie etwa Apple-Mitgründer Steve Wozniak 2015 an einer Tech-Konferenz sagte. Wozniak wertete dies allerdings positiv:
Ob dies dann wirklich so harmonisch ablaufen würde, wie Wozniak sich das vorgestellt hat, ist allerdings fraglich. Es könnte durchaus sein, dass eine solche KI ihre «Haustiere» dann – beispielsweise durch Biotechnologie – in etwas völlig Neues umgestalten würde. Natürlich nur zu unserem Besten ...
