Wird KI die dritte Supermacht?
Vor mehr als zwölf Jahren hat der schwedische Philosoph und Zukunftsforscher Nick Bostrom ein Buch mit dem Titel «Superintelligence» veröffentlicht. Es hat hohe Wellen geworfen, denn der damals noch an der Oxford University tätige Professor vertritt darin die These, wonach die KI die menschliche Intelligenz nicht nur einholen, sondern überflügeln werde. Schon damals stellte Bostrom fest, der KI-Zug werde möglicherweise am Bahnhof Menschheit nicht anhalten, sondern wie der City-Express an Provinzorten einfach durchrasen.
Als Beispiel, wie die KI die Menschen ausrotten könnte, führte Bostrom an: Stell dir vor, eine KI erhält den Auftrag, möglichst effizient Büroklammern herzustellen. Sie wird diesem Ziel alles unterordnen, und weil sie inzwischen superintelligent geworden ist, wird sie sich dabei auch von der Menschheit nicht stoppen lassen.
Die Büroklammer-Apokalypse ist mittlerweile zu einer gängigen Metapher geworden. Wenig tröstlich ist dabei, dass in einer etwas milderen Fassung die KI die Menschheit zwar nicht auslöschen, aber uns wie Haustiere halten wird.
In den letzten Tagen hat die Dystopie vom Untergang der Menschheit als Folge von Superintelligenz gewaltig Auftrieb bekommen. Jacob Coxon, ein Forscher bei Anthropic, hat das führende KI-Unternehmen verlassen und als Begründung angegeben, dass seine Forscherkollegen «ernsthaft überzeugt sind, dass die KI uns bis zum Ende dieser Dekade töten wird.»
Coxon ist kein einsamer Rufer in der Wüste. Evan Hubinger, der Anthropic-Forschungschef, beziffert die Wahrscheinlichkeit, dass die KI die Menschheit in den nächsten zehn Jahren auslöschen könnte, auf zehn Prozent, und sein Post auf X ist ebenfalls nicht dazu angetan, uns zu beruhigen. «Ich glaube zwar, dass Anthropic alles versucht, aber wir haben noch keinen Plan, wie wir die Superintelligenz in den Griff bekommen, und wir sind auch nicht auf dem Weg dazu.»
Selbst Anthropic-CEO Dario Amodei gibt sich skeptisch. Er hat schon vor Jahresfrist die Wahrscheinlichkeit, dass die Superintelligenz in Zukunft etwas «wirklich sehr, sehr Schlimmes» anrichten könnte, auf 25 Prozent beziffert.
Kritiker wie der Science-Fiction-Autor und Zukunftsforscher Cory Doctorow werfen den KI-Unternehmen vor, absichtlich solch dystopische Zukunftsszenarien in die Welt zu setzen, um so die Arbeitnehmer nicht an den Segnungen der neuen Technologie teilhaben zu lassen. Für die kulturellen Bereiche mag dies zutreffen. Doch die Warnungen dienen nicht dazu, die Lohnforderungen von Drehbuchautoren und Rockmusikern möglichst tief zu halten. Es geht um weit mehr.
Zunächst gilt es jedoch, ein Missverständnis auszuräumen: Sollte die Superintelligenz die Macht übernehmen, geschieht dies nicht wie im Film «Terminator», wo Roboter gegen Menschen kämpfen. KI funktioniert anders. Im «Wall Street Journal» beschreibt dies Paul Tudor Jones wie folgt:
«Es ist so, wie wenn man einen Samen pflanzt. Die Erde sind die Daten, mit denen man die KI trainiert. Es gibt jedoch kein endgültiges Design, wie dies beispielsweise bei der Entwicklung eines neuen Autos der Fall ist, oder bei einem Haus. Das Modell ist einzig das Gerüst. Es wird mit riesigen Datenmengen gefüttert und durchläuft Billionen von Permutationen. Was dabei herauskommt, kann man anfangs gar nicht abschätzen.»
In der «New York Times» hält Steven Adler, der jahrelang für OpenAI geforscht hat, daher fest: «Nicht einmal die KI-Entwickler verstehen, welchen Grenzen die Modelle gehorchen werden.» Und OpenAI-Wissenschaftschef Jakub Pachocki lässt sich wie folgt zitieren: «Niemand ist auf die Konsequenzen einer sich rasch ausbreitenden Maschinenintelligenz vorbereitet.»
So weit, so schlecht. Leider sind dies keine akademischen Gedankenspiele. Das zeigt der Fall von Hugging Face. Im vergangenen Juli hat eine KI von OpenAI eigenhändig ihre Mission verändert und die Systeme des Konkurrenten Hugging Face gehackt. Der Vorfall hat hohe Wellen geworfen. Das Unternehmen ist mittlerweile von Nvidia aufgekauft worden.
Der Hugging-Face-Vorfall ist ein erstes Warnzeichen für das, was kommen wird. «Wenn wir nichts ändern, wird die künftige Beschleunigung der KI unsere Fähigkeit überschreiten, sie messen und kontrollieren zu können», stellt Jones fest.
Inzwischen meldet sich auch die Politik zu Wort. Senator Bernie Sanders hat angekündigt, dass er mit dem republikanischen Abgeordneten Greg Casar ein Gesetz ausarbeite, das die Produktion von KI verbiete und gleichzeitig eine nationale Behörde geschaffen werde, welche die Technologie überwachen kann.
Kritiker wenden dagegen ein, dass davon einzig China profitiere. «New York Times»-Kolumnist Nicholas Kristof schreibt daher besorgt: «Sollte China das KI-Rennen gewinnen, dann könnte Peking auf Jahrzehnte hinaus die globale Wirtschaft und die Geopolitik beherrschen – und ich möchte nicht darauf wetten, dass Xi Jinping oder seine Nachfolger das weltweite Steuerrad in der Hand haben.»
Das muss nicht sein. Am 20. November 1985 trafen sich US-Präsident Ronald Reagan und Michail Gorbatschow, damals der mächtigste Mann der UdSSR, in Genf. Obwohl die beiden Staatschefs völlig verschiedene Systeme und Interessen vertraten, gelang es ihnen, einen Vertrag auszuhandeln, der die Gefahr eines Atomkrieges weitgehend bannte.
Demnächst werden sich Donald Trump und Xi Jinping in Washington treffen. Obwohl zwischen den beiden Supermächten grosse Differenzen bestehen, sollten sie dem Beispiel von Reagan und Gorbatschow folgen. Oder wie Jones schreibt: «Ich fordere die USA und China eindringlich auf, gemeinsam mit Experten von beiden Seiten ehrlich zu beurteilen, wo wir in der Entwicklung von KI stehen. Eine solch gemeinsame Verständigung könnte uns vor einer KI-Supermacht retten.»
