Drei Gründe, warum die KI-CEOs gerade die Hosen voll haben
«Wir müssen die KI-Entwicklung bremsen», schreibt Dario Amodei, der Geschäftsführer der KI-Firma Anthropic, am Samstag in einem Blogbeitrag. Er sei nach langer Überlegung zum Schluss gekommen, dass die gesamte Branche das Entwicklungstempo ihrer leistungsfähigsten Modelle verlangsamen müsse, «damit die Risikoprävention hinterherkommt».
Dazu kündigt Amodei gleich einige konkrete Massnahmen an, die Anthropic selbst von nun an trifft, um der Problematik entgegenzuwirken. Kurz darauf schreibt Elon Musk auf X dazu: «Dario is right.» Sogar Konkurrent Sam Altman von OpenAI pflichtete Amodei bei und sprach von einer «grossartigen Idee»; er werde die gleichen Massnahmen im eigenen Unternehmen treffen.
Warum kommen die KI-Fürsten der Welt genau jetzt darauf, gemeinsam das Tempo aus der Entwicklung zu nehmen? Hier sind drei mögliche Gründe.
Angst vor Recursive Self-Improvement wächst
In den vergangenen Monaten haben die Softwaremodelle von OpenAI und Anthropic technologisch grosse Sprünge gemacht. Derart grosse Sprünge, dass es längst nicht mehr um die althergebrachten Risiken der künstlichen Intelligenz – Jobverluste, unfreie Wahlen, Desinformationen etc. – geht, wie der «Spiegel» schreibt. Mittlerweile geht es um existenzielle Risiken für die Menschheit.
Konkret sehen viele die grösste Gefahr der künstlichen Intelligenz darin, dass sie mit Hilfe ihrer eigenen Fähigkeiten eigene Nachfolger entwickelt und optimiert und somit einen endlosen Kreislauf ohne menschliches Zutun generiert. Dieser Prozess wird in Fachkreisen «recursive self-improvement» (RSI), zu Deutsch etwa «rekursive Selbstverbesserung», genannt.
Zwar werden KI-Tools bereits heute zum Generieren von Algorithmen und Codes verwendet. Doch blieb bislang immer zumindest die letzte Entscheidung in Menschenhand. In einem echten RSI-Loop braucht es keine Eingriffe von echten Intelligenzen mehr, wodurch die Kontrollmöglichkeiten dahinschwinden.
Laut Anthropic-CEO Dario Amodei benötigen Forscher etwa ein bis zwei Jahre, um die mit der fortschreitenden Entwicklung der KI einhergehenden Risiken zu verstehen und entsprechende Sicherheitsvorkehrungen in die Codes einzubauen. Doch so viel Zeit bleibt nicht, denn die Entwicklung schreitet deutlich schneller voran, als die Sicherheit. Das liegt mitunter auch an den staatlichen Rahmenbedingungen.
Weiterhin Deregulierung statt Begrenzung
Denn während die EU oder China bereits KI-Gesetze erlassen haben, weht in den USA ein anderer politischer und wirtschaftlicher Wind. So hatte Präsident Trump am ersten Tag seiner zweiten Amtszeit den KI-Erlass seines Vorgängers Joe Biden abgeschafft. Seither, so der «Spiegel», gelte die Maxime: Schnelligkeit vor Sicherheit.
Zwar haben einzelne Bundesstaaten KI-Gesetze erlassen oder planen dies zumindest, doch auf föderaler Ebene wird weiter dereguliert. Dies, obwohl über 1300 KI-Programmierer bereits eine Petition unterschrieben haben, in welcher sie die US-Regierung um Hilfe bitten. Sie verlangen, dass Washington der Technologie Grenzen setzen und das KI-Wettrennen künstlich verlangsamen oder gar pausieren soll.
Allerdings: In wenigen Tagen empfängt Präsident Trump in Washington sein chinesisches Pendant, Xi Jinping, zu Gesprächen. Ganz oben auf der Themenliste steht dabei die künstliche Intelligenz. Kann Donald Trump beim Gipfeltreffen umgestimmt werden?
Nein, sagt der frühere OpenAI-Manager Daniel Kokotajlo, der als einer der bestvernetzten Experten im Bereich der KI-Sicherheit gilt; seine Erwartungen an den Gipfel seien «gering bis nicht vorhanden». Trump werde einer umfassenden Regelung niemals zustimmen, denn:
Sichere Börsengänge
Schliesslich bleibt ein dritter, von Amodei in seinem warnenden Blogbeitrag nicht explizit erwähnter Punkt, der etwas subtiler ist. Es geht, einmal mehr, ums Geld.
Denn sowohl OpenAI als auch Anthropic planen in den nächsten Monaten den Gang an die Börse. Käme in der Öffentlichkeit das Gefühl auf, die KI-Unternehmen aus dem Silicon Valley hätten ihre Produkte nicht mehr unter Kontrolle, liefen die Firmen Gefahr, ihre gesellschaftliche Akzeptanz – und somit auch die Gunst potenzieller Anleger – zu verlieren.
Nicht zuletzt aus aus diesem Grund verschob OpenAI-Boss Altman den für den Herbst geplanten Börsengang auf das Frühjahr 2027. Gegenüber Fortune erklärte er: «Ich glaube, dass es, mit all dem, was gerade passiert, in diesem Moment nicht klug wäre, an die Börse zu gehen.»
