«Extreme Vorsicht»: Anthropic-Mitarbeiter kündigt und warnt vor dem Terminator-Szenario
Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Künstliche Intelligenz würde dann «alles hacken können» und die Möglichkeit haben, sich «Zugang zu echter Macht und Ressourcen» zu verschaffen, sagte er. Und weiter:
Dem «Wall Street Journal» sagte der 27-jährige Brite, nach den «aggressivsten Szenarien» könnten die Dinge bereits Ende kommenden Jahres ausser Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
«Extreme Vorsicht»
Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, «extreme Vorsicht» an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten Künstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.
Der OpenAI-Manager umschrieb ausführlicher, warum moderne KI-Systeme schwerer zu kontrollieren seien. Man lasse diese Künstliche Intelligenz eher «wachsen», statt sie zu designen. KI-Systeme seien ein Produkt komplexer Prozesse. «Unsere gross angelegten Trainingsläufe sind Experimente – und wir sind manchmal überrascht von ihren Ergebnissen.» Und je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es zu verstehen, zu was sie in der Lage seien.
Zugleich sieht Pachocki ein Argument für die Fortsetzung rapider Forschung: Künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.
Hacking-Attacken als Alarmsignal
Ein Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit Künstlicher Intelligenz, die selbstständig Aufgaben für die Nutzer erfüllen sollen.
Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.
Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Frühjahr eine deutschsprachige Wiki-Seite in grossem Stil für Absprachen untereinander missbraucht hatten. Ein aktueller Schutzmechanismus der KI-Entwickler ist, dass die Modelle mit Künstlicher Intelligenz ihr Handeln in menschlicher Sprache erklären müssen. Die KI-Agenten nutzten die Kommunikationsmöglichkeit in Testläufen, um sich über Notizen auf der Wiki-Seite untereinander zu Antworten auf gestellte Fragen auszutauschen. (leo/sda/awp/dpa)
