«Wir müssen die KI-Entwicklung bremsen» – jetzt schlägt auch der Anthropic-Chef Alarm
Könnte KI bald die Menschheit auslöschen? Diese Frage ging um die Welt, nachdem Ex-Anthropic-Entwickler Jacob Coxon vergangene Woche erklärte, dass dies bis 2040 der Fall sein könnte. Nun äussert sich dazu auch Dario Amodei. Er ist CEO des KI-Unternehmens Anthropic und warnt davor, dass sich die Entwicklung der Systeme schneller vollziehen könnte als unsere Fähigkeit, sie sicher zu kontrollieren.
Er will die künstliche Intelligenz aber nicht stoppen. Stattdessen findet der 43-Jährige: «Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern.» Neue, besonders leistungsfähige Modelle sollten erst dann weiterentwickelt werden, wenn Unternehmen nachweisen können, dass sie ausreichend sicher sind.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Fortschrittliche KI könnte Amodei zufolge für Cyberangriffe oder biologische Waffen missbraucht werden. Noch wichtiger sei die Frage, ob zukünftige Systeme überhaupt zuverlässig kontrollierbar bleiben. Besonders kritisch werde es, wenn KI selbst dabei hilft, noch bessere KI zu entwickeln, und sich der Fortschritt dadurch stark beschleunigt.
Gefährliches Verhalten verhindern
Um das Risiko zu begrenzen, schlägt Amodei unabhängige Sicherheitsprüfungen in KI-Unternehmen, gemeinsame Standards zwischen Staaten und langfristig internationale Abkommen vor. Die gewonnene Zeit soll genutzt werden, um besser zu verstehen, wie KI-Systeme Entscheidungen treffen und wie gefährliches Verhalten verhindert werden kann.
KI könne der Menschheit enorme Vorteile bringen. Je leistungsfähiger sie jedoch werde, desto wichtiger sei es, nicht nur zu fragen, wie schnell wir sie entwickeln können, sondern auch, wie schnell wir sie sicher entwickeln können.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Unmittelbarer Zuspruch
Kurz nachdem Amodei seinen Beitrag veröffentlicht hatte, erhielt er in den sozialen Medien prominenten Zuspruch. «Ich stimme Dario zu, dass wir die Grenzen behutsam ausloten müssen», kommentierte Sam Altman, CEO der Konkurrenzfirma OpenAI. «Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI.»
Auch von Elon Musk erhielt Amodei Zuspruch. Der reichste Mann der Welt hielt sich in seinem X-Post kurz und schrieb: «Dario hat recht.»
«Die Gesellschaft muss mitbestimmen können, wie diese Technologie eingesetzt wird», verdeutlicht Amodei abschliessend. «Wir sind es der Menschheit schuldig, es zumindest zu versuchen.» (val)
