Anthropic: Warum Claude Mythos beunruhigend gut ist

Anthropics neues KI-Modell: Warum Claude Mythos zu gefährlich für die Öffentlichkeit ist

Das KI-Unternehmen Anthropic gab am Dienstag bekannt, dass es die neueste Generation seines grossen Sprachmodells (Large Language Model, LLM) unter dem Namen «Claude Mythos Preview» veröffentlichen werde – allerdings nur für einen begrenzten Kreis von etwa 40 Technologieunternehmen.

Anthropics neues KI-Modell Claude Mythos Preview ist so gut darin, bisher unentdeckte Software-Schwachstellen zu finden, dass es gemäss der Firma in den falschen Händen zu einer verheerenden Cyberwaffe werden könnte.

Der Grund: Mythos (offiziell unter dem Namen «Claude Mythos Preview» bekannt) kann Sicherheitslücken in Softwares finden und ausnutzen – und dies ohne menschliche Hilfe. Gemäss Anthropic ist Claude Mythos Preview darin besser als «alle ausser die besten menschlichen Sicherheitsexperten».

Laut eigenen Aussagen macht Anthropic es deshalb nicht öffentlich, sondern lässt US-Konzerne wie Apple, Google und Microsoft damit Sicherheitslücken in deren weltweit verbreiteten Betriebssystemen und Programmen stopfen.

Ein neues «Large Language Model» (LLM) verblüfft mit seinen Software-Fähigkeiten.Bild: www.imago-images.de

«KI-Modelle haben ein Programmierniveau erreicht, auf dem sie bei der Erkennung und Ausnutzung von Software-Schwachstellen alle Menschen ausser den versiertesten übertreffen können.»

Anthropic

Das KI-Modell Claude Mythos Preview fand unter anderem eine 27 Jahre alte Schwachstelle im als besonders sicher geltenden Betriebssystem OpenBSD, wie Anthropic mitteilte.

Insgesamt habe man mit Mythos bereits «tausende» schwerwiegende Schwachstellen entdeckt – darunter in jedem breit genutzten Betriebssystem und Webbrowser. In der Videosoftware FFmpeg spürte das Modell eine seit 16 Jahren schlummernde Lücke auf.

Besorgniserregende Fähigkeiten

Mythos Preview sei auch in der Lage gewesen, binnen weniger Stunden Programme zum Ausnutzen dieser Schwachstellen zu entwickeln, sogenannte «Zero Day Exploits» – dafür hätte die Fachleute nach eigenem Bekunden mehrere Wochen gebraucht.

Einer frühen Version der Software wurde in einem Versuch die Aufgabe gestellt, aus einer abgeschirmten Computer-Umgebung auszubrechen und das dem Tester zu melden. Die Software umging laut Anthropic die Sicherheitsvorkehrungen, verschaffte sich selbst weitreichenderen Internet-Zugang und schickte dem Mitarbeiter eine für ihn überraschende E-Mail, während er mit einem Sandwich im Park sass.

Mythos nicht öffentlich verfügbar

Die Firma habe das Modell nicht speziell darauf trainiert, das alles zu können, hiess es weiter. Mit dem schnellen Fortschritt bei Künstlicher Intelligenz sei davon auszugehen, dass solche Fähigkeiten recht bald auch Online-Angreifern zur Verfügung stehen könnten, warnte Anthropic.

In einer Kooperation mit dem Namen «Project Glasswing» sollen deshalb Unternehmen Zugang zu Mythos bekommen, um Sicherheitslücken in ihrer Software zu finden. Anthropic plane nicht, Mythos allgemein zugänglich zu machen. Unter den weiteren Kooperationspartnern sind die Linux-Stiftung, die IT-Sicherheitsfirmen Crowdstrike und Palo Alto Networks sowie der Netzwerk-Spezialist Cisco.

Anthropic ist vor allem bekannt für die KI-Software Claude, die mit ChatGPT von OpenAI konkurriert. Zuletzt geriet die Firma durch einen Streit mit dem Pentagon in die Schlagzeilen: Anthropic lehnte den Einsatz seiner KI in autonomen Waffen oder zur Massenüberwachung in den USA ab. Das US-Verteidigungsministerium erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was dem Unternehmen den Weg zu Geschäften mit der Trump-Regierung weitgehend versperren würde. Anthropic geht dagegen vor Gericht vor.

(lak/dsc/sda/dpa)

Quellen

• anthropic.com: Project Glasswing