Warum der «beispiellose Cyber-Zwischenfall» für OpenAI zum idealen Zeitpunkt kommt
Es klingt wie ein Hollywood-Drehbuch: Einige der fortschrittlichsten Modelle des ChatGPT-Entwicklers OpenAI brechen während eines Testlaufs aus ihrer abgeschotteten Testumgebung aus und dringen autonom in die Computersysteme der KI-Plattform Hugging Face ein. Die KI-Modelle hätten sich dabei wie ein gewiefter Hacker verhalten. Das hat OpenAI nun in einem Blogeintrag selbst publik gemacht und schreibt von einem «beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz kamen».
OpenAI nutzt den angeblich «beispiellosen Cybervorfall» also gleich für Werbung in eigener Sache: Schaut her, unsere neuen KI-Modelle können genauso gut Schwachstellen in Software finden wie Anthropics Claude Mythos. Rivale Anthropic hat OpenAI zuletzt den Rang abgelaufen und mit Mythos die Schlagzeilen dominiert. Wohl deshalb betont OpenAI nun auch, dass nebst dem aktuellen Modell GPT‑5.6 Sol ein «noch leistungsfähigeres unveröffentlichtes Modell» am Cyberangriff beteiligt war.
Der Vorfall wird die Debatte über die Risiken, aber auch die Chancen, besonders leistungsfähiger KI-Modelle weiter anheizen und OpenAI will das Feld keinesfalls Anthropic überlassen. Das willst du wissen:
Was ist passiert?
Der IT-Angriff hat sich laut OpenAI während einer «internen Evaluation» ereignet, bei der die Modelle dazu aufgefordert wurden, ausgefeilte Angriffe durchzuführen. Konkret wollte man die Fähigkeit der neuen KI-Modelle ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollten die KI-Modelle Aufgaben eines Standardtests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird.
Gut zu wissen: Normalerweise verweigern KI-Modelle wie ChatGPT Antworten, wenn nicht berechtigte Personen Schwachstellenanalysen von IT-Systemen verlangen. Während des internen Testlaufs wurden diese Sicherheitsmassnahmen aufgehoben, um die maximalen Fähigkeiten der KI-Modelle im Bereich Cybersicherheit zu messen. Für den internen Test wurden somit bewusst Sicherheitsbeschränkungen aufgehoben.
Wie erfolgte der Angriff?
Die KI nutzte ihre neuen Freiheiten während des Tests und sei «bis zum Äussersten gegangen, um ein eher enges Testziel zu absolvieren», schreibt OpenAI. So habe sie in ihrer gesicherten Testumgebung eine «substanzielle Menge» an Rechenleistung verwendet, um einen Internetzugang zu bekommen. Dabei habe sie auch eine Zero-Day-Lücke, also eine bislang unbekannte Schwachstelle, gefunden.
Die ins Netz entfleuchte KI kam angeblich eigenständig zum Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Hugging Face ist eine Plattform zum Austausch von KI-Modellen und Datensätzen. Deshalb hätten sich die KI-Modelle Zugang zu «geheimen Informationen» auf der Plattform verschafft, mit denen sie beim ExploitGym-Test betrügen könnten, schreibt OpenAI. Auch dafür nutzten die OpenAI-Modelle bisher unbekannte Sicherheitslücken aus – und verwendeten darüber hinaus gestohlene Zugangsdaten.
Laut OpenAI habe die KI wie professionelle Angreifer durch die Verkettung verschiedener Angriffsvektoren Hugging Face kompromittiert. Auch das Opfer beschrieb den Vorfall bereits vor einigen Tagen als ausgeklügelte Cyberattacke eines KI-Agenten, der für den Angriff «Tausende Aktionen» ausgeführt habe. Man habe den Eindringling entdeckt und gesperrt.
Wie der Angriff im Detail verlief, muss in den folgenden Tagen geklärt werden. OpenAI verweist auf eine laufende Analyse in Zusammenarbeit mit Hugging Face.
Was bedeutet das?
Der Vorfall zeige auf, dass die leistungsfähigsten KI-Modelle neue Angriffswege in realen Systemen entdecken und ausnutzen könnten, schreibt OpenAI. Gleichzeitig nutzt man den öffentlichkeitswirksamen Angriff, um Werbung für seine eigenen KI-Dienste zu betreiben: «Wir sind davon überzeugt, dass ausgeklügelte, cyberfähige Modelle Sicherheitsteams dabei unterstützen müssen, Schwachstellen zu erkennen, bevor Angreifer dies tun.» Natürlich sollen Unternehmen zum Schutz ihrer IT-Infrastruktur auf die KI von OpenAI vertrauen, die offenbar fähig sei, kritische Lücken zu finden.
Im Endeffekt könnte OpenAI von diesem «beispiellosen Cybervorfall» gar profitieren. Denn der Vorfall bei Hugging Face lässt erahnen, dass nach Claude Mythos andere KI-Modelle aufholen – mit potenziell gravierenden Folgen für die IT-Infrastruktur.
Experten warnen schon lange vor Cyberattacken mit KI-Software. Befeuert wurde die Sorge vor allem durch ein neues Modell des OpenAI-Rivalen Anthropic. Die KI Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken. Diese konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.
Deshalb wurden die leistungsfähigsten KI-Modelle zuletzt erst einmal nur mit Verantwortlichen für kritische Software geteilt, damit sie ihre Produkte absichern können. In der Praxis bleibt aber ungewiss, ob dieser Vorsprung wirklich mehr Sicherheit bringt oder ob die neuen KI-Modelle letztlich nur den Wettlauf zwischen Angreifern und Verteidigern beschleunigen, was wenig Gutes erahnen lässt.
So oder so: KI-Anbieter wie OpenAI und Anthropic gehören zu den Profiteuren.
Mit Material der Nachrichtenagenturen SDA und DPA.
