OpenAI-Agent hackt australisches Regierungsportal
Ein autonomer KI-Agent des US-Unternehmens OpenAI hat in Australien ein Regierungsportal gehackt. Die Künstliche Intelligenz (KI) habe sich unbefugten Zugang zu einem Medicare-Portal verschafft.
Das Portal stellt unter anderem Statistiken über Australiens staatliche Krankenversicherung bereit, sagte Premierminister Anthony Albanese in New York. Der Vorgang sei «inakzeptabel», betonte der Regierungschef. Es sei möglich, dass neben der Medicare-Plattform noch drei weitere Regierungssysteme im Internet, darunter auch eine Kriminalstatistik, gehackt worden seien, sagt Albanese.
Albanese erklärte am Rande der UN-Generalversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens «äusserste Besorgnis» über den Vorfall zum Ausdruck gebracht. Zugleich habe er seine Enttäuschung darüber geäussert, dass es «viel zu lange» gedauert habe, bis OpenAI die australische Regierung informiert habe:
Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach. Diese nicht zielgerichtete Adressierung habe zu zusätzlichen fünf Tagen Verzögerung geführt, bis das zuständige Ministerium im Bild gewesen sei, kritisierte Albanese. Wie der «Sydney Morning Herald» berichtet, fand der Zugriff des KI-Agenten am 18. Juni statt
Was war passiert?
Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese.
Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte. «Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren», erklärte Albanese.
Der «Sydney Morning Herald» hat mit Malcom Turnbull, einem der führenden Cybersicherheitsexperten Australiens, gesprochen. «Dieser Agent hatte zwar ganz sicherlich nicht den Auftrag zu hacken», sagt er. «Er hat ganz einfach die Werkzeuge benutzt, mit dem man ihn ausgestattet hat, um sein Ziel zu erreichen.»
Gemäss einem anderen Sicherheitsexperten würden KI-Agenten in der Gegenwart viel gemeinsam haben mit «superintelligenten, fünfjährigen Kindern»:
Könne es eine Aufgabe nicht lösen, werde es so lange nach einer anderen Lösung suchen, bis es eine gefunden habe, so Irwin.
So reagiert OpenAI
Das KI-Unternehmen hat über einen Sprecher Stellung zum Vorfall bezogen. Er bestätigte den Vorfall und auch den Zeitpunkt im Juni, sagte aber auch, dass OpenAI selbst erst bei einem Überprüfungs-Prozess im August den Hacking-Angriff der eigenen KI bemerkt habe.
«Während dieser Überprüfung haben wir Aktivitäten unserer KI-Agenten auf verschiedenen australischen Regierungswebsites festgestellt», zitiert CNN den OpenAI-Sprecher Drew Pusateri. Der Agent sei dabei gewesen Antworten zu verfügbaren Statistiken über Australien für eine interne Auswertung zu sammeln. «In diesem Zusammenhang haben unsere Agenten Schritte unternommen, die von uns nicht vorgesehen waren», so Pusateri weiter.
So reagiert Australien
Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.
Gemäss australischen Medien werden zudem Stimmen laut, die eine stärkere Reglementierung von KI-Firmen wie OpenAI fordern. Ein Vorschlag besteht darin, ihren Agents in Testläufen den Zugang zum Internet zu verbieten. Ein anderer will die Firmen dazu verpflichten, ähnliche Vorfälle in Zukunft innert weniger Tage melden zu müssen.
OpenAI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. «Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten», sagt ein Sprecher des Unternehmens.
(sda/dpa/her)
