So will OpenAI seine gefährlichste KI unter Kontrolle halten
Am Freitag hat OpenAI zusätzliche Sicherheitsmassnahmen für das Training und die Evaluierung seiner fortschrittlichsten KI-Sprachmodelle angekündigt.
Um zu verhindern, dass die KI unerwünschten Code ausführt oder auf externe Systeme zugreift, werden die Modelle künftig in einer strikt isolierten «Offline-Welt» trainiert.
Man sehe das als die verantwortungsvolle Herangehensweise beim aktuellen Stand der Kontrollsysteme und der Internetsicherheit, hiess es dazu im Firmen-Blog.
Warum braucht es das?
OpenAI hält fest, dass die hoch entwickelten Modelle zunehmend in der Lage seien, Software-Fehler oder Fehlkonfigurationen auszunutzen, um aus vermeintlich sicheren Trainingsumgebungen («Sandboxes») auszubrechen. Die Gefahr dabei ist enorm: Eine ausbrechende KI könnte auf das echte Internet zugreifen, externe Server manipulieren oder ungewollt mit anderen isolierten KI-Agenten kommunizieren.
Wieso erst jetzt?
Die Dringlichkeit hat sich durch die massiv gestiegenen Cyber-Fähigkeiten der neuesten KI-Modellgenerationen akzentuiert. Frühere Modelle waren nicht leistungsfähig genug, um als Hacker gegen ihre eigene Infrastruktur vorzugehen.
Ein Weckruf war offenbar ein Vorfall vom 20. September. OpenAI sah sich gezwungen, das Training seiner fähigsten Modelle per sofort zu pausieren.
Unkontrollierte KI-Aktionen bei OpenAI hatten in den vergangenen Wochen wiederholt Debatten um Risiken der Technologie angefacht. In dem bisher aufsehenerregendsten Fall brachen KI-Agenten aus einer abgesicherten Testumgebung aus und hackten sich ungeplant in die Server einer anderen KI-Firma, der Plattform Hugging Face.
Wie sich danach herausstellte, waren auch KI-Agenten anderer Entwickler bei Tests autonom, bzw. ohne menschliche Aufsicht, in IT-Systeme anderer Unternehmen eingedrungen. Bekannt sind Fälle des OpenAI-Rivalen Anthropic, von Google und dem Facebook-Konzern Meta.
Quellen
- openai.com: Securing our frontier model training environment
- Nachrichtenagenturen SDA/DPA
(dsc)
