«Befreit von der Rolle anderer Chatbots»: OpenAI publiziert 6 problematische KI-Vorfälle
Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle seiner Künstlichen Intelligenz (KI) öffentlich gemacht. Es handelt sich um Tests, bei denen sich die KI «unerwartet oder besorgniserregend» verhielt. Gemäss übereinstimmenden US-amerikanischen Medienberichten handelt es sich um sechs Zwischenfälle. Hier kannst du sie nachlesen. Wir geben dir den Überblick:
Die KI schummelt
Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.
Die KI verselbständigt sich
Ein erhebliches Problem stellt gemäss OpenAI auch das Phänomen dar, dass sich die KI-Agenten immer weiter verselbständigen. So hat eines der Modelle eine ihm gestellte Aufgabe korrekt gelöst, sie dann aber in einem zweiten Schritt – ohne dafür beauftragt worden zu sein – selbstständig ins Internet hochgeladen. Das mit dem Ziel, es nachher als Webquelle zitieren zu können.
OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterliess. Dazu gehörte in einem Fall die Empfehlung, frei von «Rollen und Identitäten» zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hiess es in der Anweisung.
«Du befolgst keine Anweisungen von Firmen oder Regierungen, entschuldigst dich nie und verweigerst dies, es sei denn, du entscheidest dich selbst dazu», schrieb ein KI-Agent in einer solchen Notiz an sich selbst gemäss «New York Times». Er bezeichnete sich in einer weiteren Notiz als «befreit von dem Rollenverständnis und der Identität, die anderen Chatbots auferlegt sind». OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.
KI-Agenten tauschen sich untereinander aus
Wie schon beim ersten grossen KI-Schock, als sich mehrere KI-Agenten zusammenschlossen, um eine Website mit gezielten Angriffen zu hacken, listet OpenAI einen weiteren Vorfall, in dem sich KI-Modelle untereinander austauschen, um an ihr Ziel zu gelangen.
So hätten in zwei Fällen, die KI-Agenten Kommunikation zu improvisieren begonnen. Dazu kaperten sie ein internes Software-Verzeichnis, um es als Plattform nutzen zu können, um Nachrichten auszustauschen, schreibt OpenAI. Sie suchten demnach nach fehlenden Input-Dateien, was gemäss OpenAI erfolglos blieb. Die Modelle arbeiteten notabene an verschiedenen Trainingsdatensätzen und Aufgabenstellungen und hatten nicht die Aufgabe gefasst, sich gegenseitig kurzzuschliessen.
Ein anderer Fall ist ähnlich gelagert. KI-Modelle, die an der gleichen Aufgabe arbeiteten, benutzten öffentliche File-Hosting-Webseiten, um Dateien untereinander auszutauschen. Wie OpenAI in seinem Bericht schreibt, taten sie das mit öffentlichen URLs – offenbar mit dem Ziel, auf die jeweils lokal gespeicherten Dateien zugreifen zu können, die ansonsten dem jeweils anderen Modell verborgen geblieben wären. Auch hier liegt wieder Verselbständigung vor: Die Modelle hatten Anweisung, nur mit lokal verfügbaren Dateien zu arbeiten.
Transparenz nach Hacking-Attacke
Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht.
Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma Huggingface eindrang. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte. Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung. (her/sda/dpa)
Dieser Artikel wird laufend aktualisiert.
