bedeckt, wenig Regen10°
DE | FR
Digital
Digitales

OpenAI: KI-Forscher warnten vor «Bedrohung für die Menschheit»

epa10858734 CEO of OpenAI Sam Altman speaks to members of the news media as he arrives to join other tech leaders attending the Senate bipartisan Artificial Intelligence (AI) Insight Forum in the Russ ...
Vielgefragter Mann: Sam Altman, der ehemalige und wohl auch neue Boss bei OpenAI.Bild: keystone

KI-Forscher bei OpenAI sollen vor «Bedrohung für die Menschheit» gewarnt haben

Das amerikanische Start-up OpenAI soll mit einem KI-Geheimprojekt so weit fortgeschritten sein, dass es eine Bedrohung darstellen könne. Davor sollen Forscher den Vorstand gewarnt haben.
23.11.2023, 05:3325.11.2023, 10:17
Mehr «Digital»
Ein Artikel von
t-online

Kurz vor der Entlassung von Sam Altman als Chef des ChatGPT-Entwicklers OpenAI soll der Vorstand laut Insidern vor einer folgenschweren Entdeckung im Bereich der künstlichen Intelligenz (KI) gewarnt worden sein.

In dem Mitarbeiterbrief sei davon die Rede gewesen, dass die Entwicklung eine Bedrohung für die Menschheit darstellen könnte, sagten zwei mit der Angelegenheit vertraute Personen der Nachrichtenagentur Reuters (siehe Quellen).

Das bislang unveröffentlichte Schreiben sei eine wichtige Entwicklung gewesen, die der Entlassung von Altman, dem Aushängeschild der generativen KI, durch den Vorstand vorausgegangen sei. Reuters konnte zunächst keine Kopie des Briefes einsehen. Die OpenAI-Forscher, die den Brief verfasst hatten, reagierten nicht sofort auf eine Anfrage zur Stellungnahme.

Elon Musk, der zu den Mitbegründern von OpenAI gehört, zeigte sich auf seiner Plattform X besorgt. «Sehr besorgniserregend», kommentierte er den Bericht von Reuters. Musk hat in der Vergangenheit immer wieder vor einer unkontrollierten Entwicklung von Künstlicher Intelligenz gewarnt.

Was wissen wir über Projekt «Q*»?

Das Schreiben sei ein Faktor in einer langen Liste von Verfehlungen des Vorstands gewesen, die zu Altmans Entlassung geführt hätten, sagten Insider.

Die Geschäftsführerin Mira Murati habe das Projekt namens «Q*» (sprich: Q-Star) am Mittwoch vor der Belegschaft erwähnt und gesagt, dass vor den Ereignissen am Wochenende ein Brief an den Vorstand geschickt worden sei. OpenAI habe bei Q* Fortschritte gemacht, die nach Ansicht einiger Mitarbeiter einen Durchbruch bei der Suche des Start-ups nach einer Superintelligenz (AGI) darstellen.

OpenAI definiert AGI als KI-Systeme als «autonome Systeme, die den Menschen bei den wirtschaftlich wertvollsten Aufgaben übertreffen». Reuters war nicht in der Lage, die von den Forschern behaupteten Fähigkeiten von Q* unabhängig zu überprüfen.

Sam Altman deutete vergangene Woche an, er sehe die AGI in greifbarer Nähe. «Viermal in der Geschichte von OpenAI, zuletzt in den vergangenen Wochen, hatte ich das Privileg, dabei zu sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen der Entdeckung verschieben, und das ist die berufliche Ehre meines Lebens», sagte er auf dem Asia-Pacific Economic Cooperation Summit. Einen Tag später entliess ihn der Verwaltungsrat von OpenAI.

Update: Nach der Veröffentlichung des Reuters-Berichts widerlegte die OpenAI-Sprecherin angeblich die Annahme, dass Sam Altmans Entlassung in Zusammenhang mit der Entwicklung von Q* stehe. Eine «mit der Angelegenheit vertraute Person» erklärte gegenüber The Verge, dass der Vorstand nie einen Brief über einen solchen Durchbruch erhalten habe und dass der Forschungsfortschritt des Unternehmens bei Altmans plötzlicher Entlassung keine Rolle gespielt habe.

Quellen

(t-online/dsc)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
23 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
23
Schwerer Schlag gegen russische Ransomware-Bande LockBit – Schweiz beteiligt
Ermittler haben Teile der Darknet-Infrastruktur der berüchtigten Cyberkriminellen lahmgelegt. Das wissen wir über «Operation Cronos», die gemäss Europol auch Server in der Schweiz betrifft.

Schwerer Schlag gegen LockBit, eine der gefährlichsten Ransomware-Banden. Auf der Hauptseite der russischen Cyberkriminellen prangt seit Montagabend eine Mitteilung der Polizei, die über die Beschlagnahmung informiert:

Zur Story