Digital
Künstliche Intelligenz

KI-Experten und Tech-Grössen fordern sofortigen Entwicklungs-Stopp

ARCHIV - 13.08.2021, Brandenburg, Gr�nheide: Elon Musk, Tesla-Chef, steht bei einem Pressetermin auf dem Gel�nde der Tesla Gigafactory. Tech-Milliard�r Elon Musk hat seinen Deal zum Kauf von Twitter a ...
Zu den Initianten des offenen Briefes gehört Elon Musk, der OpenAI mitfinanziert hat.Bild: keystone

Diese KI-Experten und Tech-Grössen fordern einen sofortigen Stopp für ChatGPT und Co.

In einem offenen Brief verlangen tausende Unterzeichner einen sofortigen Entwicklungs-Stopp für leistungsfähige KI-Modelle. Andernfalls riskiere man einen gesellschaftlichen Kontrollverlust.
29.03.2023, 11:4730.03.2023, 07:44
Mehr «Digital»
Ein Artikel von
t-online

Tech-Multimilliardär Elon Musk fordert einen «unverzüglichen» Entwicklungs-Stopp von KI-Systemen, die leistungsfähiger sind als das umstrittene Sprachmodell GPT-4 der Firma OpenAI.

Musk weist in einem von mehreren tausend IT-Fachleuten, Forschenden und Tech-Führungskräften unterzeichneten offenen Brief auf mögliche Risiken für die Gesellschaft hin, sollte die Entwicklung nicht sofort unterbrochen werden.

«Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?»

Was steht in dem offenen Brief?

In dem in der Nacht auf Mittwoch publizierten Schreiben, das von mehr als 1000 KI-Fachleuten und Tech-Führungskräften unterzeichnet wurde, wird eine sechsmonatige Entwicklungspause gefordert. In dieser Zeit sollten Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Expertinnen und Experten geprüft werden.

«Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind», zitiert die Nachrichtenagentur Reuters aus dem Schreiben.

Weiter heisst es:

«Die KI-Forschung und -Entwicklung sollte sich neu darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen.»

Sollte sich die KI-Branche nicht auf die vorgeschlagene Denkpause einlassen, fordern die Verfasser des offenen Briefes ein Eingreifen staatlicher Regulatoren.

Wer hat den offenen Brief unterzeichnet?

Zu den Unterzeichnerinnen und Unterzeichnern gehören unter anderem Apple-Mitgründer Steve Wozniak, Bestseller-Autor Andrew Yang, Skype-Mitgründer Jaan Tallinn und DeepMind-Entwicklerin Victoria Krakovna.

Aufgeführt werden unter anderem auch:

Das Schreiben wurde auf der Website des Future of Life Institute veröffentlicht. Es ist eine Online-Petition und kann von allen Interessierten mitunterzeichnet werden.

Laut dem Transparenzregister der Europäischen Union wird das Future of Life Institute hauptsächlich von der Musk Foundation sowie der in London ansässigen Gruppe für effektiven Altruismus «Founders Pledge» und der Silicon Valley Community Foundation finanziert, wie Reuters festhält.

«Der Brief ist nicht perfekt, aber der Geist stimmt: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen.»
Gary Marcus, Professor an der New York University, Mitunterzeichner des offenen Briefes
KI-Experten kritisieren offenen Brief
Es stehen längst nicht alle renommierten KI-Expertinnen und KI-Experten hinter der Aktion, wie The Verge berichtet. So sagte etwa Arvind Narayanan, ausserordentlicher Professor für Informatik in Princeton, dass der offene Brief voller KI-Hype sei, der «es schwieriger macht, reale, auftretende KI-Schäden zu bekämpfen».

Emily M. Bender, Linguistik-Professorin an der University of Washington, twitterte, bei den tatsächlichen Risiken und Schäden gehe es nie um «zu mächtige KI», sondern vielmehr um «Machtkonzentration in den Händen von Menschen, um die Reproduktion von Unterdrückungssystemen, um Schäden am Informationsökosystem und um Schäden am natürlichen Ökosystem (durch verschwenderischen Umgang mit Energieressourcen)».
(dsc)

Wovor warnen die Unterzeichner?

In ihrem Dokument weisen die unterzeichnenden Personen auf die potenziellen Risiken für die Gesellschaft und die Zivilisation durch KI-Systeme hin. «Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?», heisst es fragend.

Und weiter: «Sollten wir nichtmenschliche Geschöpfe entwickeln, die uns schliesslich zahlenmässig übertreffen, überlisten, obsolet machen und ersetzen könnten?»

Es gehe um nicht weniger als um den Kontrollverlust über unsere Zivilisation, heisst es.

Europol warnt auch

Erst vor wenigen Tagen hatte die EU-Polizeibehörde Europol davor gewarnt, dass Kriminelle künstliche Intelligenz wie ChatGPT für Betrug und andere Cyberverbrechen nutzen werden.

Dies biete einen «düsteren Ausblick», heisst es in einem Bericht der europäischen Polizeibehörde mit Sitz in Den Haag. Die sich schnell entwickelnden Fähigkeiten von Chatbots würden künftig nicht nur genutzt, um die Menschheit zu verbessern – sondern auch, um sie zu betrügen.

Seit seiner Veröffentlichung im vergangenen Jahr hat das von Microsoft unterstützte ChatGPT des von Musk mitgegründeten US-Unternehmens OpenAI andere Unternehmen dazu veranlasst, die Entwicklung ähnlicher grosser Sprachmodelle (LLM) zu beschleunigen.

ChatGPT erstellt mithilfe von künstlicher Intelligenz Texte. Die User können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.

Quellen

(t-online/dsc)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Deepfakes: KI-generierte Promi-Bilder verbreiten sich viral
1 / 15
Wenn sich KI-Bilder viral verbreiten
Nanu, wen haben wir denn da?
Auf Facebook teilenAuf X teilen
Beeindruckend: Schweizer KI-Künstler visualisiert die Geschichte des Krieges
Video: watson
Das könnte dich auch noch interessieren:
92 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
mrmikech
29.03.2023 12:08registriert Juni 2016
«Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?»

OK, und sollen wir zulassen, dass Menschen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?

🤔
21220
Melden
Zum Kommentar
avatar
dmark
29.03.2023 12:15registriert Juli 2016
Hat denn der Kontrollverlust nicht schon begonnen? Betrachtet man alleine die ganzen Filter der sozialen Medien, dann hat man doch schon bereits eine "Fake-World" aufgebaut.
1616
Melden
Zum Kommentar
avatar
res_fuchs
29.03.2023 12:31registriert Januar 2014
Zu spät, ganz nach dem leicht abgewandelten englischen Sprichwort:

„Innovations are like toothpaste – once they’re out, you don’t get them back into the tube.“
1144
Melden
Zum Kommentar
92
Forscher: Musk wird für Tesla zum Kundenschreck
Tesla gilt als einer der Vorreiter im Bereich E-Mobilität. Zuletzt ist das Interesse der Konsumenten jedoch zurückgegangen. Hat das etwas mit dem Image des Tech-Milliardärs zu tun?

An Tesla-Chef Elon Musk scheiden sich die Geister: Die einen sind Fans des umtriebigen Geschäftsmannes. Die anderen sehen den Milliardär wegen politisch rechts gefärbter Kommentare und brachialen Managements seiner Social-Media-Plattform X kritisch. Der Erfolgsfahrt des Elektroautopioniers aus den USA tat das lange Zeit keinen Abbruch. Doch das hat sich nach Einschätzung von Fachleuten geändert.

Zur Story