KI-Experten und Tech-Grössen fordern sofortigen Entwicklungs-Stopp

Zu den Initianten des offenen Briefes gehört Elon Musk, der OpenAI mitfinanziert hat.Bild: keystone

Diese KI-Experten und Tech-Grössen fordern einen sofortigen Stopp für ChatGPT und Co.

In einem offenen Brief verlangen tausende Unterzeichner einen sofortigen Entwicklungs-Stopp für leistungsfähige KI-Modelle. Andernfalls riskiere man einen gesellschaftlichen Kontrollverlust.

Ein Artikel von

Tech-Multimilliardär Elon Musk fordert einen «unverzüglichen» Entwicklungs-Stopp von KI-Systemen, die leistungsfähiger sind als das umstrittene Sprachmodell GPT-4 der Firma OpenAI.

Musk weist in einem von mehreren tausend IT-Fachleuten, Forschenden und Tech-Führungskräften unterzeichneten offenen Brief auf mögliche Risiken für die Gesellschaft hin, sollte die Entwicklung nicht sofort unterbrochen werden.

«Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?»

Was steht in dem offenen Brief?

In dem in der Nacht auf Mittwoch publizierten Schreiben, das von mehr als 1000 KI-Fachleuten und Tech-Führungskräften unterzeichnet wurde, wird eine sechsmonatige Entwicklungspause gefordert. In dieser Zeit sollten Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Expertinnen und Experten geprüft werden.

«Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind», zitiert die Nachrichtenagentur Reuters aus dem Schreiben.

Weiter heisst es:

«Die KI-Forschung und -Entwicklung sollte sich neu darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen.»

Sollte sich die KI-Branche nicht auf die vorgeschlagene Denkpause einlassen, fordern die Verfasser des offenen Briefes ein Eingreifen staatlicher Regulatoren.

Wer hat den offenen Brief unterzeichnet?

Zu den Unterzeichnerinnen und Unterzeichnern gehören unter anderem Apple-Mitgründer Steve Wozniak, Bestseller-Autor Andrew Yang, Skype-Mitgründer Jaan Tallinn und DeepMind-Entwicklerin Victoria Krakovna.

Aufgeführt werden unter anderem auch:

• Yoshua Bengio, KI-Pionier
• Stuart Russell, KI-Pionier
• Tom Diethe, AstraZeneca, Head of Machine Learning
• Emad Mostaque, CEO von Stability AI (Alphabet)
• Yuval Noah Harari, Historiker
• Evan Sharp, Mitbegründer von Pinterest

Das Schreiben wurde auf der Website des Future of Life Institute veröffentlicht. Es ist eine Online-Petition und kann von allen Interessierten mitunterzeichnet werden.

Laut dem Transparenzregister der Europäischen Union wird das Future of Life Institute hauptsächlich von der Musk Foundation sowie der in London ansässigen Gruppe für effektiven Altruismus «Founders Pledge» und der Silicon Valley Community Foundation finanziert, wie Reuters festhält.

«Der Brief ist nicht perfekt, aber der Geist stimmt: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen.»

Gary Marcus, Professor an der New York University, Mitunterzeichner des offenen Briefes

KI-Experten kritisieren offenen Brief

Es stehen längst nicht alle renommierten KI-Expertinnen und KI-Experten hinter der Aktion, wie The Verge berichtet. So sagte etwa Arvind Narayanan, ausserordentlicher Professor für Informatik in Princeton, dass der offene Brief voller KI-Hype sei, der «es schwieriger macht, reale, auftretende KI-Schäden zu bekämpfen».

Emily M. Bender, Linguistik-Professorin an der University of Washington, twitterte, bei den tatsächlichen Risiken und Schäden gehe es nie um «zu mächtige KI», sondern vielmehr um «Machtkonzentration in den Händen von Menschen, um die Reproduktion von Unterdrückungssystemen, um Schäden am Informationsökosystem und um Schäden am natürlichen Ökosystem (durch verschwenderischen Umgang mit Energieressourcen)».
(dsc)

Wovor warnen die Unterzeichner?

In ihrem Dokument weisen die unterzeichnenden Personen auf die potenziellen Risiken für die Gesellschaft und die Zivilisation durch KI-Systeme hin. «Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?», heisst es fragend.

Und weiter: «Sollten wir nichtmenschliche Geschöpfe entwickeln, die uns schliesslich zahlenmässig übertreffen, überlisten, obsolet machen und ersetzen könnten?»

Es gehe um nicht weniger als um den Kontrollverlust über unsere Zivilisation, heisst es.

Europol warnt auch

Erst vor wenigen Tagen hatte die EU-Polizeibehörde Europol davor gewarnt, dass Kriminelle künstliche Intelligenz wie ChatGPT für Betrug und andere Cyberverbrechen nutzen werden.

Dies biete einen «düsteren Ausblick», heisst es in einem Bericht der europäischen Polizeibehörde mit Sitz in Den Haag. Die sich schnell entwickelnden Fähigkeiten von Chatbots würden künftig nicht nur genutzt, um die Menschheit zu verbessern – sondern auch, um sie zu betrügen.

Seit seiner Veröffentlichung im vergangenen Jahr hat das von Microsoft unterstützte ChatGPT des von Musk mitgegründeten US-Unternehmens OpenAI andere Unternehmen dazu veranlasst, die Entwicklung ähnlicher grosser Sprachmodelle (LLM) zu beschleunigen.

ChatGPT erstellt mithilfe von künstlicher Intelligenz Texte. Die User können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.

Quellen

• futureoflife.org: "Pause Giant AI Experiments: An Open Letter"
• reuters.com: "Musk, experts urge pause on training AI systems more powerful than GPT-4"

(t-online/dsc)