Tech-Multimilliardär Elon Musk fordert einen «unverzüglichen» Entwicklungs-Stopp von KI-Systemen, die leistungsfähiger sind als das umstrittene Sprachmodell GPT-4 der Firma OpenAI.
Musk weist in einem von mehreren tausend IT-Fachleuten, Forschenden und Tech-Führungskräften unterzeichneten offenen Brief auf mögliche Risiken für die Gesellschaft hin, sollte die Entwicklung nicht sofort unterbrochen werden.
In dem in der Nacht auf Mittwoch publizierten Schreiben, das von mehr als 1000 KI-Fachleuten und Tech-Führungskräften unterzeichnet wurde, wird eine sechsmonatige Entwicklungspause gefordert. In dieser Zeit sollten Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Expertinnen und Experten geprüft werden.
«Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind», zitiert die Nachrichtenagentur Reuters aus dem Schreiben.
Weiter heisst es:
Sollte sich die KI-Branche nicht auf die vorgeschlagene Denkpause einlassen, fordern die Verfasser des offenen Briefes ein Eingreifen staatlicher Regulatoren.
Zu den Unterzeichnerinnen und Unterzeichnern gehören unter anderem Apple-Mitgründer Steve Wozniak, Bestseller-Autor Andrew Yang, Skype-Mitgründer Jaan Tallinn und DeepMind-Entwicklerin Victoria Krakovna.
Aufgeführt werden unter anderem auch:
Das Schreiben wurde auf der Website des Future of Life Institute veröffentlicht. Es ist eine Online-Petition und kann von allen Interessierten mitunterzeichnet werden.
Laut dem Transparenzregister der Europäischen Union wird das Future of Life Institute hauptsächlich von der Musk Foundation sowie der in London ansässigen Gruppe für effektiven Altruismus «Founders Pledge» und der Silicon Valley Community Foundation finanziert, wie Reuters festhält.
In ihrem Dokument weisen die unterzeichnenden Personen auf die potenziellen Risiken für die Gesellschaft und die Zivilisation durch KI-Systeme hin. «Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?», heisst es fragend.
Und weiter: «Sollten wir nichtmenschliche Geschöpfe entwickeln, die uns schliesslich zahlenmässig übertreffen, überlisten, obsolet machen und ersetzen könnten?»
Es gehe um nicht weniger als um den Kontrollverlust über unsere Zivilisation, heisst es.
Erst vor wenigen Tagen hatte die EU-Polizeibehörde Europol davor gewarnt, dass Kriminelle künstliche Intelligenz wie ChatGPT für Betrug und andere Cyberverbrechen nutzen werden.
Dies biete einen «düsteren Ausblick», heisst es in einem Bericht der europäischen Polizeibehörde mit Sitz in Den Haag. Die sich schnell entwickelnden Fähigkeiten von Chatbots würden künftig nicht nur genutzt, um die Menschheit zu verbessern – sondern auch, um sie zu betrügen.
Seit seiner Veröffentlichung im vergangenen Jahr hat das von Microsoft unterstützte ChatGPT des von Musk mitgegründeten US-Unternehmens OpenAI andere Unternehmen dazu veranlasst, die Entwicklung ähnlicher grosser Sprachmodelle (LLM) zu beschleunigen.
ChatGPT erstellt mithilfe von künstlicher Intelligenz Texte. Die User können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.
(t-online/dsc)
