Pünktlich zum Börsenstart: Führende KI-Köpfe warnen in Statement vor Anthropic
Eine Koalition von KI-Wissenschaftlern, Forschern, Rechtswissenschaftlern und weiteren Denkern hat passend zum Börsengang der KI-Firma Anthropic in einem Statement vor dieser gewarnt. Rund 430 Personen hatten bis am Donnerstagabend das «MisAnthropic»-Statement unterzeichnet, wie der eigens dafür eingerichteten Website zu entnehmen ist.
Was steht im Statement?
Das Statement war bereits am Vortag des Börsengangs publiziert worden. Die Koalition moniert, dass Anthropic «keine sichere KI-Firma» sei:
Wer hat unterzeichnet?
Unter den Unterzeichnern befindet sich etwa Thomas Wolf, Gründer des KI-Hubs Hugging Face, welcher für rund 13 Milliarden US-Dollar vom Tech-Giganten Nvidia aufgekauft wurde. Hugging Face war im Juli von einem «Sicherheitsvorfall» der Konkurrenzfirma OpenAI betroffen, bei dem sich ein OpenAI-Modell in Server von Hugging Face eingeschlichen hatte.
Ebenfalls zu den Unterzeichnern gehören Igor Babuschkin, Mitgründer der Twitter-KI xAI sowie Dan Hendrycks vom Center for AI Safety (CAIS). Zudem haben mehrere Professoren der Elite-Universität Harvard, ein Nobelpreisträger, drei Gewinner der renommierten Fields-Medaille – der wichtigste Preis für Mathematiker – sowie diverse weitere Persönlichkeiten das Statement unterzeichnet.
Was wird Anthropic vorgeworfen?
In einer zum Statement gehörenden Ankündigung sagte Dan Hendrycks vom CAIS, der Hauptgrund für das Statement sei die merkbare Diskrepanz zwischen Anthropics Branding als «sichere» KI-Firma und dem parallel dazu laufenden Drang, eine selbstverbessernde KI zu entwickeln. Die meisten Unterzeichner des Statements seien sich über fast alles, was KI anginge, uneinig; jedoch teilten alle die grosse Sorge über Anthropics grosse Macht und Ambitionen.
Diverse Gruppen, die sich mit KI-Sicherheit auseinandersetzen, würden dem Statement zwar schweigend zustimmen; aus Angst, ihre Finanzierung zu verlieren, hätten sie jedoch nicht unterzeichnet, so Hendrycks weiter.
(cpf)
