Anthropic veröffentlicht KI-Modell Mythos in abgespeckter Version
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht. Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag mitteilte.
Verschiedene Akteure, darunter deutsche Verfassungsschützer und Sicherheitspolitiker, hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen KI-Chatbot Claude bekannt, Claude Mythos und Claude Fable sind Teil einer neuen Spezialreihe von KI-Sprachmodellen, die parallel zur Standard-Produktlinie (wie Claude Sonnet oder Opus) existiert.
Fable 5 ist ein Modell der Mythos-Klasse. Laut der Entwicklerfirma übertrifft es die Leistungsfähigkeit «aller Modelle, die wir bisher allgemein verfügbar gemacht haben». Es zeige aussergewöhnliche Leistungen in den Bereichen Softwareentwicklung, Wissensarbeit, Bildverarbeitung, wissenschaftliche Forschung und anderen.
«Ohne Schutzmassnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten», räumte die KI-Entwicklerfirma mit Sitz in San Francisco in einem am Dienstag veröffentlichten Blog-Beitrag ein.
Die Version Fable 5 beantworte Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte. Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war. Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hiess es dazu.
Mythos: Grosse Sorgen wegen möglicher Risiken
Die Mythos-Modellreihe kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Vor einigen Monaten hatte das KI-Modell Mythos Preview teilweise über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufgespürt. Das löste die Sorge aus, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.
Als riskant gilt vor allem die militärische Nutzung von generativer künstlicher Intelligenz. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Das US-Unternehmen erklärte, man wolle KI nicht zur «Massenüberwachung im Inland» oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als «Sicherheitsrisiko in der Lieferkette» ein, wogegen das Unternehmen sich juristisch wehrt.
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei «wahrscheinlich sinnvoll», damit Forschung und Gesellschaft Schritt halten könnten. An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein. Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI.
Anthropic wurde zuletzt von privaten Investoren und Risikokapitalgebern anlässlich einer neuen Finanzierungsrunde mit 965 Milliarden Dollar (rund 770 Milliarden Franken) bewertet.
Quellen
- anthropic.com: Claude Fable 5 and Claude Mythos 5 (9. Juni)
(dsc/t-online)
