KI-Modell Apertus: Das kann die Schweizer Open-Source-Lösung

bild: severin trösch

KI Kosmos

Apertus oder nicht? Was für und was gegen Open-Source-KI spricht

Mit «Apertus» wagt die Schweiz ein radikales Experiment: ein KI-Modell, bei dem wirklich alles offengelegt wird – von Code über Daten bis zur Architektur. Doch wie offen darf KI sein? Wir ordnen ein.

Severin Trösch

Anfang September veröffentlichte die ETH Zürich zusammen mit der EPFL und dem Swiss National Supercomputing Centre «Apertus» – ein mächtiges Open-Source-KI-Sprachmodell. Der Name «Apertus», lateinisch für «offen», ist Programm. Es wurde nämlich kompromisslos alles veröffentlicht, was zur Reproduktion des Modells erforderlich ist: Code, Trainingsdaten, Architektur. Alles.

Die Apertus-Initiative ist damit die neueste Entwicklung in einer langen Kontroverse: Sollten die Top-Notch-KI-Modelle öffentlich gemacht werden oder eben gerade nicht?

Mal langsam: Was heisst eigentlich «Open-Source»?

«Open-Source» heisst, dass der Quellcode einer Software – also ihr Rezept – öffentlich zugänglich ist. Alle können also den Code anschauen und vor allem als Basis weiterer Entwicklung verwenden. Dies gilt nicht nur bei der KI: Der Firefox-Webbrowser oder das Linux-Betriebssystem sind Beispiele für Initiativen, die schon lange vor den modernen KI-Systemen ihre Quellcodes veröffentlicht und somit viel Innovation ermöglicht haben.

Wie bei Betriebssystemen und Webbrowsern gibt es auch bei den modernen KI-Sprachmodellen sowohl Open- als auch Closed-Source-Varianten: ChatGPT beispielsweise – trotz des leicht ironischen Namens seiner Herstellerfirma «OpenAI» – ist Closed Source. So auch die weiteren Top-Systeme Gemini oder Claude. LLaMA, Mistral oder DeepSeek dagegen sind Modellfamilien, die zumindest teilweise offen zugänglich sind. «Teilweise» heisst dabei, dass im Vergleich zu «Apertus» nicht ganz alle Details der Systeme veröffentlicht werden. Oft fehlen beispielsweise die zugrundeliegenden Trainingsdaten.

Es gibt also Graustufen bezüglich Open Source. Mit ein Bisschen Augenzukneifen lässt sich aber die Unterteilung in offene und geschlossene KI-Systeme wagen. Und es stellt sich natürlich die Frage: Was sind die Vor- und Nachteile der beiden Seiten?

Open-Source-KI vs. Open-Weights-KI

Open-Source-KI ist vollständig transparent und legt Code, Daten und die «Weights» – also die Parameter, die bestimmen, wie das fertige Modell Eingaben verarbeitet – offen. Open-Weights-KI veröffentlicht hingegen nur diese Weights, nicht aber Code oder Daten, und erlaubt so eine offene Nutzung, aber keine vollständige Nachvollziehbarkeit.

Was für Open-Souce-KI spricht

Die wichtigsten Argumente für Open-Sourcing von KI-Modellen sind folgende:

• Innovation: Mit Open Source können alle auf vorhandener Arbeit aufbauen. Für Forschung oder Startups erniedrigt dies die Einstiegshürde zum KI-Spielfeld, was die dezentrale Innovation beschleunigt.
• Demokratisierung: Zugang zur besten Technologie haben nicht nur Big Tech und supermächtige Staaten, sondern alle. Dies führt zu breiterer Machtverteilung statt zu konzentierter Oligopolstellung von wenigen Organisationen.
• Transparenz & Sicherheit: Offene Modelle lassen sich auditieren. Alle können den Code prüfen und allfällige Sicherheitslücken finden, was zu robusteren Systemen und grösserem Vertrauen beiträgt.

Gerade der letzte Punkt, die Erhöhung von Transparenz und Sicherheit, hat bei KI-Systemen eine spezielle Brisanz. Im Gegensatz zu anderen Software-Systemen wie Webbrowsern oder E-Mail-Programmen, ist die KI nämlich viel genereller einsetzbar und somit potenziell um Grössenordnungen einflussreicher.

Zur Person

Severin Trösch ist der Kopf hinter der künstlichen Intelligenz bei der Datahouse AG – einer Firma, die alles mit Daten macht und fast alles davon kann. Die Komplexität hinter der KI hat ihn nicht nur seine letzten Haare gekostet, sondern auch motiviert, das KI-Kauderwelsch so zu erklären, dass auch Nicht-Nerds den Durchblick kriegen.

Wie im letzten Blogteil argumentiert, ist es sogar plausibel, dass KI-Systeme uns Menschen bald die dominante Rolle auf dem Planeten streitig machen. Da scheint es schon sinnvoll, auf Sicherheit zu achten. Wenn es also dank des Open-Source-Paradigmas gelingt, entsprechende Sicherheitslücken früh zu finden, dann los! Alle Modelle sofort Open Source sein – oder nicht? Moment.

Was gegen Open-Source-KI spricht

Zwei der zuvor aufgeführten Pro-Open-Source-Argumente – nämlich Innovation und Sicherheit – kann man auch gegen Open Source drehen:

• Innovation durch finanziellen Anreiz: Firmen, die Milliarden für die Modellentwicklung investieren, können dies weniger monetarisieren, wenn alles Open Source und somit frei zugänglich ist. Mit Closed Source, so das Argument, wird also dank finanziellem Anreiz mehr innoviert.
• Sicherheit durch Kontrolle: Offene Modelle und Technologien können leichter missbraucht werden. Keine zentrale Stelle hat die Kontrolle über die Verwendung. Closed-Source-Technologien dagegen können im Ernstfall effektiver kontrolliert werden.

Der Sicherheitsaspekt verdient auch hier eine spezielle Betrachtung: Je mehr wir davon ausgehen, dass KI-Modelle in naher Zukunft sehr gefährlich sein könnten, desto mehr spricht für Closed-Source-AI. Ein krasses Beispiel: Wüssten wir, dass die aktuell besten KI-Systeme in der Lage wären, auf einen einfachen Befehl hin eine hocheffektive Biowaffe zu entwickeln und weltweit einzusetzen, dann täten wir gut daran, diese Systeme nicht wahllos frei zugänglich zu machen. Denn wenn der Geist mal aus der Flasche ist, dann viel Glück.

Wenn der Geist aus der Flasche, also der Quellcode mal veröffentlicht ist, dann gibt es kein Zurück mehr.bild: severin trösch

Fazit – apertus oder nicht?

Es ist also wieder mal kompliziert: Bezüglich Innovation gibt es Argumente in beide Richtungen. Wohl ist es sogar so, dass Open und Closed Source zusammen ein optimales Innovations-Ökosystem bilden: Dank offener Technologie wird breit innoviert, darauf aufbauend entstehen einzelne kommerzielle Closed-Source-Spitzenprodukte, die wiederum die Open-Source-Community inspirieren.

So passiert auch bei der KI: 2017 wurde die Transformer-Modellarchitektur offen vorgeschlagen, was Jahre später ChatGPT ermöglichte. ChatGPT wiederum gab einen enormen Boost ins ganze KI-Innovations-Ökosystem.

Auch hinsichtlich Sicherheit gibt es nicht Schwarz und Weiss. Bei der Betrachtung, ob Open Source vorzuziehen ist, kommt es nämlich stark darauf an, wie mächtig die jeweiligen Modelle sind. Ilya Sutskever, hochdekorierter KI-Forscher und ehemaliger Chief Scientist von OpenAI, formuliert es so: «Wenn die Leistungsfähigkeit der Modelle tief ist, ist Open Source eine grossartige Sache», aber «irgendwann wird die Leistungsfähigkeit so gross sein, dass es offensichtlich unverantwortlich wäre, Modelle als Open Source zu veröffentlichen.»

Das so-halb-befriedigende Fazit nach all diesen Betrachtungen muss also folgendes sein: Open-Source-KI? Es kommt darauf an – und zwar auf mehrere Faktoren. Deshalb werden wir nicht umhinkommen, das Thema weiter auf dem gesellschaftlichen Radar zu halten und uns immer wieder folgende Fragen zu stellen:

1. Wie mächtig und gefährlich sind die aktuellen Topsysteme?
2. Findet genug und gesunde Innovation statt, um die Gesellschaft bezüglich KI weiterzubringen?
3. Gibt es einen genügend breiten KI-Zugriff, oder konzentriert sich alles in wenigen Händen?

Alles komplexe Fragen. Nutzen wir also den «Apertus-Moment», um diese zu diskutieren.