«KI ist keine unaufhaltsame Naturgewalt»: Führende Schweizer KI-Forscherin über Regulierung
Sie weisen immer wieder auf die Machtfülle hin, die die grossen Techfirmen, die hinter KI-Anwendungen stehen, auf sich vereinen. Warum ist das ein Problem?
Angela Müller: Google, Microsoft, Amazon, Meta und Co. sind mit grossem Abstand die reichsten Firmen der Welt. Sie bieten die Social-Media-Plattformen, Suchmaschinen, KI-Tools und Cloud- und Software-Infrastruktur, an denen es für die öffentliche Verwaltung, Schulen, Medien, Unternehmen und uns als Einzelpersonen praktisch kein Vorbeikommen mehr gibt. Es ist nicht das erste Mal in der Geschichte, dass wir erleben, dass Privatfirmen grosse Macht anhäufen. Aber die Kombination aus wirtschaftlicher, öffentlicher und politischer Macht ist einzigartig: Diese Firmen haben nicht nur Marktmacht, sondern auch eine grosse Meinungsmacht. Und das ist gruselig, wenn man bedenkt, welche offen demokratiefeindlichen Ideologien aus dem Silicon Valley zu vernehmen sind.
Wie können wir diese Machtkonzentration brechen?
Wir können mit rechtsstaatlichen, demokratischen Mitteln Bedingungen einfordern, die die KI-Firmen erfüllen müssen, bevor ihre Produkte auf den Markt kommen, und die jene erfüllen müssen, die KI einsetzen. Gleichzeitig braucht es Massnahmen, die über Regulierung hinausgehen. Wir müssen unbedingt die Forschung im Bereich KI stärken, damit öffentlich finanzierte KI-Lösungen entstehen können. Es ist nämlich kein Naturgesetz, dass KI-Anwendungen nur von Big Tech kommen müssen. Schliesslich ist es wichtig, Journalismus zu fördern und die Demokratiekompetenz in der Bevölkerung zu stärken. Wir befinden uns bereits in einer Informationskrise. Wir dürfen nicht zulassen, dass daraus eine Demokratiekrise wird.
Wo sehen Sie Regulierungsbedarf?
Erstens braucht es verlässliche Sicherheitsmassnahmen, etwa wenn es um die demokratische Meinungsbildung geht oder auch, um Phänomene wie sexualisierte Deepfakes zu verhindern. Die breite Bevölkerung setzt KI-Chatbots, aber auch KI-gestützte Suchmaschinen immer mehr zur Informationsbeschaffung ein. KI-generierte Suchergebnisse sind aber nach wie vor keine verlässliche Informationsquelle. Genau die brauchen wir aber, um uns in einer Demokratie eine Meinung zu bilden. Zweitens ist es wichtig, dass man die Plattformen zur Rechenschaft ziehen kann, wenn sie nicht genug unternehmen, um Risiken für Mensch und Gesellschaft, für Grundrechte und Demokratie zu verhindern. Drittens brauchen wir viel mehr Zugang zu Daten für die Forschung. KI-Systeme und Social-Media-Algorithmen sind Black Boxes. Unsere öffentlichen Debatten finden immer mehr auf diesen privaten Plattformen statt, aber wir haben keinen Zugriff auf deren Daten, um deren Einfluss zu erforschen. Das ist ein Riesenproblem.
Im Februar ist die Vernehmlassung zu einem Bundesgesetz zur Plattformregulierung zu Ende gegangen. Sie haben den Bundesrat dafür kritisiert, dass er sich für die Regulierung sehr viel Zeit lässt. Warum dauert das so lange?
Das Bundesamt für Kommunikation hat schon 2022 einen Bericht vorgelegt, der die Problematik sehr gut aufgezeigt hat. Seither ist aber wenig geschehen. Im April 2025 hat der Bundesrat die geplante Regulierung von Social Media und Suchmaschinen in der Schublade verschwinden lassen. Das war mitten im Zollstreit mit den USA, wo die US-Administration sehr klargemacht hat: Hände weg von Tech-Regulierung. Ich denke, dass dieser Umstand sowie auch die entsprechende Lobby dabei eine Rolle spielten – und das wird auch bei der parlamentarischen Debatte nicht anders sein.
Das jüngste Mitglied im Bundesrat ist Albert Rösti mit seinen 58 Jahren. Fehlt es dem Bundesrat an digitaler Kompetenz?
Natürlich hilft digitale Kompetenz. Aber man braucht keinen Doktorabschluss in Computer Science, um KI zu verstehen, zu diskutieren und zu regulieren. Wir schaffen es auch, andere komplexe Bereiche zu regulieren, etwa die Pharmabranche. Es ist auch eine Erzählung der Tech-Lobby, dass nur sie uns erklären kann, wie sich die Technologie regulieren lässt. Das ist in meinen Augen gefährlich, denn sie ist nicht demokratisch legitimiert.
Sie fordern, dass die Plattformregulierung auch den Bereich generative KI miteinschliesst. Müsste das nicht wie in der EU, die den AI Act verabschiedet hat, in einem separaten Gesetz geregelt werden?
So wie es im Entwurf des Bundesrats steht, gelten die Plattformen als blosse Vermittlerinnen von Inhalten. Das ist überholt, bevor das Gesetz überhaupt in Kraft ist. Wer etwas googelt, erhält nicht mehr einfach eine Liste mit Links, sondern eine KI-generierte Übersicht. Auf X kann man mit der eingebauten KI-Software Grok zum Beispiel sexualisierte Deepfakes generieren und direkt über die Plattform verbreiten. Da kann man sich nicht mehr auf den Standpunkt stellen, die Plattformen vermittelten nur Inhalte.
Welche Auswirkungen von KI auf die Gesellschaft sehen Sie schon heute?
Firmen, aber auch staatliche Institutionen verwenden Algorithmen immer mehr dazu, Entscheidungen über Menschen zu treffen. Firmen setzen sie im Recruiting ein, Behörden im Sozialleistungsbereich oder im Asylwesen. Auch Polizei und Strafverfolgung greifen bereits auf KI zurück – ohne dass dafür eine rechtliche Grundlage bestehen würde. Das sind sehr sensitive Bereiche, in denen der Einsatz dieser Systeme zu Diskriminierungen und Grundrechtsverletzungen führen kann.
Künstliche Intelligenz, Algorithmen, automatisiertes System: Was sind die Unterschiede?
Der AI Act der Europäischen Union, seit Februar 2025, in Kraft, definiert den Begriff KI-System wie folgt: «Ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt».
Ein automatisiertes System kann gleichzeitig auch ein KI-System sein – muss es aber nicht. Zum Beispiel ist ein Spamfilter eines Mailprogramms zwar automatisiert; um als KI zu gelten, fehlt ihm aber die Anpassungsfähigkeit.
Algorithmen sind das Herzstück vieler KI-Systeme. Vereinfacht gesagt sind sie mathematische Anweisungen, mit deren Hilfe Probleme gelöst oder Aufgaben ausgeführt werden. In seiner einfachsten Form produziert ein Algorithmus aus einer Eingabe eine Ausgabe.
Wenn es um Begriffe wie Maschinelles Lernen oder Deep Learning geht, sind jeweils Teilgebiete von KI-Systemen angesprochen. Mit einer grossen Menge an Daten werden Algorithmen darauf trainiert, Muster zu erkennen. Da das System fortlaufend mit weiteren Daten gefüttert wird, spricht man im übertragenen Sinn davon, dass das System lernt. Eine weitere Übertragung ist das neuronale Netz. Es handelt sich dabei um ein Set von Algorithmen, das in Schichten angeordnet maschinelles Lernen ermöglicht und deshalb mit Neuronen des menschlichen Gehirns verglichen wird.
Haben Sie Beispiele dafür?
Jedes Mal, wenn Sie etwas auf Rechnung kaufen, findet im Hintergrund eine Bonitätsprüfung statt, bei der KI-Systeme errechnen, ob Sie zahlungsfähig sind. Bei verurteilten Straftätern und Straftäterinnen gibt es automatisierte Tools, die deren Rückfallwahrscheinlichkeit berechnen. Andere Algorithmen werden eingesetzt, um Radikalisierungstendenzen zu erkennen oder Prognosen über häusliche Gewalt abzugeben.
Das klingt doch erst mal nach sinnvollen Verwendungen von künstlicher Intelligenz. Wo liegt das Problem?
Nicht alle Ziele hinter dem Einsatz von KI sind schlecht. Die Frage ist, wer sie wie einsetzt und mit welchen Konsequenzen? Und können wir uns dagegen wehren? Am Schluss basieren solche Systeme auf statistischen Annahmen. Manchmal passen diese nicht auf den Einzelfall, weil eine Einzelperson nicht immer dem statistischen Mittel entspricht.
Was meinen Sie damit?
KI-Systeme klingen wahnsinnig innovativ, haben aber immer auch einen konservativen Kern. Denn KI braucht Daten, mit denen man sie trainieren muss. Und Daten kommen per se aus der Vergangenheit. Das heisst, KI-Systeme übernehmen auch immer die Denkmuster, die Stereotypen, die in unserer Gesellschaft in der Vergangenheit existiert haben. Und bauen diese dann in ihre Prognosen über die Zukunft ein.
Bestehen in einer Gesellschaft diskriminierende Muster, ist die Gefahr also gross, dass die KI ebenso diskriminierende Entscheidungen trifft. Haben Sie ein Beispiel?
Es gibt Untersuchungen aus dem Recruiting-Bereich. Hat ein Unternehmen in der Vergangenheit vor allem Männer eingestellt, leitet das KI-System unter Umständen daraus ab, dass Männer besser geeignet sind für die Stellen, die in Zukunft besetzt werden sollen. Was dann dazu führt, dass das System eher Männer vorschlägt.
Haben wir eine Alternative zur heutigen KI von Big Tech?
Die grossen Plattformen verschwinden nicht von heute auf morgen, dessen müssen wir uns bewusst sein. Umso wichtiger ist es, dass wir sie mit griffigen Massnahmen zur Rechenschaft ziehen. Die ganze Diskussion rund um künstliche Intelligenz und ihre Regulierung ist ja auch eine Einladung: Wie stellen wir uns die Demokratie in Zukunft vor? Wie können wir sicherstellen, dass die KI uns sowohl als Einzelpersonen als auch als demokratische Gesellschaft zugutekommt?
Welche KI schwebt Ihnen denn vor?
Eine, die so entwickelt und eingesetzt wird, dass sie uns allen tatsächlich zugutekommt, nicht nur einigen wenigen. Das heisst: eine, die die Menschen nicht mehr nur brauchen, um Katzenvideos und sexualisierte Deepfakes zu erstellen. Sondern eine, die wir mit dem Ziel entwickeln und einsetzen, tatsächliche gesellschaftliche Probleme anzugehen, etwa um Stromnetze zu optimieren oder Mobilität nachhaltiger zu gestalten.
Wie viel Zeit haben wir noch, um das Ruder herumzureissen, weg von der Machtkonzentration um Big Tech und hin zu einer Demokratie der Zukunft?
Wir dürfen nicht zulassen, dass ein Gefühl der Lähmung eintritt, im Sinn von: Boah, das überrollt uns jetzt und wir können sowieso nichts mehr dagegen unternehmen. Denn das stimmt nicht: KI ist keine unaufhaltsame Naturgewalt. Es ist eine Technologie, die von Menschen gemacht und eingesetzt wird. Wir können ihr Rahmenbedingungen setzen. Und das müssen wir auch tun. Wir müssen jetzt ins Handeln kommen.
Von der dummen Siri zur mächtigen Apple-KI
Als Siri im Herbst 2011 mit dem iPhone 4S das Licht der Welt erblickte, war die Begeisterung gross. Es war das erste Mal, dass Millionen von Menschen eine digitale Sprachassistentin in die Hand bekamen. Doch die Euphorie verflog schnell...
