Eidgenössische Kommissionen warnen vor Diskriminierung durch KI
Eidgenössische Kommissionen warnen vor Diskriminierung durch künstliche Intelligenz (KI), zum Beispiel bei Bewerbungen. Ihre Empfehlungen richten sich an die Politik, aber auch an Verwaltung, Wirtschaft und Forschung. Die Kommissionen fordern Bundesrat und Parlament dazu auf, sich zu einer diskriminierungsfreien KI zu bekennen.
Der Schutz vor algorithmischer Diskriminierung solle in Politik und Verwaltung höchste Priorität erhalten, forderten Vertreter der Eidgenössischen Kommission für Frauenfragen (EKF) und der Eidgenössischen Kommission gegen Rassismus (EKR) am Dienstag vor den Medien in Bern.
Die beiden Kommissionen haben sich dem Themenkomplex der rassistischen und geschlechtsspezifischen Diskriminierung durch algorithmische Systeme angenommen und zogen eine erste Zwischenbilanz.
Eröffnet wurde der Anlass von Bundesrätin Elisabeth Baume-Schneider. Sie stellte die Erarbeitung einer Regelung der künstlichen Intelligenz bis Ende 2026 durch den Bund in Aussicht. Diese Vorlage werde die KI-Konvention des Europarats in schweizerisches Recht überführen. Und sie lege die erforderlichen gesetzlichen Massnahmen fest – insbesondere in den Bereichen Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht.
Die Kommissionen fordern, dass die Arbeiten des Bundes durch einen ständigen Beirat begleitet und die entsprechenden Ressourcen bereitgestellt werden. Neben der Forderung, ein allgemeines Gleichbehandlungsgesetz zu schaffen, umfassen die Empfehlungen auch Anpassungen im bestehenden Datenschutzrecht, die Schaffung einer Beratungsstelle und öffentlicher Verzeichnisse sowie Bildungsmassnahmen und die Förderung diskriminierungsfreier KI in Wirtschaft und Verwaltung.
Darüber hinaus sollen interdisziplinäre Forschungsprojekte zur Verhinderung von algorithmischer Diskriminierung gefördert werden.
Reproduktion von Ungleichheiten
Algorithmische Systeme würden teilweise in sehr sensiblen Bereichen eingesetzt, etwa bei der automatisierten Auswertung von Bewerbungen, in der Steuerveranlagung oder bei der biometrischen oder medizinischen Bilderkennung, so die Kommissionen. Das berge Risiken. Technologien, die auf Künstlicher Intelligenz basierten, reproduzierten bestehende gesellschaftliche Ungleichheiten und hätten ein hohes Diskriminierungspotenzial.
Heute sei wissenschaftlich klar belegt, dass das Risiko von algorithmischer Diskriminierung – sei es auf Basis von Merkmalen wie Geschlecht, Herkunft oder Lebensform – real sei. Solche Diskriminierungen zeigten sich etwa, wenn KI-Systeme darüber entscheiden, wer Anrecht auf einen Kredit habe, wer zum Bewerbungsgespräch eingeladen werde oder wer Sozialversicherungsleistungen beziehen dürfe.
(sda)
