EU-KI-Regeln in Kraft gesetzt – Bewertung von Sozialverhalten verboten

Zwei KI-Pioniere mit Schattenseiten: ChatGPT, entwickelt vom US-Unternehmen OpenAI, und sein chinesischer Herausforderer DeepSeek. Bild: keystone

EU setzt KI-Regeln in Kraft – Verbot von «Social Scoring» wie in China

Der «AI Act» soll in Europa einen verantwortungsvollen Umgang mit künstlicher Intelligenz gewährleisten.

In der Europäischen Union gelten ab sofort neue Regeln für den Umgang mit Künstlicher Intelligenz (KI). So ist nach dem KI-Gesetz der EU (AI Act) der Einsatz von KI-Programmen verboten, die eine Bewertung nach sozialem Verhalten vornehmen.

Beim sogenannten Social Scoring werden etwa die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

Die Gesichtserkennung im öffentlichen Raum – zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll ebenfalls grundsätzlich nicht erlaubt sein.

Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Massnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden.

Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Konsumentinnen und Konsumenten. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Europa muss aufholen

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Mass an «KI-Kompetenz» verfügen.

Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank, Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. «Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten.» Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde.

(sda/dpa)