Künstliche Intelligenz im Rechtsrahmen: Der EU AI Act

Die Europäische Union (EU) setzt mit dem "AI Act" (Artificial Intelligence Act) einen Meilenstein in der Regulierung von Künstlicher Intelligenz (KI). Dieses Gesetzgebungsvorhaben zielt darauf ab, einen Rechtsrahmen für KI-Systeme zu schaffen, der sowohl Innovation fördert als auch Grundrechte und Sicherheit der Bürger schützt. Der AI Act ist der erste umfassende Rechtsrahmen für KI weltweit und wird voraussichtlich globale Standards setzen.

Risikobasierter Ansatz: Die vier Risikostufen des AI Act

Der EU AI Act verfolgt einen risikobasierten Ansatz. Das bedeutet, dass die Regulierung sich nach dem potenziellen Risiko richtet, das von einem KI-System ausgeht. Es werden vier Risikostufen definiert:

• Inakzeptables Risiko: KI-Systeme, die in diese Kategorie fallen, sind verboten. Dazu gehören Systeme, die als Gefahr für die Sicherheit, die Grundrechte oder die Demokratie eingestuft werden. Beispiele hierfür sind Social Scoring-Systeme oder KI-Systeme, die zur Manipulation des menschlichen Verhaltens eingesetzt werden.
• Hohes Risiko: KI-Systeme, die in kritischen Bereichen wie Gesundheitswesen, Bildung, Strafverfolgung oder Finanzwesen eingesetzt werden und potenziell erhebliche Auswirkungen auf die Sicherheit oder die Grundrechte von Personen haben können, fallen in diese Kategorie. Für diese Systeme gelten strenge Anforderungen an Transparenz, Datenqualität, menschliche Aufsicht und Zertifizierung.
• Begrenztes Risiko: KI-Systeme mit begrenztem Risiko unterliegen Transparenzpflichten. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren. Ein Beispiel hierfür sind Chatbots.
• Minimales Risiko: Die meisten KI-Systeme, die derzeit im Einsatz sind, fallen in diese Kategorie, wie z. B. KI-gestützte Videospiele oder Spamfilter. Diese Systeme unterliegen keinen besonderen Anforderungen.

Die Kerninhalte des EU AI Act im Detail

Der AI Act enthält eine Reihe von Vorgaben, die für Anbieter und Nutzer von KI-Systemen relevant sind. Zu den wichtigsten Inhalten zählen:

Verbotene KI-Praktiken

Der AI Act verbietet bestimmte KI-Praktiken, die als besonders kritisch eingestuft werden. Dazu gehören unter anderem:

* Der Einsatz von KI-Systemen zur Manipulation des menschlichen Verhaltens, die zu physischem oder psychischem Schaden führen können. * Die Nutzung von KI-Systemen zur Bewertung oder Klassifizierung des sozialen Verhaltens von Personen ("Social Scoring"). * Der Einsatz biometrischer Fernidentifizierungssysteme in Echtzeit im öffentlichen Raum zu Strafverfolgungszwecken, es sei denn, es liegen spezielle Ausnahmen vor (z.B. Suche nach vermissten Kindern).

Anforderungen an Hochrisiko-KI-Systeme

Anbieter von Hochrisiko-KI-Systemen müssen sicherstellen, dass ihre Systeme bestimmte Anforderungen erfüllen. Dazu gehören unter anderem:

* Einrichtung eines Risikomanagementsystems. * Nutzung hochwertiger Trainingsdaten, um Diskriminierung zu minimieren. * Dokumentation der Funktionsweise des Systems. * Sicherstellung einer angemessenen menschlichen Aufsicht. * Einhaltung von Cybersicherheitsstandards.

Transparenzpflichten

Für bestimmte KI-Systeme, insbesondere solche mit begrenztem Risiko, gelten Transparenzpflichten. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren. Anbieter von KI-Systemen, die Bild-, Ton- oder Videomaterial erzeugen oder verändern, müssen sicherstellen, dass diese Inhalte als künstlich erzeugt gekennzeichnet werden.

Governance und Durchsetzung

Der AI Act sieht die Einrichtung eines Europäischen Ausschusses für Künstliche Intelligenz vor, der die Einhaltung der Verordnung überwachen soll. Die Mitgliedstaaten müssen nationale Behörden benennen, die für die Durchsetzung des AI Act zuständig sind. Bei Verstößen gegen die Verordnung können Geldbußen verhängt werden.

Zeitplan und Ausblick

Der AI Act ist am 1. August 2024 in Kraft getreten. Die meisten Regelungen werden 24 Monate nach Inkrafttreten anwendbar sein. Unternehmen haben somit Zeit, sich auf die neuen Vorgaben einzustellen. Es wird jedoch empfohlen, sich frühzeitig mit dem AI Act auseinanderzusetzen, da die Umsetzung der Anforderungen zeitaufwendig sein kann.

Der EU AI Act ist ein wichtiger Schritt in Richtung einer sicheren, vertrauenswürdigen und menschenzentrierten KI. Die Verordnung wird die Entwicklung und den Einsatz von KI in Europa nachhaltig prägen und als Vorbild für andere Regionen der Welt dienen.

Bibliographie

- https://www.heise.de/news/EU-AI-Act-Neue-Regeln-fuer-den-Einsatz-von-KI-verstehen-und-umsetzen-9865063.html
- https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai
- https://artificialintelligenceact.eu/de/
- https://www.moin.ai/chatbot-lexikon/eu-ai-act
- https://www.bdo.de/de-de/insights/aktuelles/assurance/inkrafttreten-des-eu-ai-act-was-unternehmen-jetzt-wissen-muessen
- https://www.haufe.de/finance/jahresabschluss-bilanzierung/eu-ai-act-neues-idw-knowledge-paper-gibt-ueberblick_188_631548.html
- https://digital-strategy.ec.europa.eu/de/policies/european-approach-artificial-intelligence
- https://artificialintelligenceact.eu/de/ai-act-explorer/
- https://www.bmwk.de/Redaktion/DE/Pressemitteilungen/2024/02/20240202-rahmen-fur-kunstliche-intelligenz-in-der-eu-steht-ki-verordnung-einstimmig-gebilligt.html
- https://www.basecamp.digital/ki-verstehen-welche-konsequenzen-ergeben-sich-aus-dem-ai-act/