Die EU-KI-Verordnung: Ein umfassender Rechtsrahmen für Künstliche Intelligenz

Die Europäische Union hat mit dem AI Act (Artificial Intelligence Act) einen Meilenstein in der Regulierung von Künstlicher Intelligenz (KI) gesetzt. Diese Verordnung, die im Juni 2023 verabschiedet wurde und im August 2024 in Kraft tritt, stellt den weltweit ersten umfassenden Rechtsrahmen für KI dar und soll einen sicheren und verantwortungsvollen Einsatz dieser Technologie gewährleisten. Der AI Act folgt einem risikobasierten Ansatz, der KI-Systeme in vier Kategorien einteilt, abhängig von ihrem potenziellen Gefährdungspotenzial.

Risikobasierter Ansatz: Vier Kategorien von KI-Systemen

Der AI Act klassifiziert KI-Systeme in vier Risikostufen, die jeweils unterschiedliche Anforderungen und Verpflichtungen mit sich bringen:

1. Unannehmbares Risiko: Verbotene KI-Praktiken

KI-Systeme, die als inakzeptabel riskant eingestuft werden, sind verboten. Dazu gehören Systeme, die:

• Das Verhalten von Menschen manipulieren und ihnen so Schaden zufügen könnten.
• Social Scoring betreiben, also Menschen aufgrund ihres Sozialverhaltens oder ihrer Persönlichkeit bewerten.
• Echtzeit-Gesichtserkennung im öffentlichen Raum für Strafverfolgungszwecke durchführen (mit Ausnahmen).

2. Hohes Risiko: Strenge Auflagen und Kontrollen

KI-Systeme, die in sensiblen Bereichen wie kritischer Infrastruktur, Strafverfolgung, Gesundheitswesen, Bildung oder Personalmanagement eingesetzt werden, gelten als hochriskant und unterliegen strengen Auflagen. Dazu gehören:

• Umfassende Risikobewertungen und -minderungsmaßnahmen.
• Sicherung der Datenqualität und -sicherheit.
• Menschliche Aufsicht und Kontrolle der KI-Systeme.
• Klare Dokumentation und Transparenz der Funktionsweise.
• Konformitätsbewertung vor Inbetriebnahme.

3. Begrenztes Risiko: Transparenzpflichten

KI-Systeme mit begrenztem Risiko unterliegen Transparenzpflichten. Dazu gehören Systeme, die:

• Mit Menschen interagieren, z.B. Chatbots.
• Inhalte generieren oder manipulieren, z.B. Deepfakes.

Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und künstlich generierte Inhalte müssen als solche gekennzeichnet sein.

4. Minimales Risiko: Keine besonderen Auflagen

Die meisten KI-Systeme, die derzeit im Einsatz sind, fallen in die Kategorie des minimalen Risikos. Dazu gehören z.B. KI-Systeme in Videospielen oder Spamfiltern. Diese Systeme unterliegen keinen besonderen Auflagen durch den AI Act.

Umsetzung und Durchsetzung des AI Act

Die Umsetzung des AI Act erfolgt schrittweise. Die Verbote für inakzeptabel riskante KI-Praktiken gelten bereits seit Februar 2025. Die Regelungen für KI-Modelle mit allgemeinem Verwendungszweck (z.B. ChatGPT) sind seit August 2026 anwendbar, und die Vorschriften für bestimmte Hochrisikosysteme gelten seit August 2027.

Die EU-Kommission hat das "AI Office" eingerichtet, um die Einhaltung des AI Act zu überwachen und zu koordinieren. Zudem müssen die EU-Mitgliedstaaten nationale Aufsichtsbehörden benennen, die für die Durchsetzung der Verordnung auf nationaler Ebene zuständig sind.

Auswirkungen des AI Act auf Unternehmen

Der AI Act hat weitreichende Auswirkungen auf Unternehmen, die KI-Systeme in der EU entwickeln, anbieten oder nutzen. Insbesondere Unternehmen, die Hochrisiko-KI-Systeme einsetzen, müssen ihre Prozesse und Systeme an die neuen Anforderungen anpassen. Dazu gehören die Implementierung von Risikomanagementsystemen, die Sicherstellung der Datenqualität und -sicherheit sowie die Einführung von Mechanismen zur menschlichen Aufsicht.

Unternehmen sollten sich frühzeitig mit den Anforderungen des AI Act auseinandersetzen, um rechtzeitig die notwendigen Maßnahmen ergreifen zu können. Die Nichteinhaltung der Verordnung kann zu hohen Geldbußen führen.

Der AI Act: Ein wichtiger Schritt für verantwortungsvolle KI

Der AI Act ist ein wichtiger Schritt, um einen sicheren, verantwortungsvollen und vertrauenswürdigen Einsatz von KI in Europa zu gewährleisten. Durch seinen risikobasierten Ansatz ermöglicht er es, das Potenzial der KI zu nutzen und gleichzeitig die Grundrechte und Sicherheitsinteressen der Bürger zu schützen. Die Verordnung wird auch international als Vorbild für die Regulierung von KI dienen und dazu beitragen, dass diese Technologie zum Wohle der Menschheit eingesetzt wird.

Bibliografie

https://www.heise.de/news/EU-AI-Act-Neue-Regeln-fuer-den-Einsatz-von-KI-verstehen-und-umsetzen-9865063.html

https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai

https://artificialintelligenceact.eu/de/

https://www.moin.ai/chatbot-lexikon/eu-ai-act

https://www.bdo.de/de-de/insights/aktuelles/assurance/inkrafttreten-des-eu-ai-act-was-unternehmen-jetzt-wissen-muessen

https://www.haufe.de/finance/jahresabschluss-bilanzierung/eu-ai-act-neues-idw-knowledge-paper-gibt-ueberblick_188_631548.html

https://digital-strategy.ec.europa.eu/de/policies/european-approach-artificial-intelligence

https://artificialintelligenceact.eu/de/ai-act-explorer/

https://www.bmwk.de/Redaktion/DE/Pressemitteilungen/2024/02/20240202-rahmen-fur-kunstliche-intelligenz-in-der-eu-steht-ki-verordnung-einstimmig-gebilligt.html

https://www.basecamp.digital/ki-verstehen-welche-konsequenzen-ergeben-sich-aus-dem-ai-act/