Künstliche Intelligenz im Unternehmen: Auswirkungen des neuen EU-AI-Acts

Einleitung

Künstliche Intelligenz (KI) hat in den letzten Jahren eine bedeutende Rolle in Unternehmen eingenommen. Die Möglichkeiten, die KI bietet, sind vielfältig und reichen von der Automatisierung von Prozessen bis hin zur Verbesserung von Kundenerfahrungen. Mit der steigenden Nutzung von KI-Systemen wächst jedoch auch die Notwendigkeit, diese Technologien angemessen zu regulieren. Der kürzlich verabschiedete EU-AI-Act markiert einen bedeutenden Schritt in diese Richtung und legt den rechtlichen Rahmen für den Einsatz von KI in Unternehmen fest.

Die Anwendungsbereiche von KI

KI findet in unterschiedlichsten Unternehmensbereichen Anwendung. Im Marketing können KI-gestützte Systeme personalisierte Werbekampagnen erstellen, die auf detaillierten Datenanalysen basieren. Im Kundenservice kommen Chatbots und Voicebots zum Einsatz, die auf Anfragen in Echtzeit reagieren. In der Produktion und Qualitätskontrolle helfen KI-Systeme dabei, Fehler frühzeitig zu erkennen und zu beheben. Auch in der Medizin, der Automobilindustrie und der Gebäudesicherheit spielt KI eine immer größere Rolle.

Ein besonders prominentes Beispiel für den Einsatz von KI ist ChatGPT, ein Sprachmodell, das in der Lage ist, menschenähnliche Texte zu generieren. Seit seiner Veröffentlichung hat ChatGPT weltweit Millionen von Nutzern gewonnen und zeigt das immense Potenzial von KI in der Textverarbeitung und Kommunikation.

Rechtliche Anforderungen an KI-Systeme

Mit der Einführung von KI in Unternehmen gehen zahlreiche rechtliche Herausforderungen einher. Ein zentrales Thema ist der Datenschutz. KI-Systeme, die personenbezogene Daten verarbeiten, müssen den Bestimmungen der Datenschutz-Grundverordnung (DSGVO) entsprechen. Dazu gehört unter anderem die Durchführung einer Datenschutzfolgenabschätzung und die Sicherstellung der Betroffenenrechte.

Ein weiteres wichtiges Thema ist die Haftung. Mit dem neuen EU-AI-Act wird die Haftung von KI-Systemen klarer geregelt. So können Unternehmen, die KI-Systeme anbieten, bei Schäden haftbar gemacht werden. Dies betrifft insbesondere Hochrisiko-KI-Systeme, die strengen Anforderungen unterliegen.

Der EU-AI-Act: Ein Überblick

Der EU-AI-Act wurde am 21. Mai 2024 vom Rat der Europäischen Union gebilligt und ist der erste umfassende Rechtsrahmen für KI weltweit. Die Verordnung sieht einen risikobasierten Ansatz vor, bei dem KI-Systeme in verschiedene Risikokategorien eingeteilt werden. Diese Kategorien bestimmen die jeweiligen Pflichten und Anforderungen an die Systeme.

Hochrisiko-KI-Systeme

Hochrisiko-KI-Systeme sind Anwendungen, die eine erhebliche Gefahr für die Sicherheit oder die Grundrechte der Menschen darstellen. Dazu gehören beispielsweise KI-Systeme in Medizinprodukten oder zur biometrischen Identifizierung. Diese Systeme unterliegen strengen technischen Anforderungen und umfangreichen Transparenzpflichten. Unternehmen, die solche Systeme einsetzen, müssen sicherstellen, dass die verwendeten Trainingsdaten von hoher Qualität sind und die Ergebnisse regelmäßig überprüft werden.

KI-Systeme mit geringem Risiko

Auch KI-Systeme, die nicht als Hochrisiko eingestuft werden, müssen bestimmte Anforderungen erfüllen. Dazu gehört die Gewährleistung der Transparenz gegenüber den Nutzern. Unternehmen müssen offenlegen, wie die KI-Systeme funktionieren und welche Daten verarbeitet werden.

Verbotene KI-Praktiken

Der EU-AI-Act verbietet bestimmte KI-Praktiken, die als inakzeptabel hohes Risiko eingestuft werden. Dazu zählt beispielsweise das Social Scoring, bei dem das Verhalten von Menschen bewertet und beeinflusst wird. Auch bestimmte Formen der biometrischen Videoüberwachung sind verboten.

Compliance und Sanktionen

Unternehmen, die KI-Systeme einsetzen, müssen sicherstellen, dass sie den Anforderungen des EU-AI-Acts entsprechen. Andernfalls drohen erhebliche Sanktionen. Bei Verstößen können Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes verhängt werden. Daher ist es für Unternehmen entscheidend, frühzeitig Maßnahmen zu ergreifen, um die Einhaltung der neuen Vorschriften sicherzustellen.

Chancen und Herausforderungen

Der EU-AI-Act stellt Unternehmen vor zahlreiche Herausforderungen, bietet aber auch Chancen. Die strengen Anforderungen an Hochrisiko-KI-Systeme können dazu beitragen, das Vertrauen der Nutzer in KI-Technologien zu stärken. Gleichzeitig können Unternehmen, die die Anforderungen erfüllen, ihre Innovationsfähigkeit unter Beweis stellen und sich einen Wettbewerbsvorteil verschaffen.

Fazit

Der EU-AI-Act markiert einen wichtigen Schritt in der Regulierung von KI in Unternehmen. Die Verordnung schafft einen klaren rechtlichen Rahmen und stellt sicher, dass KI-Systeme sicher und transparent eingesetzt werden. Für Unternehmen bedeutet dies, dass sie sich intensiv mit den neuen Anforderungen auseinandersetzen und entsprechende Maßnahmen ergreifen müssen. Langfristig kann der EU-AI-Act jedoch dazu beitragen, das Vertrauen in KI-Technologien zu stärken und deren Einsatz in der Wirtschaft zu fördern.

Bibliography:
- https://www.finanznachrichten.de/nachrichten-2024-05/62316962-ki-im-unternehmen-was-mit-dem-beschluss-des-eu-ai-acts-wichtig-wird-397.htm
- https://twitter.com/t3n/status/1793879378977341572
- https://digital-strategy.ec.europa.eu/de/policies/european-approach-artificial-intelligence
- https://klardenker.kpmg.de/was-der-eu-ai-act-fuer-unternehmen-bedeutet/
- https://www.ihk-muenchen.de/de/Service/Recht-und-Steuern/Datenschutz/ki/
- https://www.bmwk.de/Redaktion/DE/Pressemitteilungen/2024/02/20240202-rahmen-fur-kunstliche-intelligenz-in-der-eu-steht-ki-verordnung-einstimmig-gebilligt.html
- https://www.humanresourcesmanager.de/arbeitsrecht/eu-ai-act-neue-ki-verordnung/
- https://www.vier.ai/unternehmen/blog/eu-ai-act-teil2/
- https://background.tagesspiegel.de/digitalisierung/wie-geht-s-beim-ai-office-weiter