KI-Anbieter verstoßen gegen eigene Auflagen: Eine Untersuchung

‍

Einführung

Künstliche Intelligenz (KI) hat sich in den letzten Jahren rasant entwickelt und ist mittlerweile ein integraler Bestandteil unseres Alltags. Von personalisierten Empfehlungen bis hin zu komplexen Entscheidungsprozessen – die Anwendungen sind vielfältig. Doch mit diesen Fortschritten kommen auch Herausforderungen und Risiken, insbesondere im Hinblick auf die Einhaltung von Regulierungen und ethischen Standards. In diesem Artikel beleuchten wir, wie einige KI-Anbieter gegen ihre eigenen Auflagen verstoßen haben, und welche Konsequenzen dies für die Europawahlen und die allgemeine Vertrauenswürdigkeit von KI-Systemen haben könnte.

Hintergrund

Die Europäische Union hat kürzlich das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz, den sogenannten AI Act, verabschiedet. Dieses Gesetz sieht vor, dass KI-Systeme in verschiedene Risikoklassen eingeteilt werden und je nach Risikostufe unterschiedliche Compliance- und Informationspflichten erfüllen müssen. Das Ziel ist es, die Sicherheit, Transparenz und Fairness von KI-Systemen zu gewährleisten und gleichzeitig die Weiterentwicklung der Technologie zu fördern.

Verstöße und ihre Auswirkungen

Trotz der klaren Regelungen und Selbstverpflichtungen der KI-Anbieter wurden jüngst mehrere Fälle bekannt, in denen diese gegen ihre eigenen Auflagen verstoßen haben. Ein besonders brisantes Beispiel betrifft die Erstellung von Fake-Bildern während des Europawahlkampfs. KI-Generatoren wie Stable Diffusion und DALL-E haben es ermöglicht, manipulierte Bilder von prominenten EU-Abgeordneten zu erzeugen. So kursierte etwa ein Bild, das Ursula von der Leyen und Wladimir Putin in einer kompromittierenden Pose zeigt. Obwohl dieses Bild nicht realistisch war, birgt es dennoch ein hohes Missbrauchspotenzial.

Politische Manipulation durch Fake-Bilder

Matthias Spielkamp von der Organisation Algorithm Watch äußerte sich besorgt über die möglichen politischen Manipulationen durch solche Fake-Bilder. Diese könnten genutzt werden, um die öffentliche Meinung zu beeinflussen und das Vertrauen in politische Institutionen zu untergraben. Ein weiteres Beispiel betrifft ein Bild der SPD-Europapolitikerin Mona Akrami, das sie mit einem Kopftuch zeigt, obwohl sie im wirklichen Leben kein Kopftuch trägt. Solche Bilder könnten gezielt eingesetzt werden, um politische Gegner zu diskreditieren und die Gesellschaft zu spalten.

Kritik und Forderungen

SPD-Chefin Saskia Esken kritisierte das Verhalten der KI-Konzerne scharf. Sie betonte, dass solche Fake-Bilder nicht nur als harmloser Spaß abgetan werden könnten, sondern ernsthafte Versuche darstellten, die Demokratie zu untergraben. Esken forderte, dass künstlich erzeugte Bilder eindeutig als solche gekennzeichnet werden müssen, um die Öffentlichkeit vor Manipulation zu schützen.

Regulierungsmaßnahmen

Vor einer Woche haben die EU-Mitgliedsstaaten das weltweit erste KI-Gesetz beschlossen, das bereits vom EU-Parlament verabschiedet wurde. Dieses Gesetz sieht vor, dass künstlich erzeugte Bilder und andere Inhalte eindeutig als solche gekennzeichnet werden müssen. Allerdings kommt dieses Gesetz für die bevorstehenden Europawahlen zu spät, da es erst noch in nationales Recht umgesetzt werden muss.

Strukturen und Sanktionen

Der AI Act sieht vor, dass KI-Systeme nach ihrem Risiko eingeteilt werden:
- Unannehmbares Risiko
- Hohes Risiko
- Geringes Risiko
- Minimales Risiko

Für Systeme mit hohem Risiko, wie etwa KI-gestützte Bewerbungsverfahren, gelten besonders strenge Vorschriften. Anbieter müssen umfangreiche Dokumentationen und Risikoanalysen vorlegen. Bei Verstößen drohen hohe Geldstrafen, die bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes des Unternehmens betragen können.

Urheberrechtsproblematik

Neben der politischen Manipulation gibt es auch rechtliche Herausforderungen im Umgang mit KI-generierten Inhalten. Insbesondere das Urheberrecht stellt ein komplexes Problem dar. Da KI-Systeme oft mit urheberrechtlich geschützten Materialien trainiert werden, besteht die Gefahr, dass der Output dieser Systeme ebenfalls urheberrechtlich geschütztes Material enthält. Dies kann zu rechtlichen Auseinandersetzungen und hohen Strafen führen.

Empfehlungen für Verbraucher

Verbraucher sollten sich der rechtlichen Risiken bewusst sein, die mit der Nutzung von KI-generierten Inhalten einhergehen. Es wird empfohlen, sich vor der Veröffentlichung solcher Inhalte rechtlich abzusichern und die jeweiligen AGB der KI-Anbieter genau zu lesen.

Zukunftsaussichten

Die Verabschiedung des AI Act ist ein wichtiger Schritt in Richtung einer sicheren und fairen Nutzung von Künstlicher Intelligenz. Allerdings bleibt abzuwarten, wie effektiv die Umsetzung der neuen Regelungen sein wird und ob sie tatsächlich dazu beitragen können, die Risiken und Missbrauchspotenziale von KI zu minimieren. Es ist klar, dass sowohl Anbieter als auch Nutzer von KI-Systemen in Zukunft strenger überwacht und reguliert werden müssen.

Fazit

Die jüngsten Verstöße von KI-Anbietern gegen ihre eigenen Auflagen werfen ein Schlaglicht auf die dringende Notwendigkeit strengerer Regulierungen und besserer Überwachungsmechanismen. Die EU hat mit dem AI Act einen wichtigen Schritt in diese Richtung gemacht, doch die Umsetzung und Durchsetzung der neuen Regelungen wird entscheidend sein, um das Vertrauen in Künstliche Intelligenz zu stärken und Missbrauch zu verhindern.

Bibliographie

https://www.e-recht24.de/datenschutz/13243-ki-verordnung.html
https://www.verbraucherportal-bw.de/,Lde/Startseite/Verbraucherschutz/Das+Urheberrecht+und+die+Fallen+bei+Nutzung+von+generativer+KI
https://www.activemind.legal/de/guides/ai-act/
https://www.taylorwessing.com/de/insights-and-events/insights/2022/10/ai-liability-directive-haftungsregeln
https://www.wiwo.de/politik/europa/kuenstliche-intelligenz-eu-beschliesst-ki-gesetz-das-sind-die-neuen-regeln/29810774.html
https://www.cmshs-bloggt.de/rechtsthemen/kuenstliche-intelligenz/ki-verordnung-transparenzpflichten-rechte-fuer-betroffene-ai-office-und-sanktionen/
https://rsw.beck.de/zeitschriften/nzwist/editorial/2024/03/28/ausweitung-der-bu%C3%9Fgeldrechtlichen-verantwortung-f%C3%BCr-ki-rechtsverst%C3%B6%C3%9Fe-auf-der-grundlage-des-artificial-intelligence-act-der-europ%C3%A4ischen-union
https://www.it-business.de/strengere-regeln-bei-der-anwendung-von-ki-a-07ff7d6cba8a824c6dae3cf21ba68074/
https://www.vzbv.de/pressemitteilungen/ki-regulierung-wichtiger-schritt-fuer-mehr-verbraucherrechte