KI-Kunstklau und die Herausforderungen des Schutzes digitaler Werke

Einleitung

Die rasante Entwicklung von KI-Bildgeneratoren hat nicht nur neue Möglichkeiten in der Kunstwelt eröffnet, sondern auch erhebliche Herausforderungen für Künstler:innen und Urheber:innen mit sich gebracht. Software wie Glaze oder Mist sollte ursprünglich dazu dienen, Kunstwerke vor dem "Style Cloning" durch KI-Modelle zu schützen. Doch aktuelle Forschungsergebnisse zeigen, dass diese Schutzmaßnahmen leicht umgangen werden können.

Hintergrund

KI-Bildgeneratoren wie DALL-E, Midjourney und Stable Diffusion haben die Fähigkeit, Kunstwerke im Stil bestimmter Künstler:innen zu erzeugen, ohne dass diese an den Erlösen beteiligt werden. Diese Modelle sind oft mit Bildern aus dem Internet trainiert, die ohne Zustimmung der Urheber:innen verwendet wurden. Dies hat zu einer breiten Diskussion über die rechtlichen und ethischen Implikationen geführt.

Technische Details des Schutzes

KI-Bildgeneratoren arbeiten im sogenannten "latenten Raum", wo sie wesentliche Merkmale von Bildern lernen. Softwaretools wie Glaze und Nightshade verändern gezielt einzelne Pixel in den zu schützenden Bildern. Diese Veränderungen sind für das menschliche Auge unsichtbar, führen jedoch dazu, dass der Autoencoder beim Training völlig andere, falsche Merkmale erkennt. Diese Technik, bekannt als "adversarial attacks", wird auch in anderen Bereichen wie der Verkehrszeichenerkennung für autonome Autos eingesetzt.

Schwachstellen der Schutzmaßnahmen

Forscher:innen der ETH Zürich und von Deepmind haben gezeigt, dass die gängigsten Schutzmethoden relativ leicht ausgehebelt werden können. Sie nutzen Techniken wie das Hochskalieren von Bildern oder alternative Feinabstimmungsskripts, um die Schutzmaßnahmen zu untergraben. In ihrem Paper beschreiben sie vier erfolgreiche Angriffsmethoden auf Tools wie Glaze, Mist und Anti-DreamBooth, von denen drei keine technischen Kenntnisse erfordern.

Reaktionen der Entwickler

Das Glaze-Team hat auf die Kritik mit einem Update reagiert, das jedoch nach Ansicht der Sicherheitsforscher:innen das Problem nicht löst. Sie argumentieren, dass auch der verbesserte Code geknackt werden kann und nichts einen potenziellen Angreifer daran hindert, geschützte Bilder einfach herunterzuladen. Die Aufforderung des Glaze-Teams an Urheber:innen, ihre Bilder erneut mit der neuen Version der Software zu schützen, sei nutzlos, da einmal heruntergeladene Bilder nicht neu geschützt werden können.

Grundsätzliche Sicherheitsfragen

Der Streit hat sich mittlerweile von technischen Fragen zu grundsätzlichen Sicherheitsfragen verlagert. Das Glaze-Team weigert sich, den Code offenzulegen, um weitere Schwachstellen zu identifizieren, aus Angst vor gefälschten Versionen des Programms. Dies führte zu Vorwürfen von "Security by Obscurity", einem umstrittenen Konzept, das bei vielen Sicherheitsforschern als gescheitert gilt.

Langfristige Lösungen

Die Diskussion zeigt, dass schwache, angreifbare Sicherheitstools eine falsche Vorstellung von Sicherheit vermitteln können. Langfristig wird sich das Problem nur politisch und juristisch lösen lassen. Es bedarf klarer Regelungen, die den Schutz digitaler Werke gewährleisten und gleichzeitig die Entwicklung von KI-Technologien nicht behindern.

Fazit

Die Veröffentlichung des Papers zu den Schwachstellen von Glaze und Co. hat die Diskussion über den Schutz digitaler Werke durch KI neu entfacht. Langfristig müssen politische und juristische Lösungen gefunden werden, um Künstler:innen und ihre Werke zu schützen, ohne die technologische Entwicklung zu behindern. Die Medienindustrie muss sich der Frage stellen, wie sie Kreative fair an den Erlösen beteiligen kann, die durch die Nutzung ihrer Stile und Werke generiert werden.

Bibliographie

- https://t3n.de/news/tools-gegen-ki-bildgeneratoren-1635838/ - https://t3n.de/news/tools-gegen-ki-bildgeneratoren-was-die-schwachstellen-in-glaze-und-co-fuer-kuenstler-und-ihre-werke-bedeuten-1635838/?utm_source=rss&utm_medium=feed&utm_campaign=news - https://newstral.com/de/article/de/1255749576/ki-kunstklau-wie-glaze-und-co-den-kampf-um-den-schutz-digitaler-werke-verlieren - https://www.unesco.de/wissen/ethik/kuenstliche-intelligenz/schutz-und-foerderung-der-vielfalt-kultureller-ausdrucksformen - https://urheber.info/media/pages/diskurs/ruf-nach-schutz-vor-generativer-ki/03e4ed0ae5-1681902659/finale-fassung_de_urheber-und-kunslter-fordern-schutz-vor-gki_final_19.4.2023_12-50.pdf - https://www.heise.de/news/Bildgeneratoren-Glaze-soll-Kunst-fuer-KI-unlernbar-machen-7495423.html - https://www.boehmert.de/bulletin-2024-kuenstliche-intelligenz-und-urheberrecht/ - https://newstral.com/de/articles - https://www.unesco.de/termine/schutz-und-foerderung-der-vielfalt-kultureller-ausdrucksformen-im-kontext-von-ki