Die verborgene Gefahr: Künstliche Intelligenz trainiert heimlich mit echten Bildern von Kindern

‍

Einleitung

In einer zunehmend digitalisierten Welt, in der Künstliche Intelligenz (KI) eine immer größere Rolle spielt, kommen auch beunruhigende Wahrheiten ans Licht. Eine aktuelle Untersuchung hat aufgedeckt, dass KI-Tools heimlich mit echten Bildern von Kindern trainiert werden. Diese Praxis wirft gravierende ethische und rechtliche Fragen auf und zeigt die dringende Notwendigkeit für strengere Regulierungen und Schutzmaßnahmen.

Die Entdeckung

Eine Studie der Stanford University hat mehr als 1.000 illegale Bilder, die Kindesmissbrauch darstellen, in einem Open-Source-Datensatz entdeckt, der zur Schulung beliebter Bildgenerierungstools wie Stable Diffusion verwendet wird. Der Datensatz, bekannt als LAION-5B, wurde von der gemeinnützigen Organisation LAION erstellt und enthält über 5 Milliarden Links zu Online-Bildern. Diese Bilder werden von Unternehmen genutzt, um ihre eigenen KI-Modelle zu trainieren.

Reaktionen und Maßnahmen

Die Entdeckung führte zu sofortigen Reaktionen. LAION hat seine Datensätze vorübergehend entfernt, um deren Sicherheit zu gewährleisten, bevor sie wieder veröffentlicht werden. Die Organisation gab an, dass sie "strenge Filter" entwickelt habe, um illegale Inhalte zu erkennen und zu entfernen, bevor diese freigegeben werden. Doch wie konnten dennoch so viele illegale Bilder diese Filter umgehen?

Probleme und Herausforderungen

David Thiel, Chef-Technologe des Stanford Internet Observatory und Autor des Berichts, erklärte, dass viele KI-Entwickler in ihrem Bestreben, schnell auf den Markt zu kommen, grundlegende Sicherheitsmaßnahmen vernachlässigt hätten. "Es war nur eine Frage der Zeit," sagte Thiel. "Wir haben die Schleusen geöffnet, als ein Unternehmen nach dem anderen seine Modelle ohne Schutzmaßnahmen veröffentlichte."

Die Gefahr für Kinder

Die Verwendung von echten Kinderbildern zur Schulung von KI-Modellen birgt erhebliche Risiken. Diese Modelle können verwendet werden, um realistische, explizite Bilder von Kindern zu erstellen, selbst wenn diese Kinder in Wirklichkeit vollständig bekleidet sind. Diese Deepfakes können dann genutzt werden, um Kinder zu erpressen oder zu schikanieren.

Ein besonders alarmierender Fall ereignete sich in New Jersey, wo männliche Highschool-Schüler KI nutzten, um gefälschte Nacktbilder ihrer Mitschülerinnen zu erstellen und zu verbreiten. Solche Vorfälle zeigen, wie leicht diese Technologie missbraucht werden kann.

Internationale Reaktionen

Die internationale Gemeinschaft reagiert zunehmend besorgt auf diese Entwicklungen. In Brasilien hat der Gesetzgeber Gesetze zur Regulierung der Erstellung von Deepfakes ins Auge gefasst. In den USA hat die Kongressabgeordnete Alexandria Ocasio-Cortez den DEFIANCE Act vorgeschlagen, der es Menschen ermöglichen würde, zu klagen, wenn ein Deepfake in ihrem Abbild ohne ihre Zustimmung erstellt wurde.

Schutzmaßnahmen und Lösungen

Einige Experten schlagen vor, dass KI-Modelle nur mit lizenzierten Inhalten trainiert werden sollten, um solche Probleme zu vermeiden. OpenAI, das Unternehmen hinter ChatGPT und DALL-E, hat beispielsweise angekündigt, dass es keine Daten von LAION verwendet und seine Modelle so trainiert hat, dass sie Anfragen nach sexuellem Inhalt mit Minderjährigen ablehnen.

Darüber hinaus gibt es Forderungen nach strengeren Regulierungen und einer besseren Überwachung der KI-Entwicklung. Das Stanford Internet Observatory empfiehlt, dass alle, die Trainingssätze von LAION-5B verwendet haben, diese löschen oder mit Zwischenhändlern zusammenarbeiten, um das Material zu bereinigen.

Fazit

Die Entdeckung, dass KI-Tools heimlich mit realen Bildern von Kindern trainiert werden, ist ein Weckruf für die gesamte Technologiebranche. Es zeigt, wie dringend notwendig es ist, ethische und rechtliche Rahmenbedingungen zu schaffen, die den Schutz der Privatsphäre und der Sicherheit von Kindern gewährleisten. Nur durch strenge Regulierungen und verantwortungsbewusste Entwicklung können wir sicherstellen, dass die Vorteile der KI nicht auf Kosten der Schwächsten in unserer Gesellschaft gehen.

Bibliographie

- https://www.wired.com/story/ai-tools-are-secretly-training-on-real-childrens-faces/
- https://apnews.com/article/generative-ai-illegal-images-child-abuse-3081a81fa79e2a39b67c11201cfd085f
- https://www.marketwatch.com/story/study-shows-ai-image-generators-are-being-trained-on-explicit-photos-of-children-680094ab
- https://www.theguardian.com/technology/2024/apr/23/can-ai-image-generators-be-policed-to-prevent-explicit-deepfakes-of-children
- https://www.miragenews.com/brazil-misuses-kids-photos-to-fuel-ai-tools-1252519/
- https://fortune.com/2023/12/21/ai-training-child-abuse-explicit-stanford/
- https://fsi.stanford.edu/news/investigation-finds-ai-image-generation-models-trained-child-abuse
- https://www.mapleridgenews.com/world-news/slap-in-the-face-images-of-child-abuse-victims-training-ai-generators-7289444
- https://www.washingtonpost.com/technology/2023/12/20/ai-child-pornography-abuse-photos-laion/