Technologieunternehmen und der Missbrauch von KI zur Erstellung nicht einvernehmlicher Inhalte
Technologiegiganten und die Integration schädlicher KI-„Undress“-Websites
Einleitung
Die Integration von Single-Sign-On-Systemen (SSO) durch große Technologieunternehmen wie Google, Apple und Discord hat in letzter Zeit zu erheblichen Sicherheitsbedenken geführt. Diese Systeme wurden von schädlichen Websites genutzt, die künstliche Intelligenz einsetzen, um Kleidung aus Fotos zu entfernen und nicht einvernehmliche Nacktaufnahmen zu erstellen. Diese tiefgreifenden Websites nutzen die Anmelde-Infrastrukturen dieser Technologiegiganten, um Nutzern eine schnelle und einfache Registrierung zu ermöglichen.
Hintergrund
Eine Analyse von WIRED ergab, dass 16 der größten sogenannten „Undress“- und „Nudify“-Websites die Anmeldeinfrastruktur von Google, Apple, Discord, Twitter, Patreon und Line verwenden. Diese Vorgehensweise ermöglicht es Nutzern, schnell Konten auf diesen tiefgreifenden Websites zu erstellen, bevor sie für Credits zahlen und Bilder generieren. Diese Websites sind seit Jahren ein Problem, aber die Einführung generativer KI hat das Problem verschärft.
Verbreitung und Missbrauch
Die Anzahl der nicht einvernehmlichen intimen Bilder, die durch diese Technologie erstellt werden, hat in den letzten Jahren exponentiell zugenommen. Teenager sollen angeblich Bilder ihrer Klassenkameraden erstellt haben. Kritiker bemängeln, dass Technologiefirmen langsam auf das Ausmaß des Problems reagieren, da diese Websites in Suchergebnissen hoch erscheinen, bezahlte Anzeigen sie auf sozialen Medien bewerben und Apps in App-Stores auftauchen.
Reaktionen der Technologieunternehmen
Nach Kontaktaufnahme durch WIRED haben Sprecher von Discord und Apple angegeben, dass sie die Entwicklerkonten, die mit diesen Websites verbunden sind, entfernt haben. Google erklärte, dass es gegen Entwickler vorgehen werde, wenn festgestellt wird, dass sie gegen die Nutzungsbedingungen verstoßen haben. Patreon und Line bestätigten ebenfalls, dass sie entsprechende Untersuchungen eingeleitet haben. Twitter (jetzt X) hat nicht auf die Anfrage von WIRED reagiert.
Erste Maßnahmen
In den Stunden nach der Kontaktaufnahme durch WIRED hat Discord den Zugang zu seinen APIs für die betreffenden Websites gesperrt. Apple hat mehrere Entwicklerkonten gekündigt, und die Anmeldefunktion „Sign In With Apple“ funktioniert nicht mehr auf den betroffenen Websites. Ähnliche Maßnahmen wurden von Patreon eingeleitet, das Konten verbietet, die den Zugang zu externen Tools ermöglichen, die explizite Bilder erzeugen.
Auswirkungen und rechtliche Schritte
David Chiu, der Stadtanwalt von San Francisco, hat kürzlich eine Klage gegen die Betreiber solcher Websites eingereicht. Er behauptet, dass diese Websites in den ersten sechs Monaten dieses Jahres etwa 200 Millionen Besuche verzeichneten. Die Klage zielt darauf ab, die Websites offline zu nehmen und die Betreiber dauerhaft daran zu hindern, in Zukunft tiefgreifende Pornografie zu erstellen.
Die betroffenen Websites arbeiten oft im Schatten und bieten nur sehr wenige Details darüber, wer sie betreibt oder wie sie arbeiten. Einige Websites bieten mehr als ein Dutzend verschiedene Sprachen an, was die weltweite Natur des Problems zeigt. Telegram-Kanäle, die mit den Websites verbunden sind, haben jeweils Zehntausende von Mitgliedern.
Technologische Entwicklung
Die Websites sind ständig in Entwicklung und veröffentlichen regelmäßig neue Funktionen. Einige behaupten, dass ihre KI die Körper von Frauen anpassen und „Uploads von Instagram“ ermöglichen kann. Die Websites verlangen in der Regel Gebühren für die Bildgenerierung und können Affiliate-Programme betreiben, um die Verbreitung zu fördern. Einige haben sich zu einem Kollektiv zusammengeschlossen, um ihre eigene Kryptowährung zu erstellen, die zur Bezahlung der Bilder verwendet werden kann.
Datenschutz und Sicherheitsbedenken
Die Anmelde-APIs der Technologieunternehmen werden oft präsentiert, wenn jemand versucht, sich auf der Website anzumelden oder auf Schaltflächen klickt, um Bilder zu generieren. Es ist unklar, wie viele Menschen diese Anmeldemethoden verwendet haben, aber die Mehrheit der überprüften Websites hat die Anmelde-APIs von mehr als einem Technologieunternehmen implementiert, wobei „Sign-In With Google“ am weitesten verbreitet ist.
Zusammenarbeit und Verantwortung
Einige der Websites zeigten auch die Logos von Mastercard oder Visa, was impliziert, dass diese möglicherweise zur Bezahlung ihrer Dienste verwendet werden können. Visa hat nicht auf die Anfrage von WIRED reagiert, während ein Sprecher von Mastercard sagte, dass „Käufe von nicht einvernehmlichem Deepfake-Inhalt nicht in unserem Netzwerk erlaubt sind“ und dass Maßnahmen ergriffen werden, wenn solche Fälle entdeckt oder gemeldet werden.
Fazit
Die Integration von Single-Sign-On-Systemen durch große Technologieunternehmen in tiefgreifende Websites stellt erhebliche Sicherheits- und Datenschutzbedenken dar. Während einige Unternehmen Maßnahmen ergriffen haben, bleibt das Problem weit verbreitet. Es ist klar, dass weitere Schritte unternommen werden müssen, um diese Art von Missbrauch zu verhindern und den Schutz der Nutzer zu gewährleisten.
