KI-Bilder im Fokus: Meta entwickelt Erkennungstechnologien für soziale Medien
In der Welt der sozialen Medien stehen wir vor einer neuen Herausforderung: dem Umgang mit durch künstliche Intelligenz (KI) erzeugten Bildern, die oft nicht von echten Aufnahmen zu unterscheiden sind. Meta, das Unternehmen hinter den beliebten Plattformen Facebook und Instagram, hat angekündigt, neue Technologien einzuführen, die solche Bilder erkennen und entsprechend kennzeichnen sollen.
Diese Maßnahme wird auf den Plattformen Facebook, Instagram und Threads umgesetzt. Meta kennzeichnet bereits von seinem eigenen System generierte KI-Bilder. Mit der neuen Technologie, die sich noch in der Entwicklung befindet, möchte das Unternehmen einen "Impuls" für die gesamte Branche setzen, um die Problematik gefälschter KI-Inhalte anzugehen.
Allerdings weisen Experten darauf hin, dass solche Erkennungstools "leicht zu umgehen" seien. Prof. Soheil Feizi, Direktor des Reliable AI Lab an der University of Maryland, erklärte gegenüber der BBC, dass Detektoren zwar möglicherweise einige spezifisch von bestimmten Modellen generierte Bilder identifizieren könnten, diese Detektoren jedoch durch einfache Verarbeitungsschritte auf den Bildern umgangen werden könnten und zudem eine hohe Rate an falsch-positiven Ergebnissen aufweisen könnten. Für ein breites Spektrum an Anwendungen hält er ein solches System daher für nicht realisierbar.
Meta räumt ein, dass sein Werkzeug nicht für Audio- und Videomaterial funktionieren wird, obwohl gerade diese Medien im Mittelpunkt der Sorgen um KI-Fälschungen stehen. Stattdessen fordert das Unternehmen seine Nutzer auf, ihre eigenen Audio- und Videoposts zu kennzeichnen und droht mit Sanktionen, falls sie dies unterlassen sollten. Sir Nick Clegg, ein leitender Angestellter von Meta, gestand ebenfalls, dass es unmöglich sei, Texte zu überprüfen, die von Tools wie ChatGPT generiert wurden – "dieser Zug sei bereits abgefahren".
Meta sieht sich auch Kritik von seiner eigenen Aufsichtsbehörde ausgesetzt, die die Politik des Unternehmens in Bezug auf manipulierte Medien als "inkohärent, ohne überzeugende Begründung und unangemessen auf die Art und Weise fokussiert, wie Inhalte erstellt wurden", bezeichnete. Diese Kritik bezog sich auf ein Video des US-Präsidenten Joe Biden, das ohne den Einsatz von KI manipuliert wurde und daher nicht gegen Metas Richtlinien verstieß und nicht entfernt wurde. Die Aufsichtsbehörde riet jedoch zu einer Aktualisierung der Regeln.
Vor dem Hintergrund der bevorstehenden US-Wahlen und anderer wichtiger internationaler Abstimmungen hat Meta bereits eine Richtlinie eingeführt, die besagt, dass politische Werbung kennzeichnen muss, wenn digital veränderte Bilder oder Videos verwendet werden.
Die Entwicklung und Implementierung effektiver Maßnahmen zur Kennzeichnung und Regulierung von KI-generierten Bildern wird weiterhin eine bedeutende Rolle in der Debatte um die Regulierung sozialer Medien spielen. Unternehmen wie Meta stehen vor der Herausforderung, den richtigen Umgang mit den rasanten Fortschritten in der KI-Technologie zu finden und gleichzeitig die Integrität ihrer Plattformen zu wahren.
Quellen:
- BBC News: "Facebook and Instagram to label all fake AI images", Imran Rahman-Jones & Tom Gerken, 2024. [Online verfügbar unter: https://www.bbc.com/news/technology-68215619]
- Sky News: "Facebook and Instagram to label all images on their platforms created by AI, Meta says", 2024. [Online verfügbar unter: https://news.sky.com/story/facebook-and-instagram-to-label-all-images-on-their-platforms-created-by-ai-meta-says-13064855]
- NBC News: "Facebook and Instagram will label more AI-made images ahead of November election", David Ingram, 2024. [Online verfügbar unter: https://www.nbcnews.com/tech/facebook-instagram-to-label-ai-made-images-rcna137379]
- NPR: "Meta will start labeling AI-generated images on Instagram and Facebook", Shannon Bond, 2024. [Online verfügbar unter: https://www.npr.org/2024/02/06/1229317971/meta-labeling-ai-generated-images-instagram-facebook-artificial-intelligence]
