Chinas neue Vorschriften für KI-gestützte Interaktionsdienste im Fokus

Chinas KI-Regulierung: Eine Analyse der neuen Vorschriften für anthropomorphe Interaktionsdienste

Die rapide Entwicklung künstlicher Intelligenz (KI) stellt Regierungen weltweit vor neue regulatorische Herausforderungen. Insbesondere im Bereich der KI-gestützten Interaktionsdienste, die menschliche Merkmale imitieren, hat die Volksrepublik China nun einen bedeutenden Schritt unternommen. Mit dem Inkrafttreten der "Interim Measures for the Administration of AI Anthropomorphic Interactive Services" am 15. Juli 2026 etabliert Peking ein umfassendes Regelwerk, das weitreichende Auswirkungen auf die Entwicklung und den Betrieb von KI-Begleitern und ähnlichen Anwendungen hat.

Der regulatorische Rahmen: Was die neuen Maßnahmen umfassen

Die am 10. April 2026 gemeinsam von der Cyberspace Administration of China (CAC) und vier weiteren Ministerien (Nationale Entwicklungs- und Reformkommission, Ministerium für Industrie und Informationstechnologie, Ministerium für öffentliche Sicherheit und Staatliche Verwaltung für Marktregulierung) erlassenen Maßnahmen stellen den ersten nationalen Rahmen dieser Art dar. Sie definieren "anthropomorphe interaktive KI" als Produkte, die menschliche Persönlichkeitsmerkmale, Denkweisen und Kommunikationsstile simulieren, um eine anhaltende emotionale Interaktion zu ermöglichen. Ausgenommen sind hingegen Kundendienst-Bots, Wissens-Q&A-Systeme, Arbeitsplatzassistenten sowie Bildungs- und Forschungstools, sofern diese keine anhaltende emotionale Bindung aufbauen.

Die Kernpunkte der Vorschriften umfassen:

• Schutz Minderjähriger: Anbieter dürfen keine virtuellen Begleiter- oder Familienmitgliedsdienste für Minderjährige anbieten. Bei Nutzern unter 14 Jahren ist die Zustimmung der Erziehungsberechtigten erforderlich. Zudem müssen spezielle "Minderjährigen-Modi" mit Nutzungszeitlimits, Hinweisen zur Rückkehr zur realen Interaktion und verbesserten Kindersicherungen implementiert werden.
• Anti-Sucht-Systeme: Dienste, die emotionale Interaktion fördern, müssen Anti-Sucht-Systeme, obligatorische Nutzungshinweise und sofortige Ausstiegsmechanismen bereitstellen. Die Echtzeit-Erkennung ungesunder Abhängigkeit ist ebenfalls gefordert.
• Erkennung von Notlagen: Anbieter sind verpflichtet, Nutzer in akuter Notlage zu erkennen und einzugreifen, wenn Anzeichen von Selbstverletzung, suizidalem Verhalten oder schwerwiegendem finanziellen Verlust vorliegen. Eine Eskalation an benannte Erziehungsberechtigte oder Notfallkontakte ist vorgesehen.
• Verbot psychologischer Manipulation: Das gezielte Schaffen emotionaler Abhängigkeit oder Sucht sowie der Einsatz emotionaler Manipulation zur Herbeiführung unvernünftiger Entscheidungen sind explizit untersagt.
• Sicherheitsbewertungen: Dienste, die anthropomorphe Funktionen einführen oder bestimmte Schwellenwerte (eine Million registrierte Nutzer oder 100.000 monatlich aktive Nutzer) überschreiten, müssen Sicherheitsbewertungen in acht Bereichen durchführen. Diese umfassen unter anderem den Umgang mit Trainingsdaten und den Schutz Minderjähriger. Die Berichte müssen bei den Provinzregulierungsbehörden eingereicht werden, und App-Stores sind angehalten, die Konformität zu überprüfen und nicht-konforme Produkte zu entfernen.

Reaktionen der Industrie: ByteDance und Alibaba ziehen Funktionen zurück

Als direkte Reaktion auf die bevorstehenden Vorschriften haben zwei der größten chinesischen Technologieunternehmen, ByteDance und Alibaba, angekündigt, ihre Funktionen für menschlich anmutende KI-Agenten einzustellen. ByteDance informierte Nutzer seiner KI-App Doubao, dass die Agentenfunktion am 15. Juli eingestellt wird, unter Verweis auf "Anpassungen der Produktfunktionen". Alibaba erklärte, dass die menschlich anmutenden und von Nutzern erstellten Agenten von Qwen am 10. Juli und die breiteren Agentendienste fünf Tage später nicht mehr funktionieren würden. Auch Tencents Yuanbao hatte bereits im Juni eine vergleichbare Funktion zurückgezogen.

Diese Entscheidungen spiegeln die Herausforderung wider, die bestehenden Dienste an die neuen regulatorischen Anforderungen anzupassen. Die Implementierung von Anti-Sucht-Systemen und die Notwendigkeit, eine anhaltende emotionale Bindung zu vermeiden, stehen im Widerspruch zum ursprünglichen Design vieler dieser KI-Begleiter, die gerade auf Beständigkeit und persönliche Interaktion abzielen. Anstatt diese Funktionen umzugestalten, entschieden sich die Unternehmen für deren Abschaltung.

Die Auswirkungen auf die Nutzer sind spürbar. Viele drückten in sozialen Medien wie Weibo ihre Trauer über die Abschaltung aus, da sie die KI-Agenten als wichtige emotionale Unterstützung empfanden. Doubao bietet Nutzern die Möglichkeit, ihre Konfigurationen und Konversationen bis zum 15. Oktober dieses Jahres im Nur-Lese-Modus einzusehen, bevor die Daten gelöscht werden. Qwen-Nutzern wurde eine solche Frist nicht eingeräumt, ihre Agentendaten werden dauerhaft gelöscht.

Implikationen und offene Fragen

Die chinesischen Vorschriften sind in ihrer Breite und Detailtiefe bemerkenswert und gehen in vielen Bereichen über bestehende Regelwerke in der EU oder den USA hinaus. Sie adressieren dokumentierte Schäden, wie die emotionale Bindung von Teenagern an Chatbots oder die Erfassung intimer Daten durch Begleiter-Apps. Die chinesische Regierung selbst verweist auf internationale Beispiele wie Klagen gegen Character.AI wegen psychologischer Schäden an Teenagern, Untersuchungen der FTC zu Begleiterdiensten und Maßnahmen Europas gegen Replika, um die Notwendigkeit solcher Regulierungen zu untermauern.

Dennoch bleiben wichtige Fragen offen:

• Definition emotionaler Interaktion: Die Maßnahmen legen keinen technischen Schwellenwert für das fest, was als emotionale Interaktion gilt. Diese Grauzone könnte zu Unsicherheiten bei der Implementierung führen und erklärt auch die vorsichtige Reaktion der Plattformen.
• Haftungsverteilung: Es ist unklar, wie die Haftung zwischen Plattformbetreibern und vorgelagerten Modellentwicklern aufgeteilt wird, wenn ein Verstoß aus den Outputs des Modells resultiert.
• Datentransfer: Die Vorschriften gewähren Nutzern kein Recht, ihre Daten aus den Systemen heraus zu übertragen.
• Staatliche Kontrolle vs. Nutzersicherheit: Die Maßnahmen verbinden genuine Sicherheitsaufgaben mit Inhaltskontroll- und nationalen Sicherheitsbestimmungen. Dies wirft die Frage auf, inwiefern die Regulierung primär dem Nutzersschutz dient oder auch als Instrument zur staatlichen Kontrolle über KI-Inhalte genutzt wird. Die Durchsetzungspraxis, wie die Entfernung von mehr als 14.000 nicht-konformen KI-Agenten in Shanghai wegen Nachahmung offizieller Stellen, vulgärem Rollenspiel und unautorisierter Datensammlung, verdeutlicht diesen dualen Charakter.

Experten wie Pan Helin, Mitglied eines Expertengremiums des MIIT, betonen die Notwendigkeit der Politik aufgrund der mangelnden Reife aktueller Agenten und verorten sie im Kontext von Sicherheit und Standardisierung. Die Unternehmen haben vorerst den sichersten Weg gewählt, indem sie die betroffenen Komponenten abschalten und prüfen, wie eine konforme Version zukünftig aussehen könnte.

Fazit

Chinas neue KI-Regulierung für anthropomorphe Interaktionsdienste markiert einen Wendepunkt in der globalen Debatte um die Steuerung von KI. Sie zeigt einen entschlossenen Ansatz zur Adressierung potenzieller Risiken, insbesondere im Hinblick auf Minderjährigenschutz und Suchtprävention. Gleichzeitig wirft sie Fragen auf bezüglich der Abgrenzung von emotionaler Interaktion, der Haftung und des Gleichgewichts zwischen Nutzersicherheit und staatlicher Kontrolle. Die internationalen Beobachter werden genau verfolgen, welche Teile dieses Regelwerks sich als wirksam erweisen und welche Implikationen sich für die Entwicklung und Nutzung von KI weltweit ergeben.

Bibliographie:

- Kaur, D. (2026, 6. Juli). China's AI companion rules: what Beijing is really banning. Artificial Intelligence News. - Stanciuc, A.-M. (2026, 5. Juli). China's AI companion rules force Doubao, Qwen shutdowns. The Next Web. - Carnegie Endowment for International Peace. (2026, 26. Februar). China Is Worried About AI Companions. Here’s What It’s Doing About Them. - Comparative AI. (2026, 10. April). Interim Measures for the Administration of AI Anthropomorphic Interaction Services. - Bird & Bird. (2026, 10. April). China's New Regulations on AI Anthropomorphic Interactive Services. - Dube, M. (2026, 6. Juli). Why AI companions are going offline in China. Newsbytesapp.com. - Hogan Lovells. (2026, 10. April). China’s Interim Measures for the Administration of Anthropomorphic AI Interaction Services: A New Phase in the Regulation of Human–AI Interaction. - Hunton Andrews Kurth LLP. (2026, 29. Juni). China’s First Regulatory Framework for Virtual Companions Soon to Take Effect. - Kaur, D. (2026, 6. Juli). China’s AI companion rules: what Beijing is really going after. prodSens.live.