Peking verschärft die Gangart bei der Regulierung generativer Künstlicher Intelligenz und nimmt dabei gezielt den Schutz von Minderjährigen ins Visier. Wie die chinesische Internetbehörde Cyberspace Administration of China (CAC) bekannt gab, dürfen KI-Plattformen künftig keine virtuellen Begleiter oder ähnliche emotional interaktive Dienste mehr für Kinder und Jugendliche anbieten. Die neuen Richtlinien treten bereits am 15. Juli in Kraft und markieren einen signifikanten Einschnitt für die chinesische Tech-Industrie, die bisher stark auf personalisierte Interaktionsmodelle setzte.
Regulierung der emotionalen Bindung
Im Kern der neuen Verordnung steht das Bestreben, die psychische Gesundheit von Minderjährigen vor den potenziellen Risiken einer zu engen Bindung an Algorithmen zu schützen. Die CAC argumentiert, dass KI-Modelle, die menschliche Empathie simulieren, die soziale Entwicklung und die Realitätswahrnehmung junger Nutzer verzerren können. Zu den untersagten Diensten gehören explizit KI-Partner, virtuelle Freunde oder Mentoren, die darauf programmiert sind, eine emotionale Bindung zum Nutzer aufzubauen. Damit reagiert Peking auf den wachsenden Trend von Companion-Apps, die in China zuletzt Millionen Nutzer gewinnen konnten.
Strengere Anforderungen an Anbieter
Für Anbieter von KI-Modellen bedeutet dies eine erhebliche Verschärfung der Compliance-Anforderungen. Plattformbetreiber müssen sicherstellen, dass ihre Systeme über robuste Altersverifikationsmechanismen verfügen. Zudem müssen Algorithmen so angepasst werden, dass sie bei der Erkennung minderjähriger Nutzer den Zugriff auf Funktionen zur emotionalen Interaktion sofort unterbinden. Die Regelung ist Teil eines umfassenderen Rahmens zur Kontrolle von Algorithmen, der China weltweit zu einem Vorreiter in der KI-Gesetzgebung macht.
Auswirkungen auf den Markt
Analysten werten diesen Schritt als deutliches Signal an Schwergewichte wie Baidu, Alibaba und spezialisierte Startups. Während die kommerzielle Nutzung von KI im B2B-Sektor und in produktiven Anwendungen weiter gefördert wird, bleibt die soziale Komponente im Consumer-Bereich streng reglementiert. Unternehmen müssen nun ihre Monetarisierungsstrategien überdenken, da personalisierte KI-Charaktere bisher als vielversprechendes Geschäftsmodell galten. Der Fokus der Entwicklung dürfte sich nun noch stärker in Richtung funktionaler Assistenzsysteme verschieben, die einen klaren Bildungs- oder Nutzwert bieten, ohne die Grenze zur emotionalen Simulation zu überschreiten.