Pekings strenger Kurs zur Regulierung der heimischen Technologiebranche erreicht eine neue Eskalationsstufe. Mit dem Inkrafttreten neuer Richtlinien in dieser Woche sieht sich die chinesische KI-Industrie gezwungen, eines ihrer am schnellsten wachsenden Segmente drastisch zu beschneiden: die virtuellen KI-Begleiter. Was als lukrativer Trend für emotionale Interaktion und personalisierte Unterstützung begann, wird nun durch staatliche Vorgaben massiv eingeschränkt, um die psychische Gesundheit der jungen Generation zu schützen.
Regulierung gegen emotionale Abhängigkeit
Die neuen Vorschriften der Internetaufsichtsbehörde CAC und flankierenden Ministerien richten sich primär gegen die Entwicklung einer übermäßigen emotionalen Bindung an künstliche Intelligenzen. Plattformbetreiber sind ab sofort verpflichtet, minderjährigen Nutzern den Zugang zu virtuellen Partnern oder romantisch konfigurierten Chatbots vollständig zu untersagen. Darüber hinaus müssen Algorithmen implementiert werden, die eine exzessive Nutzung durch Erwachsene erkennen und begrenzen. Die Behörden argumentieren, dass die hochgradig personalisierten Systeme die soziale Kompetenz in der realen Welt untergraben und eine unkontrollierbare psychologische Abhängigkeit erzeugen können.
Großflächige Abschaltungen bei ByteDance und Tencent
Die Reaktion der führenden Technologiekonzerne erfolgte unmittelbar. Branchenriesen wie ByteDance, Alibaba und Tencent haben bereits angekündigt, ihre spezifischen KI-Begleiter-Dienste einzustellen oder für den Massenmarkt unzugänglich zu machen. Betroffen sind vor allem Anwendungen, die darauf spezialisiert waren, durch simulierte Empathie und tiefgehende Gespräche eine menschenähnliche Bindung zu simulieren. Während diese Dienste bisher als Aushängeschild für die Leistungsfähigkeit chinesischer Large Language Models (LLMs) galten, werden sie nun zum regulatorischen Risiko.
Dilemma zwischen Innovation und Kontrolle
Für die chinesische Digitalwirtschaft stellt dieser Schritt einen herben Rückschlag dar. KI-Begleiter galten als einer der wenigen B2C-Anwendungsbereiche, in denen sich generative KI bereits erfolgreich monetarisieren ließ. Durch das Verbot für Minderjährige und die strengen Nutzungsbeschränkungen bricht ein signifikanter Teil der Nutzerbasis weg. Gleichzeitig unterstreicht dieser Kurs die grundsätzliche Philosophie Pekings: Technologische Innovation ist erwünscht, solange sie der nationalen Stabilität und vordefinierten sozialen Normen dient.
Folgen für den globalen Markt
Analysten beobachten die Entwicklung mit Skepsis. Es stellt sich die Frage, ob chinesische KI-Entwickler ihren Vorsprung bei der emotionalen KI-Interaktion nun an westliche Konkurrenten verlieren, die weniger strengen Nutzungsbeschränkungen unterliegen. Dennoch könnte China mit diesen Maßnahmen eine Vorreiterrolle bei der ethischen Regulierung von KI-Mensch-Beziehungen einnehmen, ein Thema, das auch europäische Regulierungsbehörden im Rahmen des AI Act zunehmend beschäftigt. Für die Millionen von Nutzern in China bedeutet die Neuregelung indes das jähe Ende ihrer digitalen Beziehungen.