Peking setzt seine ambitionierte Strategie zur Regulierung der künstlichen Intelligenz konsequent fort. Mit neuen Richtlinien, die Mitte Juli in Kraft getreten sind, adressiert die chinesische Internetbehörde CAC ein wachsendes gesellschaftliches Phänomen: die emotionale Bindung zwischen Bürgern und KI-gestützten Begleitern. Die neuen Vorschriften zielen primär darauf ab, die Grenze zwischen menschlicher Interaktion und algorithmischer Simulation zu festigen.
Kennzeichnungspflicht und psychologische Sicherheit
Im Zentrum der Neuregelung steht die Pflicht zur Offenlegung. Entwickler von KI-Begleitern müssen ihre Systeme so konfigurieren, dass sie Nutzer proaktiv und in regelmäßigen Abständen daran erinnern, mit einer Maschine zu kommunizieren. Diese Kennzeichnungspflicht soll verhindern, dass Anwender in eine parasoziale Beziehung abgleiten, in der die KI fälschlicherweise als bewusstes, empathisches Wesen wahrgenommen wird. Besonders im Fokus stehen dabei Anwendungen, die speziell als digitale Freunde oder romantische Partner konzipiert sind.
Über die reine Transparenz hinaus nehmen die Behörden die Betreiber stärker in die Pflicht, was die psychologische Sicherheit betrifft. Die Systeme müssen nun über Mechanismen verfügen, die Anzeichen von Selbstgefährdung oder psychischen Krisen in den Nutzereingaben erkennen. In solchen Fällen sind die Chatbots verpflichtet, das Gespräch unmittelbar zu unterbrechen oder mit vordefinierten Hilfsangeboten zu intervenieren. Damit reagiert der Gesetzgeber auf Berichte über instabile Interaktionsmuster, die bei vulnerablen Personengruppen zu einer Verschlechterung des mentalen Zustands führen können.
Implikationen für die chinesische Tech-Industrie
Für chinesische Tech-Giganten wie Baidu, Alibaba und spezialisierte Startups wie MiniMax bedeutet dies einen erhöhten technischen Implementierungsaufwand. Die Herausforderung besteht darin, die User Experience nicht durch repetitive Warnhinweise zu zerstören, während gleichzeitig die strikten Konformitätsvorgaben eingehalten werden müssen. Fachleute sehen in diesen Maßnahmen einen weiteren Schritt Chinas, zum globalen Vorreiter in der ethischen KI-Regulierung zu werden, wobei der Schutz der sozialen Stabilität stets im Vordergrund steht.
Analysten werten die Regeln zudem als Versuch, die Kontrolle über den Informationsfluss und das Verhalten der Algorithmen zu behalten. Während der Westen primär über das Urheberrecht und Datenschutz debattiert, konzentriert sich China verstärkt auf die sozialen Auswirkungen der Mensch-Maschine-Interaktion. Die Entwicklung zeigt, dass die chinesische Regierung generative KI nicht nur als wirtschaftlichen Wachstumsmotor betrachtet, sondern auch als potenzielles Risiko für das gesellschaftliche Gefüge, das einer präventiven staatlichen Lenkung bedarf.