Peking verschärft die Gangart bei der juristischen Einordnung von Künstlicher Intelligenz. Das Oberste Volksgericht Chinas hat einen umfassenden Leitfaden mit 24 Artikeln veröffentlicht, der erstmals verbindliche Standards für die richterliche Bewertung von KI-bezogenen Rechtsstreitigkeiten festlegt. Dieses Dokument markiert einen Wendepunkt in der chinesischen Rechtspraxis, da es spezifische Grauzonen adressiert, die durch Technologien wie Deepfakes, Voice-Cloning und die fehlerhafte Ausgabe von Informationen, die sogenannten Halluzinationen, entstanden sind.
Regulierung von Deepfakes und Persönlichkeitsrechten
Ein Kernpunkt der neuen Richtlinien betrifft den Schutz von Persönlichkeitsrechten im Zeitalter der generativen KI. Das Gericht stellt klar, dass der Missbrauch von Gesichtsaustausch-Technologien und Stimmen-Klonen ohne explizite Zustimmung der Betroffenen eine Verletzung der Persönlichkeitsrechte darstellt. Dies gilt insbesondere dann, wenn diese Technologien zur Diffamierung oder Täuschung eingesetzt werden. Die Beweislast und die Haftungsketten für Entwickler und Plattformbetreiber werden durch das Dokument präzisiert, was Unternehmen der Branche zu erhöhter Sorgfalt bei der Verifizierung von Inhalten zwingt.
Verantwortung bei KI-Halluzinationen und Falschinformationen
Besonderes Augenmerk legt die Justiz auf das Problem der KI-Halluzinationen. Bisher war rechtlich oft unklar, wer haftet, wenn ein Large Language Model faktisch falsche oder schädliche Informationen über Personen oder Unternehmen generiert. Der Leitfaden sieht nun vor, dass Anbieter von KI-Diensten stärker in die Pflicht genommen werden, die Genauigkeit ihrer Systeme sicherzustellen. Wenn eine KI unwahre Behauptungen verbreitet, die den Ruf einer Person schädigen, können Betroffene nun auf Basis klarer prozessualer Regeln Schadensersatzansprüche geltend machen.
Kampf gegen algorithmische Preisdiskriminierung
Neben dem Schutz individueller Daten adressiert das Oberste Volksgericht auch wettbewerbsrechtliche Aspekte. Die sogenannte algorithmische Preisdiskriminierung, bei der E-Commerce-Plattformen oder Dienstleister Preise basierend auf Nutzerprofilen individualisieren, wird explizit als unzulässige Praxis eingestuft. Dies zielt darauf ab, die Rechte der Verbraucher gegenüber den großen Tech-Konzernen zu stärken und eine faire Marktstruktur im digitalen Sektor zu gewährleisten. Unternehmen müssen ihre Preisgestaltungsalgorithmen künftig transparenter gestalten, um rechtlichen Sanktionen zu entgehen.
Balance zwischen Innovation und Kontrolle
Trotz der strengeren Regeln betont das Gericht, dass die Leitlinien auch den Zweck verfolgen, eine geordnete Entwicklung der KI-Industrie zu unterstützen. Durch die Schaffung von Rechtssicherheit sollen Investitionen geschützt und Innovationen in einem klar definierten Rahmen ermöglicht werden. Für internationale Unternehmen, die im chinesischen Markt tätig sind, bedeutet dieses Dokument eine notwendige Anpassung ihrer Compliance-Strategien. Die präzisen Vorgaben reduzieren zwar die unternehmerische Freiheit bei der Datenverarbeitung, minimieren aber gleichzeitig das Risiko unvorhersehbarer Klagen durch eine nunmehr einheitliche Rechtsprechung.