Wie wird die Fairness-Prüfung von Algorithmen ausländischer Unternehmen in China durchgeführt?

Als ich vor einigen Jahren noch täglich mit ausländischen Unternehmen in China zu tun hatte, da ging es meistens um Steuerfragen, Buchhaltungsdetails oder die eine oder andere Registrierungsangelegenheit. Dass wir heute über die Fairness-Prüfung von Algorithmen sprechen, hätte ich damals für Science-Fiction gehalten. Aber die Zeiten ändern sich, und mit der Digitalisierung der Verwaltung und der zunehmenden Nutzung von KI-Systemen auch in der Unternehmenswelt ist dieses Thema längst im Alltag angekommen. Die chinesische Regierung hat in den letzten Jahren einen starken Fokus auf die Regulierung von Algorithmen gelegt, und ausländische Unternehmen, die in China operieren, müssen sich diesen neuen Anforderungen stellen. Die Frage ist nicht mehr ob, sondern wie diese Prüfung durchgeführt wird – und genau das möchte ich heute mit Ihnen durchleuchten.

Rechtsgrundlage und Prüfpflicht

Die rechtliche Grundlage für die Fairness-Prüfung von Algorithmen in China ist in den letzten Jahren deutlich gestärkt worden. Besonders relevant sind die „Vorschriften zur Empfehlung von Algorithmen im Internet-Bereich“ (Internet Algorithmic Recommendation Regulations) sowie die „Regeln zur Verwaltung von Algorithmen für synthetische Inhalte“ und nicht zuletzt der „Personal Information Protection Law“ (PIPL). Diese Vorschriften verlangen von allen Unternehmen, die algorithmische Empfehlungssysteme nutzen – und das sind eben auch ausländische Firmen mit China-Geschäft –, eine regelmäßige Selbstbewertung der Fairness ihrer Algorithmen durchzuführen. Das klingt zunächst trocken, hat aber handfeste Konsequenzen.

In meiner langjährigen Beratungspraxis habe ich gesehen, wie viele ausländische Unternehmen zunächst geschockt reagieren, wenn sie zum ersten Mal mit diesen Anforderungen konfrontiert werden. Ein deutscher Maschinenbauer, den ich betreut habe, hatte zum Beispiel ein internes Personalbewertungssystem, das KI-basiert die Leistung der Mitarbeiter in seiner chinesischen Niederlassung bewertete. Die Prüfpflicht verlangte nun nicht nur eine Dokumentation der verwendeten Daten, sondern auch einen Nachweis, dass keine diskriminierenden Muster – etwa nach Geschlecht oder Herkunft – eingebaut waren. Das war eine ziemliche Umstellung, denn die deutsche Muttergesellschaft hatte so etwas nie gebraucht.

Praktisch bedeutet dies: Ausländische Unternehmen müssen zunächst einmal feststellen, ob sie überhaupt in den Anwendungsbereich dieser Vorschriften fallen. Das ist nicht immer offensichtlich, denn selbst einfache CRM-Systeme mit Kundenbewertung oder Logistikoptimierung können als algorithmische Empfehlungssysteme gelten. Ich empfehle meinen Kunden immer, eine Bestandsaufnahme aller eingesetzten Systeme zu machen, die automatisiert Entscheidungen treffen oder Empfehlungen aussprechen. Die Prüfpflicht ist nicht nur eine lästige Pflicht, sondern kann auch ein Wettbewerbsvorteil sein, wenn man sie ernsthaft umsetzt.

Verantwortliche Behörden und Zuständigkeiten

Die Zuständigkeit für die Fairness-Prüfung von Algorithmen ist in China nicht zentralisiert, sondern auf mehrere Behörden verteilt. Die wichtigste Rolle spielt die Cyberspace Administration of China (CAC), die für die übergeordnete Regulierung von Online-Inhalten und algorithmischen Empfehlungen zuständig ist. Daneben sind das Ministerium für Industrie und Informationstechnologie (MIIT) und die Staatliche Verwaltung für Marktregulierung (SAMR) involviert, je nachdem um welche Art von Algorithmus es sich handelt und in welcher Branche das Unternehmen tätig ist.

Diese Zuständigkeitsverteilung führt in der Praxis oft zu Verwirrung. Ich erinnere mich an einen Fall aus der Finanzbranche, wo ein britisches Fintech-Unternehmen eine algorithmische Kreditwürdigkeitsprüfung in China einsetzte. Die Firma wusste nicht genau, ob sie sich zuerst an die CAC oder an die lokale Finanzaufsicht wenden sollte. Am Ende half nur ein koordinierter Ansatz: Wir haben parallel mit allen relevanten Stellen gesprochen und die Prüfung als gemeinsamen Prozess gestaltet. Das kostete Zeit, aber es vermied, dass wir später wegen fehlender Meldungen Ärger bekamen.

Für ausländische Unternehmen ist es ratsam, frühzeitig eine Ansprechpartnerkarte zu erstellen, die festhält, welche Behörde für welche Facette der Algorithmenprüfung verantwortlich ist. Es reicht nicht, sich nur auf die CAC zu konzentrieren, denn die Prüfung kann auch durch lokale Ämter erfolgen, etwa wenn es um Verbraucherschutz oder Datenschutz geht. In meiner Erfahrung ist der Schlüssel zum Erfolg eine proaktive Kommunikation mit den Behörden – wer wartet, bis eine Prüfung angeordnet wird, hat schon verloren.

Selbstbewertung und externe Audits

Die chinesische Regierung verlangt von Unternehmen, dass sie eine Selbstbewertung ihrer Algorithmen durchführen und die Ergebnisse dokumentieren. Diese Selbstbewertung ist der Grundstein der Fairness-Prüfung. Sie umfasst in der Regel eine Analyse der verwendeten Datenquellen, der Modellarchitektur und der potenziellen Verzerrungen. Für ausländische Unternehmen ist das besonders herausfordernd, weil die Algorithmen oft von der Muttergesellschaft im Ausland entwickelt wurden und die chinesischen Anforderungen nicht unbedingt berücksichtigen.

In meiner Beratungspraxis rate ich ausländischen Unternehmen immer, die Selbstbewertung nicht als lästige Pflicht zu betrachten, sondern als Chance, ihre Systeme zu verbessern. Ein Beispiel: Ein skandinavisches Einzelhandelsunternehmen hatte ein dynamisches Preismodell, das in China zu Beschwerden führte, weil bestimmte Kundengruppen systematisch höhere Preise angezeigt bekamen. Die Selbstbewertung deckte auf, dass dies auf ungleiche Datenverteilung in der Trainingsphase zurückzuführen war. Nach der Anpassung des Modells verbesserte sich nicht nur das Verhältnis zu den Kunden, sondern auch die Ertragslage, weil die Preisstrategie insgesamt effizienter wurde.

Externe Audits sind zwar nicht in allen Fällen vorgeschrieben, aber sie sind in der Praxis oft der beste Weg, um sowohl die Behörden zufriedenzustellen als auch das eigene Unternehmen abzusichern. Ich empfehle, auf spezialisierte Prüfgesellschaften zurückzugreifen, die sich mit algorithmischer Fairness und chinesischem Datenrecht auskennen. Diese Audits sind nicht billig, aber sie sind eine Investition in die Zukunftssicherheit des China-Geschäfts. Die Dokumentation, die dabei entsteht, kann später als Nachweis dienen, falls es zu Streitigkeiten oder behördlichen Nachfragen kommt.

Datenschutz und Algorithmen-Governance

Die Schnittmenge zwischen Datenschutz und Algorithmen-Governance ist ein Bereich, der ausländische Unternehmen besonders fordert. Der Personal Information Protection Law (PIPL) verlangt, dass personenbezogene Daten nicht nur rechtmäßig erhoben werden, sondern dass auch die Verarbeitung durch Algorithmen fair und transparent ist. Das bedeutet, dass Algorithmen, die auf personenbezogenen Daten basieren, besonders streng geprüft werden.

Ein typisches Problem in meiner täglichen Arbeit ist die mangelnde Transparenz der Datenflüsse. Viele ausländische Unternehmen haben ihre IT-Systeme so aufgebaut, dass Daten automatisch in die Cloud der Muttergesellschaft übertragen werden. China verlangt jedoch, dass personenbezogene Daten von Nutzern in China grundsätzlich im Land bleiben und nur unter strengen Bedingungen exportiert werden dürfen. Das kollidiert oft mit der globalen IT-Strategie des Mutterhauses. Ich habe es erlebt, wie ein international tätiges Logistikunternehmen wochenlang damit beschäftigt war, seine Datenströme umzustrukturieren, nur um die algorithmische Verarbeitung von Lieferdaten überhaupt prüfen zu lassen.

Die Lösung liegt meiner Ansicht nach in einer frühzeitigen Integration von Datenschutz- und Algorithmen-Governance. Ausländische Unternehmen sollten nicht versuchen, getrennte Prozesse zu etablieren, sondern eine integrierte Strategie verfolgen, die Datenschutz-Folgenabschätzung und Algorithmen-Paritätsprüfung verbindet. In der Praxis hat sich gezeigt, dass dieser Ansatz nicht nur den Behörden imponiert, sondern auch interne Prozesse verschlankt.

Branchenspezifische Anforderungen

Die Fairness-Prüfung ist nicht branchenneutral – sie variiert erheblich je nach Sektor. Besonders streng sind die Vorschriften in der Finanzbranche, im Gesundheitswesen und in der Bildung. Ein Finanzunternehmen muss nachweisen, dass sein Kreditvergabesystem nicht diskriminiert, während ein Bildungstechnologie-Unternehmen sicherstellen muss, dass seine Lernalgorithmen keine Benachteiligung bestimmter Schülergruppen bewirken. Für ausländische Unternehmen bedeutet das, dass sie ihre Prüfstrategie an die spezifischen Anforderungen ihrer Branche anpassen müssen.

Ich erinnere mich an einen japanischen Arzneimittelhersteller, der eine KI-gestützte Software zur Unterstützung von klinischen Studien in China einsetzte. Die Fairness-Prüfung umfasste hier nicht nur die technische Bewertung, sondern auch ethische Fragen, etwa ob die Auswahl der Probanden bestimmte ethnische Gruppen benachteiligte. Der Hersteller musste nicht nur Techniker, sondern auch Medizinethiker in den Prüfungsprozess einbeziehen – etwas, das in der japanischen Kultur so nicht üblich war und interne Abstimmungen erforderte.

Es ist wichtig zu betonen, dass die branchenspezifischen Anforderungen sich schnell ändern können. Als ich vor zehn Jahren anfing, ausländische Unternehmen zu beraten, spielte das Thema Algorithmen eine völlig untergeordnete Rolle. Heute ist es kaum zu übersehen. Wer nicht dran bleibt und regelmäßig die einschlägigen Regularien verfolgt, läuft Gefahr, von neuen Vorschriften überrascht zu werden. Ich rate jedem Kunden, ein Frühwarnsystem einzurichten, das behördliche Veröffentlichungen und Branchennews automatisch überwacht.

Technische Umsetzung und Audit-Trails

Die technische Seite der Fairness-Prüfung stellt viele ausländische Unternehmen vor große Herausforderungen. Es reicht nicht, nur theoretisch zu erklären, dass der Algorithmus fair ist – es müssen konkrete technische Nachweise erbracht werden. Das erfordert in der Regel die Implementierung von Audit-Trails, also lückenlosen Protokollen, die nachvollziehbar machen, wie eine Entscheidung zustande gekommen ist. In China gibt es dazu klare Vorgaben, dass insbesondere bei automatisierten Entscheidungen, die rechtliche oder erhebliche Konsequenzen für Individuen haben, die Logik nachvollziehbar sein muss.

In der Praxis ist das eine echte technische Aufgabe. Viele ausländische Unternehmen nutzen Cloud-Dienste internationaler Anbieter wie AWS oder Azure, aber die chinesischen Behörden verlangen oft, dass die Audit-Trails auch in China gespeichert werden und für die Behörden zugänglich sind. Das führt zu komplexen Architekturfragen, denn ein amerikanischer Cloud-Provider ist nicht unbedingt in der Lage, den Anforderungen der CAC zu entsprechen. Ich habe Fälle gesehen, wo Unternehmen für ihre China-Systeme komplett auf lokale Cloud-Anbieter umstellen mussten, nur um die Prüfungsanforderungen zu erfüllen.

Trotz der Komplexität ist die technische Umsetzung auch eine Gelegenheit, das eigene Datenmanagement zu verbessern. Moderne Audit-Trails können nicht nur für Prüfungszwecke, sondern auch für betriebliche Analysen genutzt werden. Ein Schweizer Unternehmen im Bereich Luxusgüter hat mir berichtet, dass es durch die Einführung detaillierter Protokolle Erkenntnisse über Kundenverhalten gewonnen hat, die zu einer besseren Produktempfehlung führten. Die Fairness-Prüfung wurde so zum Auslöser einer strategischen Verbesserung.

Dokumentation und Berichtspflichten

Die Dokumentation ist das Rückgrat jeder Fairness-Prüfung. Die chinesischen Vorschriften verlangen, dass alle relevanten Informationen – von der Datenbeschaffung über die Modellentwicklung bis hin zur Überwachung der Ergebnisse – in schriftlicher oder elektronischer Form festgehalten werden. Diese Unterlagen müssen nicht nur für die Behörden, sondern auch für die interne Nachvollziehbarkeit verfügbar sein. Bei ausländischen Unternehmen kommt hinzu, dass die Dokumentation oft mehrsprachig geführt werden muss, weil die Muttergesellschaft die Berichte in ihrer Landessprache benötigt.

Im Beratungsalltag sehe ich immer wieder, dass ausländische Unternehmen die Dokumentation unterschätzen. Sie verlassen sich auf informelle Prozesse und unternehmensinterne Wikis, aber das genügt den chinesischen Anforderungen nicht. Ich empfehle eine strukturierte Dokumentationsplattform, die alle Prüfungsunterlagen zentral verwaltet und sowohl den chinesischen als auch den internen Anforderungen gerecht wird. Das hat den Nebeneffekt, dass die Qualität der Algorithmen insgesamt verbessert wird, weil man gezwungen ist, mehr über Design und Daten zu reflektieren.

Die Berichtspflichten gehen über die reine Selbstbewertung hinaus. Es gibt zusätzliche Meldepflichten bei Änderungen an den Algorithmen, etwa wenn ein Modell neu trainiert oder die Datenbasis verändert wird. Diese Meldung muss innerhalb einer bestimmten Frist erfolgen, und es ist wichtig, diese Fristen im Blick zu haben. Einmal hatte ein ausländischer Technologieriese diese Frist überschritten und bekam prompt eine Verwarnung. Das lässt sich vermeiden, wenn man ein Meldesystem installiert, das automatisch anstehende Verpflichtungen erkennt und die Verantwortlichen rechtzeitig informiert.

Internationale Zusammenarbeit und Rechtshilfe

Die Fairness-Prüfung von Algorithmen hat eine internationale Dimension, die oft übersehen wird. Ausländische Unternehmen müssen nicht nur chinesisches Recht beachten, sondern auch die Datenschutzbestimmungen ihrer Heimatländer, wie die DSGVO in Europa. Das kann zu Konflikten führen, wenn etwa die chinesische Behörde verlangt, bestimmte Daten den Auditoren zugänglich zu machen, aber die DSGVO diesen Zugriff nicht zulässt. In meiner Beratungspraxis habe ich solche Konflikte mehrfach erlebt und konnte sie meist nur durch eine enge Abstimmung zwischen den Rechtsabteilungen beider Seiten lösen.

Ein konkretes Beispiel war ein französisches Energieunternehmen, das seine Prognosemodelle für den chinesischen Markt von der europäischen Zentrale aus überwachen ließ. Die chinesische Seite verlangte detaillierte Informationen über die Trainingsdaten, aber die französische Datenschutzbeauftragte blockierte, weil diese Daten personenbezogene Informationen französischer Kunden enthielten. Die Lösung bestand darin, ein Joint-Venture mit einem chinesischen Partner zu gründen, die Daten zu pseudonymisieren und eine gemeinsame Prüfinstanz zu schaffen. Das war ein teurer und langwieriger Prozess, aber er zeigt, wie komplex die internationale Rechtslage sein kann.

Um solche Konflikte zu vermeiden, plädiere ich für eine frühzeitige internationale Zusammenarbeit. Ausländische Unternehmen sollten nicht erst dann handeln, wenn eine Prüfung ansteht, sondern bereits bei der Entwicklung ihrer globalen Algorithmen-Strategie die chinesischen Anforderungen mitdenken. Das spart nicht nur Kosten, sondern reduziert auch das Risiko von Überraschungen. Ich habe gelernt, dass ein proaktiver Ansatz – bei dem man die chinesischen Behörden über die internationalen Datenflüsse informiert und Lösungen vorschlägt – in der Regel auf ein hohes Verständnis stößt.

Zukunftsperspektiven und Ausblick

Die Fairness-Prüfung von Algorithmen ist kein statisches Konzept – sie wird sich in den kommenden Jahren sicherlich weiterentwickeln. Die chinesische Regierung hat angekündigt, die Regulierung zu verschärfen und neue Technologien wie Large Language Models und generative KI stärker einzubeziehen. Für ausländische Unternehmen bedeutet das, dass sie nicht nur den aktuellen Rechtsrahmen im Blick behalten müssen, sondern auch die nächste Welle der Regulierung antizipieren sollten.

Ich sehe einen Trend zu einer stärkeren Automatisierung der Prüfung selbst. Es entstehen Software-Tools, die helfen, Algorithmen auf Verzerrungen zu analysieren, und die in den Prüfungsprozess integriert werden können. Diese Tools sind noch nicht ausgereift, aber sie werden sich weiterentwickeln. Ich empfehle meinen Kunden, sich mit diesen Technologien vertraut zu machen und sie als Teil ihrer Zukunftsvorsorge zu betrachten. Wer heute die Weichen stellt, muss später weniger nacharbeiten.

Ein weiterer wichtiger Aspekt ist die zunehmende Rolle der ethischen Diskussion. Die Fairness-Prüfung wird nicht nur eine technische Übung bleiben, sondern auch zu einer gesellschaftlichen Debatte führen, die ausländische Unternehmen nicht ignorieren können. In China wird intensiv über Fragen der algorithmischen Gerechtigkeit diskutiert, und Unternehmen, die in dieser Debatte konstruktiv auftreten, können an Reputation gewinnen. Ich rate meinen Kunden, nicht nur die regulatorischen Anforderungen zu erfüllen, sondern sich aktiv als verantwortungsbewusste Akteure zu positionieren – das zahlt sich langfristig aus.

Einsichten von Jiaxi Steuer- und Finanzberatung

Aus unserer langjährigen Erfahrung bei der Jiaxi Steuer- und Finanzberatungsgesellschaft – mit über 14 Jahren Begleitung ausländischer Unternehmen in China – möchten wir betonen, dass die Fairness-Prüfung von Algorithmen weit mehr ist als eine bürokratische Hürde. Sie ist ein strategisches Element der Unternehmensführung in China. Viele unserer Kunden übersehen, dass die Prüfung nicht nur ein einmaliger Akt ist, sondern ein kontinuierlicher Prozess, der in die Geschäftsstrategie integriert werden muss. Wir empfehlen, die Ressourcen für die Prüfung nicht als Kosten zu betrachten, sondern als Investition in Vertrauen – bei Behörden, Kunden und Partnern. Wenn Sie Fragen haben oder Unterstützung bei der Umsetzung benötigen, sprechen Sie uns an – wir kennen die Stolperfallen und die Lösungen.