Erst der Anfang des Albtraums

Read the English version here.

Mit dem Jahr 2020 ging auch die erste Projektphase des chinesischen Sozialkreditsystems (SKS) zu Ende. 2014 waren umfangreiche Pläne veröffentlicht worden. Seither wird das SKS als Paradebeispiel für die zunehmend autoritäre Ausrichtung der ­Regierung Xi angesehen, aber auch für jene Art dystopischer, ­orwellscher Zwecke, die mithilfe digitaler Technologien verfolgt werden können. Die Wirklichkeit ist aber weit prosaischer. Die chinesische Regierung hat nun die zweite, konsolidierte Projektphase eingeleitet. Daher scheint es sinnvoll, sich mit der Frage zu beschäftigen, wie die SKS-Verantwortlichen die Ergebnisse der ersten Phase bewerten, wie sie Erfolge und Mängel einschätzen und in welche Richtung sie das Projekt steuern werden.

Die Vorstellung des Sozialkredits tauchte um die Jahrtausendwende in Reaktion auf eine Reihe Probleme auf. Zuvorderst litt die neue Marktwirtschaft unter Regelbrüchen, denen ein relativ schwacher Staat nicht viel entgegenzusetzen hatte. Entgegen der landläufigen Ansicht, die China mit strenger autoritärer Regierung und zentralisierter Kontrolle verbindet, war die Regierung in den 1990er Jahren zersplittert und verfügte weder über genügend Ressourcen noch über genügend Expertise.

Ein Mittel, um Vertrauensdefizite zu beheben?

Lokalverwaltungen zum Beispiel kommunizierten nicht effektiv – was bedeutete, dass jemand, der in einem Ort für eine Straftat verurteilt worden war, einfach in den nächsten Ort ziehen und von vorne anfangen konnte. Es war eine Zeit der Lebensmittel­skandale, Urheberrechtsverletzungen und anderer Wirtschafts­delikte. Die Folge waren gravierende Vertrauensdefizite. Ein Sozial­kreditsystem wurde als Mittel gesehen, diese Missstände zu beheben. Es sollte die Informationssysteme integrieren und konnte als Basis dienen, um unlauteres und pflichtwidriges Verhalten strenger zu ahnden. Mit anderen Worten: Ein SKS würde den Staat bei der Durchsetzung bestehender Gesetze und Regeln unterstützen. Später erkannte man auch den Nutzen entsprechender Informationen beim Aufbau einer Konsumkredit­branche. Nur wenige Menschen in China verfügten damals über ein Bankkonto. Geschäfte wurden meist per Bargeld abgewickelt. Da also keine finanziellen Informationen zur Verfügung standen, konnte eine Konsumkreditbranche nur aufgebaut werden, wenn andere Daten zur Einschätzung von Kreditwürdigkeit nutzbar ­gemacht werden konnten. Nicht zuletzt sah der Plan von 2014 auch vor, Kreditmechanismen für die interne Regierungsaufsicht einzusetzen.

Allerdings brauchte die Zentralregierung mehr als zehn Jahre von der Idee bis zu einem konkreten Plan.¹ Wie so oft in der chinesischen Politik gingen Kommunalregierungen voran. Es entstand eine grosse Spannbreite verschiedener lokaler Sozialkredit­systeme. Einige waren punktebasiert, andere nicht. Die meisten nutzten Informationen der Regierung, doch in einigen Fällen versuchten lokale Beamte, mithilfe des SKS bestimmte Verhaltensweisen zu verbieten, die sie zwar nicht als rechtswidrig ansahen, dafür aber als nicht wünschenswert. Ein Bürgermeister etwa versuchte das weitverbreitete Jobhopping zu verbieten² Auf zen­traler Ebene lief das System meist auf binäre schwarze Listen hinaus: Personen oder Unternehmen, die bestimmter Verstösse für schuldig befunden worden waren, hatten eine Reihe unterschiedlich schwerer Strafen zu gewärtigen. Die bekannteste dieser ­Listen bestraft die Nichtumsetzung von Gerichtsurteilen unter anderem mit einer Sperre auf Flugreisen und den Kauf von Luxus­gütern sowie mit dem Ausschluss von bestimmten Jobs. Das SKS umfasst auch einen Reputationsaspekt: Ein Grossteil der Infor­mationen ist auf creditchina.gov.cn öffentlich einsehbar, um ­potentiellen Arbeitgebern, Kreditgebern oder Geschäftspartnern Prüfungen im Rahmen ihrer Sorgfaltspflicht zu ermöglichen. Mancherorts kooperierten Telekomanbieter mit den Behörden, indem sie Personen, die von einer geblacklisteten Telefonnummer aus angerufen wurden, darüber informierten.³

«Gesichtserkennungskameras ermöglichen, dass Personen

auf einer schwarzen Liste landen, die fünfmal bei

Rot über die Strasse gegangen sind.»

Auch in der Finanzwelt wurden SKS getestet. Die Chinesische Volksbank erlaubte es⁴ acht Privatunternehmen, mit Kredit-­Ratingsystemen zu experimentieren, um die Entwicklung der ­chinesischen Kredit-Scoring-Branche zu unterstützen. Der Plattformriese Alibaba etwa entwickelte Sesame Credit ⁵, einen quantifizierten Scoring-Mechanismus, der Elemente eines Loyalitätssystems mit denen eines Benutzerbewertungssystems vereinte, wie es auch viele westliche Websites nutzen. Sesame Credit nutzte Big Data und Scoring-Algorithmen und war weit ausgeklügelter als die groben Systeme der Regierung, von denen keines mit privat­wirtschaftlichen Daten oder KI-basierten Ratings arbeitete. Die Medien warfen die beiden jedoch durcheinander, so dass in der Öffentlichkeit der Eindruck entstand, das Alibaba-Modell sei ein Pilotversuch für Regierungszwecke.

Das Sozialkreditsystem auf den verschiedenen Ebenen

Ein Dokument aus dem Jahr 2020⁶ führt jedoch den Gegenbeweis. Es benennt die Erkenntnisse, die Peking aus dem bisherigen Projektverlauf gezogen hat, und zeigt auf, wie es weitergehen soll. Zunächst soll die Zahl der schwarzen Listen beschränkt werden. In Reaktion auf Vorwürfe, das SKS wuchere unkontrolliert, geht die Regierung nun gegen die Schaffung neuer Listen vor und hat eine Überprüfung bestehender Listen angeordnet. Schwarze ­Listen sollen nur noch auf Gesetzen und Vorschriften beruhen dürfen, sonst werden sie abgeschafft. Chinesischen Privatunternehmen war es schon immer untersagt, Kunden auf schwarze Listen zu setzen. Schwarze Listen wurden und werden nur vom Staat geführt. Zweitens fliessen mittlerweile erhebliche Mittel in die Entwicklung von Benachrichtigungs-, Berufungs- und Kredit­sanierungsoptionen. In einer Reihe öffentlich gewordener früher Fälle waren Einzelpersonen oder Unternehmen nicht darüber ­informiert worden, dass sie auf einer schwarzen Liste gelandet waren. Auch gab es oft keine Klarheit darüber, wie man seinen Namen wieder streichen lassen konnte. Diese Probleme sollen durch eine neue Massnahme gelöst werden, die Anreize für eine frühestmögliche Kreditsanierung bietet. Drittens werden die ins SKS eingegebenen Informationen besser geschützt. Das höchste Sicherheitslevel gilt für einen Katalog auf Zentralebene. Kommunalverwaltungen können zusätzlich eigene Kataloge führen, doch müssen diese nach wie vor auf persönlichen Informationen beruhen. Viertens müssen laut der neuen Vorschrift Daten von Einzelpersonen und Unternehmen strenger geschützt werden, und auch die Veröffentlichung von Daten wird strengeren Einschränkungen unterworfen.

Das SKS war nie ein integriertes, zentralisiertes System, sondern immer ein Ökosystem mit Hunderten eigenständiger Komponenten. Diese eint die Auffassung, dass das Verhalten von Einzelpersonen und Unternehmen mittels Belohnungen bzw. Strafen gelenkt werden sollte und dass Informationen hierbei helfen ­können. Die Konsolidierung des SKS wird in den nächsten Jahren auf eine stärkere Zentralisierung eines bislang überaus vielfäl­tigen Phänomens hinauslaufen. Was einzelne Abteilungen und kommunale Regierungen tun und lassen dürfen, wird strenger beschränkt werden. Vermutlich wird in den nächsten Jahren ein Sozialkreditgesetz erlassen, das diese Trends bestätigt. Das SKS könnte auch zu mehr Transparenz hinsichtlich unternehmerischen Verhaltens beitragen – woran die chinesische Regierung immer noch interessiert scheint.

Überwachung durch den Big Brother?

Wie viel Orwell steckt also im SKS? Einerseits passt es eindeutig zu den Zielen der aktuellen Regierungsagenda: stärkere Zentralisierung, strengere Kontrolle über die Aktivitäten von Einzelpersonen und Unternehmen. Andererseits lässt die Entwicklung der letzten Jahre vermuten, dass die Regierung sich der Vorbehalte seitens der Bevölkerung weit bewusster geworden ist. Auch weiss sie wohl um das unlösbare Dilemma aller staatlichen Informa­tionssysteme: Je mehr verschiedene Dinge ein solches System können soll, desto weniger kann es im einzelnen. Das SKS ist heute mehr denn je darauf reduziert, die Durchsetzung bestehender ­Gesetze und Vorschriften in besonders schweren Fällen zu unterstützen, statt selbst ein Mechanismus zur Entscheidungs­findung zu sein. Insofern spiegelt es einen allgemeinen Trend im chinesischen Rechtssystem. Ein Beispiel: Gesichtserkennungs­kameras ermöglichen, dass Personen auf einer schwarzen Liste landen, die fünfmal bei Rot über die Strasse gegangen sind. So wird es etwa in Shenzhen gehandhabt. Allerdings ist das SKS nicht die Ursache dafür, dass solche Kameras installiert werden, sondern fügt lediglich Konsequenzen hinzu. Chinas Nutzung von ­Daten zu Zwecken des Sozialmanagements und der Überwachung gibt zu vielerlei Bedenken Anlass. Das SKS ist bei weitem nicht der proble­matischste Aspekt.

Ohne Nachfrage kein Exportgut

Könnte sich das dereinst ändern? Etwa durch Big Data oder künstliche Intelligenz? Keine Frage – wer behauptet zu wissen, wie China in zehn oder zwanzig Jahren aussehen wird, ist entweder ein Lügner oder ein Narr. Allerdings lassen sich einige Trends benennen. Der wichtigste liegt zweifellos im zunehmenden Gebrauch smarter digitaler Technologien zu Überwachungszwecken durch chinesische Sicherheitsbehörden. Auch hat die Regierung angekündigt, in vielen Bereichen verstärkt auf digitale Techno­logien zu setzen – etwa zum Aufbau und zur Verwaltung von Smart Cities, zum Fernunterricht oder im Gesundheitswesen. Dennoch ist der technologische Aspekt des SKS eher unbedeutend – und wird es wohl auch bleiben. Das liegt zum Teil an der Entscheidung, nur solche Daten für das SKS zuzulassen, die sich im Besitz der Regierung befinden. Hinzu kommt, dass das SKS nicht selbständig entscheidet – es spiegelt lediglich Entscheidungen, die an anderen Stellen im ­System getroffen wurden. Nicht zuletzt sehen die chinesischen Behörden Technologie als Mittel zur Unterstützung menschlicher Entscheidungsprozesse – nicht aber als Ersatz für diese. Sie ­befürchten, dass selbstlernende Algorithmen dereinst unkontrollierbar werden und somit eben die ­Autorität untergraben könnten, die von der Partei als unabdingbar für fortgesetzte politische Stabilität angesehen wird. Darüber hinaus wird die privatwirtschaftliche Nutzung von Algorithmen durch eine Reihe neuer ­Regulierungen beschränkt, die auch ­Rechenschaftspflicht und Haftung verschärfen sollen. Die chinesische Regierung ist gegenüber neuen Technologien durchaus aufgeschlossen, aber keineswegs unkritisch.

Eine letzte Frage, die oft gestellt wird, lautet: Wird das SKS auch ausserhalb Chinas Fuss fassen? Die Antwort ist klar: nicht, wenn es die betroffenen Staaten nicht wollen. In einer Zeit, da die Technologieriesen allmächtig scheinen und digitale Anwendungen zu einem unvermeidlichen Teil unseres täglichen Lebens ­geworden sind, wird oft vergessen, dass sie durchaus reguliert werden können – und wohl auch sollten. Es gibt keinen Grund zur Annahme, dass die chinesische Regierung den Export des SKS aktiv betreiben wird. Daher ist die Frage, in welchem Ausmass Sozialkreditsysteme anderswo auf der Welt entstehen, eine innere Angelegenheit der Staaten selbst. Und in Europa sind alle Bürger Teil dieser Entscheidung.