- Die Studie warnt, dass KI das Sozialkreditsystem in ein Überwachungstool verwandeln könnte.
- Das Sozialkreditsystem kombiniert finanzielle Kredite mit regulatorischen schwarzen Listen und beeinflusst die Kreditmöglichkeiten von Individuen.
- Die Einführung von KI könnte das System in eine prädiktive Überwachung verwandeln, ähnlich wie in „Minority Report“.
- Derzeit gibt es keine Beweise für Pläne zur Einführung eines landesweiten KI-gestützten Sozialbewertungssystems.
Eine Studie aus China warnt, dass die Einführung von Künstlicher Intelligenz (KI) in das bestehende Sozialkreditsystem ein Fehler sein könnte. Die Studie, veröffentlicht in der Zeitschrift der Sichuan Normal University, weist darauf hin, dass dies das Bewertungssystem in ein System verwandeln könnte, das einer Art „massiven Überwachungstool“ ähnelt. Es ist bemerkenswert, dass diese Studie von einem von der chinesischen Regierung unterstützten Projekt finanziert wurde, das darauf abzielt, soziale Governance und institutionelle Innovationen zu untersuchen.
Derzeit besteht Chinas Sozialkreditsystem aus verschiedenen Programmen. Es kombiniert ein finanzielles Kreditsystem, das dem westlichen Kreditbewertungssystem ähnelt, mit regulatorischen schwarzen Listen, die Personen oder Unternehmen auflisten, die wegen Gesetzesverstößen bestraft wurden. Das System umfasst auch lokale Verhaltensversuche, die Menschen basierend auf festgelegten Kriterien belohnen oder bestrafen, und verfügt über eine Reihe von Regierungsverantwortungssystemen zur Überwachung der Compliance und des Verhaltens von Beamten. Diese Programme sind nicht zu einem einzigen nationalen Punkt für jeden Bürger verbunden, könnten jedoch insgesamt durch automatisierte Entscheidungen die Möglichkeiten für Einzelpersonen, Kredite zu erhalten, beeinträchtigen.
Potenzielle Auswirkungen der Künstlichen Intelligenz
Die Studie argumentiert, dass die Einführung von Künstlicher Intelligenz dieses System in das verwandeln könnte, was viele westliche Kritiker als orwellianisches System betrachten. Ist es eine gute Idee, Sozialkredite mit Künstlicher Intelligenz zu kombinieren? Laut einem Bericht kann ein KI-gestütztes System in großem Maßstab die Aktivitäten, finanziellen Historien, Beziehungen und andere verfügbare Daten von Individuen analysieren. Daraus könnte das System schließen, dass jemand Ähnlichkeiten mit Personen aufweist, die möglicherweise Probleme verursachen. In diesem Fall könnte eine Person keinerlei Fehlverhalten aufweisen, aber das System könnte sie dennoch unterschiedlich behandeln. Dies würde das System von einer hauptsächlich reaktiven zu einer stärker prädiktiven Haltung verändern, ähnlich der Handlung von „Minority Report“, jedoch in extremerer Form.
Der Forscher Lin Jianxing warnt, dass dieser potenzielle Wandel von der Bewertung tatsächlichen Verhaltens zu einer Profilanalyse von Individuen führen könnte, wobei administrative Entscheidungen auf algorithmisch vorhergesagten Risiken basieren. All diese Prozesse geschehen, ohne dass die Betroffenen informiert werden, und selbst ohne formelle Gesetzesverstöße könnten Individuen durch reduzierte Chancen oder höhere Überprüfungen „bestraft“ werden. Noch wichtiger ist, dass dies nicht nur theoretisch ist. Eine Studie der Stanford University aus dem Jahr 2025 untersuchte das bestehende Sozialkreditsystem in einer Stadt in China, wo Erwachsene mit einem Ausgangswert von 1.000 Punkten beginnen, der sich dann basierend auf der Einhaltung von 389 Belohnungs- und Bestrafungsregeln ändert.
Diese Regeln umfassen politisches Verhalten, wie das Einlegen von Beschwerden bei den Behörden. Die Studie stellte auch fest, dass Individuen mit der niedrigsten Bewertung möglicherweise polizeilicher Überwachung ausgesetzt sind. Im Vergleich zu Stadtbewohnern scheinen Landbewohner ungerecht benachteiligt zu sein, da sie weniger Möglichkeiten zur Belohnung haben. Insgesamt stellte die Studie fest, dass, obwohl ein landesweites „Big Brother“-System nicht existiert, bestimmte lokale Systeme die Bestrafungen für Menschen über einfache strafrechtliche Vergehen hinaus zu erweitern scheinen. Die Einführung von Künstlicher Intelligenz könnte jedoch die Bedenken aller in die Realität umsetzen.
Zukünftige Möglichkeiten und Herausforderungen
Es ist zu beachten, dass derzeit keine Beweise für Pläne zur Einführung eines einheitlichen landesweiten KI-gestützten Sozialbewertungssystems vorliegen. China erkundet jedoch bereits die Anwendung von Künstlicher Intelligenz in der öffentlichen Verwaltung. Die Studie dient lediglich als Warnung, dass, falls dies in Zukunft geschieht, die Ergebnisse unzufriedenstellend sein werden. Auf der anderen Seite könnten Befürworter argumentieren, dass die zuverlässige Identifizierung potenzieller schwerer Straftäter der Gesellschaft zugutekommen und helfen kann, die am dringendsten Hilfe benötigenden Personen zu identifizieren. Sollte Künstliche Intelligenz eingeführt werden, weist die Studie darauf hin, dass dies auf eine Weise geschehen muss, die unschuldige Personen nicht bestraft und nicht zu störend ist.
Ist dies eine unmögliche Aufgabe? Das bleibt den Lesern überlassen zu entscheiden.
Risiken der Einführung von Künstlicher Intelligenz in das Sozialkreditsystem
Die Einführung von Künstlicher Intelligenz in Chinas Sozialkreditsystem könnte weitreichende Auswirkungen haben, insbesondere in Bezug auf den persönlichen Datenschutz und die Überwachung. Die Studie weist darauf hin, dass dieses System von reaktiv zu prädiktiv wechseln könnte, was zu Strafen für Unschuldige führen könnte. Obwohl derzeit keine Pläne für die Implementierung eines landesweiten Systems bestehen, sind die zukünftigen Risiken mit dem technologischen Fortschritt nicht zu ignorieren. Wie man die Anwendung von Technologie mit den Rechten des Einzelnen in Einklang bringt, wird eine wichtige Herausforderung für die soziale Governance in China sein.

