研究警告：人工智能可能将中国社会信用系统转变为监控工具

一项中国研究警告，将人工智能（AI）引入现有的社会信用体系可能是一个错误。该研究发表于《四川师范大学学报》，指出这可能使评分系统变成一种类似“大规模监控工具”的系统。值得注意的是，这项研究是由一个中国政府支持的项目资助，旨在检视社会治理和制度创新。

目前，中国的社会信用分数系统由不同的程序组成。它结合了类似于西方信用评分或报告的金融信用系统，还包括列举因违法而受到制裁的个人或公司的监管黑名单。该系统还包括地方行为实验，根据既定标准对人们进行奖励或惩罚，并设有一系列政府问责制度，以监控公职人员的合规性和行为。这些程序并未连接成每位公民的单一全国分数，但综合起来可能会通过自动决策妨碍个人获取贷款等机会。

人工智能的潜在影响

该研究认为，引入人工智能可能会使这一系统变成许多西方批评者所认为的奥威尔式系统。社会信用分数加上人工智能，是否是一个好主意？根据一份报告，这种驱动的人工智能系统能够在巨大规模上分析个体的活动、财务历史、关系及其他可用数据。由此，系统可能判断某人与可能引发问题的人相似。在这种情况下，个人未必有任何不当行为，但系统却可能会以不同的方式对待他们。这将使系统从主要的反应性转变为更具预测性，类似于电影《少数派报告》的情节，但更为极端。

研究者林建兴警告，这一潜在转变可能从评估实际行为转变为对个体的档案分析，并根据算法预测的风险做出行政决策。所有这些过程在当事人不知情的情况下发生，且在未正式违法的情况下，个体可能会因减少获取机会或接受更高的审查而受到“惩罚”。更重要的是，这并非纯粹的理论。2025年斯坦福大学的一项研究检视了现有的社会信用系统，调查了中国一个城市的社会信用系统，其中成年人起始分数为1,000分，随后根据遵守389条奖惩规则而变动。

这些规则包括政治行为，例如向政府当局上诉。研究还发现，获得最低等级的个体可能面临警方监控。与城市居民相比，农村居民似乎面临不公平的劣势，因为他们获得奖励的机会较少。总体而言，研究发现，虽然全国范围内的“大哥”类型系统并不存在，但某些地方系统似乎对人们的惩罚超出了简单的刑事犯罪范畴。然而，引入人工智能可能使每个人对此的担忧变为现实。

未来的可能性与挑战

需要指出的是，目前并没有证据显示有计划引入统一的全国性人工智能驱动的社会评分系统。然而，中国已经在探索人工智能在公共行政中的应用。该研究仅作为警告，若未来发生这种情况，结果将不会令人满意。另一方面，支持者可能会辩称，可靠地识别潜在的重大犯罪行为者可以造福社会，并有助于识别最需要帮助的人。如果要引入人工智能，该研究指出，必须以不惩罚无辜者且不过于干扰的方式进行。

这是否是一项不可能的任务？将由读者自行决定。

人工智能引入社会信用系统的风险

将人工智能引入中国的社会信用系统可能带来深远的影响，特别是在个人隐私和监控方面。研究指出，这种系统可能从反应性转变为预测性，导致无辜者受到惩罚。虽然目前并无计划实施全国性系统，但随着技术的发展，未来的风险不容忽视。如何平衡技术应用与个人权益，将成为中国社会治理的重要课题。