研究警告：人工智能可能將中國社會信用系統轉變為監控工具

一項中國研究警告，將人工智能（AI）引入現有的社會信用體系可能是一個錯誤。該研究發表於《四川師範大學學報》，指出這可能使評分系統變成一種類似「大規模監控工具」的系統。值得注意的是，這項研究是由一個中國政府支持的項目資助，旨在檢視社會治理和制度創新。

目前，中國的社會信用分數系統由不同的程序組成。它結合了類似於西方信用評分或報告的金融信用系統，還包括列舉因違法而受到制裁的個人或公司的監管黑名單。該系統還包括地方行為實驗，根據既定標準對人們進行獎勵或懲罰，並設有一系列政府問責制度，以監控公職人員的合規性和行為。這些程序並未連接成每位公民的單一全國分數，但綜合起來可能會通過自動決策妨礙個人獲取貸款等機會。

人工智能的潛在影響

該研究認為，引入人工智能可能會使這一系統變成許多西方批評者所認為的奧威爾式系統。社會信用分數加上人工智能，是否是一個好主意？根據一份報告，這種驅動的人工智能系統能夠在巨大規模上分析個體的活動、財務歷史、關係及其他可用數據。由此，系統可能判斷某人與可能引發問題的人相似。在這種情況下，個人未必有任何不當行為，但系統卻可能會以不同的方式對待他們。這將使系統從主要的反應性轉變為更具預測性，類似於電影《少數派報告》的情節，但更為極端。

研究者林建興警告，這一潛在轉變可能從評估實際行為轉變為對個體的檔案分析，並根據算法預測的風險做出行政決策。所有這些過程在當事人不知情的情況下發生，且在未正式違法的情況下，個體可能會因減少獲取機會或接受更高的審查而受到「懲罰」。更重要的是，這並非純粹的理論。2025 年斯坦福大學的一項研究檢視了現有的社會信用系統，調查了中國一個城市的社會信用系統，其中成年人起始分數為 1,000 分，隨後根據遵守 389 條獎懲規則而變動。

這些規則包括政治行為，例如向政府當局上訴。研究還發現，獲得最低等級的個體可能面臨警方監控。與城市居民相比，農村居民似乎面臨不公平的劣勢，因為他們獲得獎勵的機會較少。總體而言，研究發現，雖然全國範圍內的「大哥」類型系統並不存在，但某些地方系統似乎對人們的懲罰超出了簡單的刑事犯罪範疇。然而，引入人工智能可能使每個人對此的擔憂變為現實。

未來的可能性與挑戰

需要指出的是，目前並沒有證據顯示有計劃引入統一的全國性人工智能驅動的社會評分系統。然而，中國已經在探索人工智能在公共行政中的應用。該研究僅作為警告，若未來發生這種情況，結果將不會令人滿意。另一方面，支持者可能會辯稱，可靠地識別潛在的重大犯罪行為者可以造福社會，並有助於識別最需要幫助的人。如果要引入人工智能，該研究指出，必須以不懲罰無辜者且不過於幹擾的方式進行。

這是否是一項不可能的任務？將由讀者自行決定。

人工智能引入社會信用系統的風險

將人工智能引入中國的社會信用系統可能帶來深遠的影響，特別是在個人隱私和監控方面。研究指出，這種系統可能從反應性轉變為預測性，導致無辜者受到懲罰。雖然目前並無計劃實施全國性系統，但隨著技術的發展，未來的風險不容忽視。如何平衡技術應用與個人權益，將成為中國社會治理的重要課題。