การศึกษาเตือน: ปัญญาประดิษฐ์อาจเปลี่ยนระบบเครดิตสังคมของจีนให้กลายเป็นเครื่องมือเฝ้าระวัง

การศึกษาในจีนได้เตือนว่า การนำปัญญาประดิษฐ์ (AI) เข้ามาในระบบเครดิตสังคมที่มีอยู่ อาจเป็นความผิดพลาด การศึกษานี้เผยแพร่ในวารสารของมหาวิทยาลัยครูเสฉวน โดยชี้ว่ามันอาจทำให้ระบบการให้คะแนนกลายเป็นระบบที่คล้ายกับ "เครื่องมือเฝ้าระวังขนาดใหญ่" ที่ควรให้ความสนใจ โดยการศึกษานี้ได้รับการสนับสนุนจากโครงการที่ได้รับการสนับสนุนจากรัฐบาลจีน ซึ่งมีวัตถุประสงค์เพื่อพิจารณาการบริหารสังคมและนวัตกรรมทางสถาบัน

ในปัจจุบัน ระบบคะแนนเครดิตสังคมของจีนประกอบด้วยกระบวนการต่างๆ ที่รวมกัน มันรวมระบบเครดิตทางการเงินที่คล้ายกับการให้คะแนนหรือรายงานเครดิตในตะวันตก และยังรวมถึงบัญชีดำการควบคุมที่ระบุบุคคลหรือบริษัทที่ถูกลงโทษจากการกระทำผิดกฎหมาย ระบบนี้ยังรวมถึงการทดลองพฤติกรรมในระดับท้องถิ่น ซึ่งให้รางวัลหรือบทลงโทษแก่ผู้คนตามมาตรฐานที่กำหนด และมีระบบการตรวจสอบความรับผิดชอบของรัฐบาล เพื่อเฝ้าระวังความสอดคล้องและพฤติกรรมของเจ้าหน้าที่รัฐ กระบวนการเหล่านี้ไม่ได้เชื่อมโยงกันเป็นคะแนนระดับชาติเดียวสำหรับพลเมืองแต่ละคน แต่รวมกันอาจขัดขวางโอกาสในการกู้ยืมของบุคคลผ่านการตัดสินใจอัตโนมัติ

ผลกระทบที่อาจเกิดจากปัญญาประดิษฐ์

การศึกษาเชื่อว่าการนำปัญญาประดิษฐ์เข้ามาอาจทำให้ระบบนี้กลายเป็นระบบที่หลายคนในตะวันตกมองว่าเป็นระบบแบบออร์เวลล์ คะแนนเครดิตสังคมที่รวมกับปัญญาประดิษฐ์ จะเป็นความคิดที่ดีหรือไม่? ตามรายงาน ระบบปัญญาประดิษฐ์ที่ขับเคลื่อนด้วยข้อมูลสามารถวิเคราะห์กิจกรรม ประวัติการเงิน ความสัมพันธ์ และข้อมูลอื่นๆ ของบุคคลในระดับขนาดใหญ่ จากนั้นระบบอาจตัดสินว่าบุคคลนั้นมีความคล้ายคลึงกับผู้ที่อาจก่อปัญหา ในกรณีนี้ บุคคลอาจไม่มีพฤติกรรมที่ไม่เหมาะสม แต่ระบบอาจปฏิบัติต่อพวกเขาแตกต่างออกไป สิ่งนี้จะทำให้ระบบเปลี่ยนจากการตอบสนองหลักไปสู่การคาดการณ์มากขึ้น คล้ายกับเนื้อเรื่องในภาพยนตร์ "Minority Report" แต่มีความรุนแรงมากกว่า

นักวิจัย Lin Jianxing เตือนว่าการเปลี่ยนแปลงที่อาจเกิดขึ้นนี้อาจเปลี่ยนจากการประเมินพฤติกรรมจริงไปเป็นการวิเคราะห์โปรไฟล์ของบุคคล และทำการตัดสินใจทางการบริหารตามความเสี่ยงที่คาดการณ์โดยอัลกอริธึม กระบวนการทั้งหมดนี้เกิดขึ้นโดยที่บุคคลไม่ทราบ และในกรณีที่ไม่ได้กระทำผิดอย่างเป็นทางการ บุคคลอาจถูก "ลงโทษ" ด้วยการลดโอกาสในการเข้าถึงหรือถูกตรวจสอบอย่างเข้มงวดมากขึ้น สิ่งที่สำคัญคือ นี่ไม่ใช่ทฤษฎีล้วนๆ ในปี 2025 การศึกษาของมหาวิทยาลัยสแตนฟอร์ดได้ตรวจสอบระบบเครดิตสังคมที่มีอยู่ โดยสำรวจระบบเครดิตสังคมในเมืองหนึ่งของจีน ซึ่งผู้ใหญ่เริ่มต้นคะแนนที่ 1,000 คะแนน และคะแนนจะเปลี่ยนแปลงตามการปฏิบัติตามกฎรางวัลและบทลงโทษ 389 ข้อ

กฎเหล่านี้รวมถึงพฤติกรรมทางการเมือง เช่น การยื่นอุทธรณ์ต่อหน่วยงานรัฐบาล การศึกษาได้ค้นพบว่าบุคคลที่มีคะแนนต่ำสุดอาจเผชิญกับการเฝ้าระวังจากตำรวจ เมื่อเปรียบเทียบกับประชาชนในเมือง ชาวชนบทดูเหมือนจะเผชิญกับความไม่เป็นธรรม เนื่องจากพวกเขามีโอกาสน้อยในการได้รับรางวัล โดยรวมแล้ว การศึกษาได้ค้นพบว่า แม้จะไม่มีระบบ "Big Brother" ในระดับชาติ แต่ระบบในบางพื้นที่ดูเหมือนจะลงโทษผู้คนเกินกว่าขอบเขตของอาชญากรรมทางอาญา อย่างไรก็ตาม การนำปัญญาประดิษฐ์เข้ามาอาจทำให้ความกังวลนี้กลายเป็นจริงสำหรับทุกคน

ความเป็นไปได้และความท้าทายในอนาคต

ต้องชี้แจงว่า ปัจจุบันยังไม่มีหลักฐานแสดงว่ามีแผนที่จะนำระบบการให้คะแนนสังคมระดับชาติที่ขับเคลื่อนด้วยปัญญาประดิษฐ์เข้ามา อย่างไรก็ตาม จีนกำลังสำรวจการใช้ปัญญาประดิษฐ์ในภาครัฐ การศึกษานี้เป็นเพียงการเตือนว่า หากเกิดเหตุการณ์เช่นนี้ในอนาคต ผลลัพธ์อาจไม่เป็นที่น่าพอใจ ในทางกลับกัน ผู้สนับสนุนอาจโต้แย้งว่าการระบุผู้ที่อาจก่ออาชญากรรมร้ายแรงได้อย่างเชื่อถือได้สามารถเป็นประโยชน์ต่อสังคม และช่วยในการระบุผู้ที่ต้องการความช่วยเหลือมากที่สุด หากจะนำปัญญาประดิษฐ์เข้ามา การศึกษาชี้ให้เห็นว่าต้องทำในลักษณะที่ไม่ลงโทษผู้บริสุทธิ์และไม่รบกวนมากเกินไป

นี่จะเป็นภารกิจที่เป็นไปไม่ได้หรือไม่? ขึ้นอยู่กับการตัดสินใจของผู้อ่าน

ความเสี่ยงในการนำปัญญาประดิษฐ์เข้าสู่ระบบเครดิตสังคม

การนำปัญญาประดิษฐ์เข้าสู่ระบบเครดิตสังคมของจีนอาจส่งผลกระทบอย่างลึกซึ้ง โดยเฉพาะในด้านความเป็นส่วนตัวและการเฝ้าระวัง การศึกษาได้ชี้ให้เห็นว่าระบบนี้อาจเปลี่ยนจากการตอบสนองไปสู่การคาดการณ์ ทำให้ผู้บริสุทธิ์ต้องเผชิญกับการลงโทษ แม้ว่าในขณะนี้ยังไม่มีแผนที่จะดำเนินการระบบระดับชาติ แต่ด้วยการพัฒนาเทคโนโลยี ความเสี่ยงในอนาคตไม่ควรถูกมองข้าม การหาสมดุลระหว่างการใช้เทคโนโลยีกับสิทธิของบุคคลจะกลายเป็นประเด็นสำคัญในการบริหารสังคมของจีน