Peringatan Penelitian: Kecerdasan Buatan Dapat Mengubah Sistem Kredit Sosial di Tiongkok Menjadi Alat Pemantauan

·oleh Henderson·Engineering
Peringatan Penelitian: Kecerdasan Buatan Dapat Mengubah Sistem Kredit Sosial di Tiongkok Menjadi Alat Pemantauan
Poin Penting
  • Penelitian memperingatkan bahwa AI dapat mengubah sistem kredit sosial menjadi alat pemantauan.
  • Sistem kredit sosial menggabungkan kredit finansial dan daftar hitam regulasi, mempengaruhi peluang pinjaman individu.
  • Pengenalan AI dapat mengubah sistem menjadi pemantauan prediktif, mirip dengan "Minority Report".
  • Saat ini tidak ada bukti yang menunjukkan rencana untuk memperkenalkan sistem penilaian sosial berbasis AI secara nasional.

Sebuah penelitian di Tiongkok memperingatkan bahwa pengenalan kecerdasan buatan (AI) ke dalam sistem kredit sosial yang ada mungkin merupakan kesalahan. Penelitian ini diterbitkan dalam Jurnal Universitas Normal Sichuan, dan menunjukkan bahwa hal ini dapat mengubah sistem penilaian menjadi semacam "alat pemantauan massal". Perlu dicatat bahwa penelitian ini didanai oleh proyek yang didukung pemerintah Tiongkok, yang bertujuan untuk meninjau tata kelola sosial dan inovasi sistem.

Saat ini, sistem skor kredit sosial di Tiongkok terdiri dari berbagai prosedur. Sistem ini menggabungkan sistem kredit finansial yang mirip dengan penilaian atau laporan kredit di Barat, serta mencakup daftar hitam regulasi yang mencantumkan individu atau perusahaan yang dikenakan sanksi karena pelanggaran hukum. Sistem ini juga mencakup eksperimen perilaku lokal, yang memberikan penghargaan atau hukuman kepada orang-orang berdasarkan standar yang telah ditetapkan, serta memiliki serangkaian akuntabilitas pemerintah untuk memantau kepatuhan dan perilaku pejabat publik. Prosedur-prosedur ini tidak terhubung menjadi satu skor nasional untuk setiap warga negara, tetapi secara keseluruhan dapat menghalangi individu dalam mendapatkan peluang pinjaman melalui keputusan otomatis.

Dampak Potensial Kecerdasan Buatan

Peneiti berpendapat bahwa pengenalan kecerdasan buatan dapat mengubah sistem ini menjadi apa yang dianggap sebagai sistem orwellian oleh banyak kritikus Barat. Apakah menggabungkan skor kredit sosial dengan kecerdasan buatan merupakan ide yang baik? Menurut sebuah laporan, sistem AI yang didorong ini mampu menganalisis aktivitas individu, sejarah keuangan, hubungan, dan data lain yang tersedia dalam skala besar. Dengan demikian, sistem dapat menilai seseorang mirip dengan orang-orang yang mungkin menimbulkan masalah. Dalam situasi ini, individu mungkin tidak melakukan kesalahan apapun, tetapi sistem dapat memperlakukan mereka secara berbeda. Ini akan mengubah sistem dari yang bersifat reaktif menjadi lebih prediktif, mirip dengan plot film "Minority Report", tetapi dalam skala yang lebih ekstrem.

Peneiti Lin Jianxing memperingatkan bahwa perubahan potensial ini dapat beralih dari penilaian perilaku aktual menjadi analisis profil individu, dan membuat keputusan administratif berdasarkan risiko yang diprediksi oleh algoritma. Semua proses ini terjadi tanpa sepengetahuan pihak yang terlibat, dan tanpa pelanggaran hukum yang resmi, individu dapat "dihukum" dengan mengurangi peluang akses atau dikenakan pemeriksaan yang lebih ketat. Yang lebih penting, ini bukan sekadar teori. Sebuah penelitian di Stanford University pada tahun 2025 meninjau sistem kredit sosial yang ada, menyelidiki sistem kredit sosial di sebuah kota di Tiongkok, di mana skor awal orang dewasa adalah 1.000, dan kemudian berubah berdasarkan kepatuhan terhadap 389 aturan penghargaan dan hukuman.

Aturan-aturan ini mencakup perilaku politik, seperti mengajukan banding kepada otoritas pemerintah. Penelitian juga menemukan bahwa individu dengan peringkat terendah mungkin menghadapi pemantauan polisi. Dibandingkan dengan penduduk kota, penduduk desa tampaknya menghadapi ketidakadilan yang lebih besar, karena mereka memiliki peluang lebih sedikit untuk mendapatkan penghargaan. Secara keseluruhan, penelitian menemukan bahwa meskipun tidak ada sistem "Big Brother" secara nasional, beberapa sistem lokal tampaknya menghukum orang di luar batas pelanggaran kriminal sederhana. Namun, pengenalan kecerdasan buatan dapat membuat kekhawatiran ini menjadi kenyataan bagi setiap orang.

Peluang dan Tantangan di Masa Depan

Perlu dicatat bahwa saat ini tidak ada bukti yang menunjukkan rencana untuk memperkenalkan sistem penilaian sosial berbasis AI yang terintegrasi secara nasional. Namun, Tiongkok sudah menjelajahi penerapan kecerdasan buatan dalam administrasi publik. Penelitian ini hanya berfungsi sebagai peringatan bahwa jika hal ini terjadi di masa depan, hasilnya tidak akan memuaskan. Di sisi lain, para pendukung mungkin berargumen bahwa kemampuan untuk secara andal mengidentifikasi pelaku kejahatan besar yang potensial dapat menguntungkan masyarakat dan membantu mengidentifikasi mereka yang paling membutuhkan bantuan. Jika kecerdasan buatan akan diperkenalkan, penelitian ini menunjukkan bahwa hal itu harus dilakukan dengan cara yang tidak menghukum orang yang tidak bersalah dan tidak terlalu mengganggu.

Apakah ini merupakan tugas yang mustahil? Itu akan menjadi keputusan pembaca sendiri.

Risiko Pengenalan Kecerdasan Buatan dalam Sistem Kredit Sosial

Pengenalan kecerdasan buatan ke dalam sistem kredit sosial di Tiongkok dapat membawa dampak yang mendalam, terutama dalam hal privasi individu dan pemantauan. Penelitian menunjukkan bahwa sistem ini dapat beralih dari reaktif menjadi prediktif, yang dapat mengakibatkan hukuman bagi orang yang tidak bersalah. Meskipun saat ini tidak ada rencana untuk menerapkan sistem nasional, dengan kemajuan teknologi, risiko di masa depan tidak dapat diabaikan. Menyeimbangkan penerapan teknologi dengan hak-hak individu akan menjadi isu penting dalam tata kelola sosial di Tiongkok.

H
Tentang penulis
Henderson