Investigación advierte: la inteligencia artificial podría transformar el sistema de crédito social de China en una herramienta de vigilancia

·por Henderson·Engineering
Investigación advierte: la inteligencia artificial podría transformar el sistema de crédito social de China en una herramienta de vigilancia
Puntos clave
  • El estudio advierte que la inteligencia artificial podría convertir el sistema de crédito social en una herramienta de vigilancia.
  • El sistema de crédito social combina el crédito financiero con listas negras regulatorias, afectando las oportunidades de préstamos personales.
  • La introducción de la inteligencia artificial podría transformar el sistema en una vigilancia predictiva, similar a "Minority Report".
  • No hay evidencia actual de planes para introducir un sistema de puntuación social basado en inteligencia artificial a nivel nacional.

Un estudio en China advierte que la introducción de la inteligencia artificial (IA) en el actual sistema de crédito social podría ser un error. La investigación, publicada en el Journal of Sichuan Normal University, señala que esto podría convertir el sistema de puntuación en una especie de "herramienta de vigilancia masiva". Es importante destacar que este estudio fue financiado por un proyecto respaldado por el gobierno chino, cuyo objetivo es examinar la gobernanza social y la innovación institucional.

Actualmente, el sistema de puntuación de crédito social en China está compuesto por diferentes programas. Combina un sistema de crédito financiero similar al de Occidente con listas negras regulatorias que enumeran a individuos o empresas sancionadas por violaciones. El sistema también incluye experimentos de comportamiento a nivel local, que recompensan o castigan a las personas según criterios establecidos, y cuenta con una serie de mecanismos de rendición de cuentas gubernamentales para monitorear la conformidad y el comportamiento de los funcionarios públicos. Estos programas no están conectados en una única puntuación nacional para cada ciudadano, pero en conjunto podrían obstaculizar las oportunidades de obtener préstamos a través de decisiones automatizadas.

Impacto potencial de la inteligencia artificial

El estudio sostiene que la introducción de la inteligencia artificial podría convertir este sistema en lo que muchos críticos occidentales consideran un sistema orwelliano. ¿Es una buena idea combinar la puntuación de crédito social con inteligencia artificial? Según un informe, este sistema impulsado por IA podría analizar a gran escala las actividades de los individuos, su historial financiero, relaciones y otros datos disponibles. De este modo, el sistema podría juzgar que una persona es similar a alguien que podría causar problemas. En este caso, el individuo podría no haber cometido ninguna falta, pero el sistema podría tratarlos de manera diferente. Esto transformaría el sistema de ser principalmente reactivo a ser más predictivo, similar a la trama de la película "Minority Report", pero de manera más extrema.

El investigador Lin Jianxing advierte que esta posible transformación podría pasar de evaluar comportamientos reales a un análisis de perfil de los individuos, tomando decisiones administrativas basadas en riesgos predichos por algoritmos. Todos estos procesos ocurren sin que los involucrados lo sepan, y sin que hayan cometido una infracción formal, los individuos podrían ser "castigados" al ver reducidas sus oportunidades o al ser objeto de un mayor escrutinio. Más importante aún, esto no es solo una teoría. Un estudio de Stanford en 2025 examinó el sistema de crédito social existente, investigando el sistema de crédito social de una ciudad china, donde los adultos comienzan con una puntuación de 1,000 puntos, que luego varía según el cumplimiento de 389 reglas de recompensas y castigos.

Estas reglas incluyen comportamientos políticos, como apelar a las autoridades gubernamentales. La investigación también encontró que los individuos con la puntuación más baja podrían enfrentar vigilancia policial. En comparación con los residentes urbanos, los residentes rurales parecen enfrentar desventajas injustas, ya que tienen menos oportunidades de recibir recompensas. En general, el estudio concluyó que, aunque no existe un sistema de "Gran Hermano" a nivel nacional, ciertos sistemas locales parecen castigar a las personas más allá de las simples infracciones penales. Sin embargo, la introducción de la inteligencia artificial podría hacer que estas preocupaciones se conviertan en una realidad para todos.

Posibilidades y desafíos futuros

Es importante señalar que actualmente no hay evidencia de planes para introducir un sistema de puntuación social unificado y basado en inteligencia artificial a nivel nacional. Sin embargo, China ya está explorando la aplicación de la inteligencia artificial en la administración pública. Este estudio sirve como una advertencia de que, si esto ocurriera en el futuro, los resultados no serían satisfactorios. Por otro lado, los partidarios podrían argumentar que identificar de manera confiable a los posibles delincuentes graves podría beneficiar a la sociedad y ayudar a identificar a quienes más necesitan ayuda. Si se va a introducir la inteligencia artificial, el estudio señala que debe hacerse de manera que no castigue a los inocentes ni interfiera en exceso.

¿Es esta una tarea imposible? Quedará a criterio del lector decidir.

Riesgos de la introducción de inteligencia artificial en el sistema de crédito social

La introducción de la inteligencia artificial en el sistema de crédito social de China podría tener profundas implicaciones, especialmente en términos de privacidad individual y vigilancia. La investigación señala que este sistema podría pasar de ser reactivo a predictivo, lo que llevaría a que personas inocentes sean castigadas. Aunque actualmente no hay planes para implementar un sistema nacional, los riesgos futuros no deben ser ignorados a medida que la tecnología avanza. Cómo equilibrar la aplicación tecnológica con los derechos individuales se convertirá en un tema importante en la gobernanza social de China.

H
Sobre el autor
Henderson