El gobernador de California, Gavin Newsom, firmó el 10 de septiembre dos leyes de regulación de inteligencia artificial, fortaleciendo así el marco regulatorio del estado en este campo. Cabe destacar que estas leyes ya habían recibido el reconocimiento y apoyo de las principales empresas de inteligencia artificial antes de su promulgación.
La firma de las leyes coincide con un momento de gran atención sobre el tema de la seguridad en la inteligencia artificial. Anteriormente, Jacob Coxon, un investigador que había trabajado en Anthropic, anunció su renuncia y advirtió sobre los riesgos catastróficos que podría acelerar la industria de la inteligencia artificial. En respuesta, Newsom afirmó que las preocupaciones suscitadas por eventos recientes confirman el juicio de California de que, aunque la inteligencia artificial tiene un enorme potencial, su desarrollo y despliegue deben ir acompañados de medidas sustanciales de seguridad. Newsom también hizo un llamado al gobierno federal para que promulgue lo antes posible regulaciones nacionales de inteligencia artificial que estén a la altura de la situación urgente actual.
Las leyes de regulación de inteligencia artificial de California elevarán los estándares de seguridad de la industria
En estas dos leyes, el proyecto de ley SB 813, propuesto por el senador estatal Jerry McNamara, establecerá la Comisión de Estándares y Seguridad de Inteligencia Artificial de California, encargada de desarrollar estándares voluntarios de seguridad en inteligencia artificial; mientras que el proyecto de ley AB 1405, propuesto por la asambleísta Rebecca Bauer-Kahan, creará un sistema de registro para auditores de riesgos de inteligencia artificial, regulando la certificación de las calificaciones de los auditores.
A nivel de la industria, tanto Anthropic como OpenAI expresaron públicamente su apoyo antes de la firma de las leyes. Chris Lehane, director de asuntos públicos de OpenAI, señaló que las capacidades actuales de la inteligencia artificial han entrado en una nueva etapa, y que el marco político también debe seguir este ritmo. Por su parte, Anthropic indicó que su inversión a largo plazo en seguridad fue lo que motivó su apoyo a la colaboración de toda la industria de manera legal y verificable, para controlar conjuntamente el ritmo de lanzamiento de modelos potentes. Ambas empresas afirmaron que trabajarán para establecer estándares internacionales compatibles, formando consenso en cuestiones como la medición de capacidades, la gestión de riesgos y la preservación del control humano.