- Anthropic propone restricciones estrictas a la intervención del gobierno en modelos avanzados de inteligencia artificial.
- La intervención debe cumplir con condiciones específicas, como amenazas significativas previsibles.
- Evaluadores independientes serán responsables de supervisar el cumplimiento y evaluar los riesgos de los modelos.
- Dentro del Congreso hay un intenso debate sobre las propuestas de regulación de la inteligencia artificial.
Anthropic busca que el Congreso establezca restricciones estrictas para que las autoridades federales prohíban la prestación de servicios de modelos avanzados de inteligencia artificial a los usuarios. Según un borrador confidencial de un proyecto de ley obtenido por POLITICO, la intervención del gobierno se vincularía a amenazas catastróficas específicas y requeriría aprobación judicial para suspender el uso de los modelos. La propuesta proporcionaría un marco legal más claro para los desarrolladores de inteligencia artificial de vanguardia, al tiempo que limitaría las circunstancias que podrían desencadenar acciones gubernamentales y plantearía la cuestión de cuánta supervisión deberían ejercer los reguladores sobre sistemas cada vez más potentes.
Condiciones estrictas para la intervención
Según la propuesta, las autoridades federales solo podrían buscar suspender un modelo cuando exista una amenaza previsible y inminente. Los riesgos que califiquen deben implicar pérdidas superiores a 1,000 millones de dólares o más de 50 muertes o lesiones graves. El proyecto de ley limita estas amenazas a tres situaciones: la creación o liberación de armas biológicas, el modelo fuera del control de su desarrollador o un ciberataque. Otras formas de daño no estarían dentro de este marco de intervención específico. Anthropic afirma que esta legislación refleja el marco de inteligencia artificial avanzada que ha promovido entre legisladores federales y estatales desde junio.
“Estas son las políticas razonables que creemos que el Congreso debería adoptar”, declaró un portavoz de Anthropic.
Los evaluadores independientes serán responsables de supervisar el cumplimiento. Se registrarán ante el Departamento de Comercio y evaluarán regularmente a los desarrolladores de inteligencia artificial de vanguardia y sus modelos. Los evaluadores pueden recibir compensación de las empresas que revisan, siempre que su remuneración no dependa de los resultados de sus evaluaciones. Si una evaluación identifica una amenaza inminente cubierta por el proyecto de ley, el evaluador debe notificar al Departamento de Comercio dentro de las 72 horas posteriores a la finalización de la revisión.
Los tribunales controlarán la suspensión; el proyecto evitaría que el Departamento de Comercio cierre modelos por su cuenta, y en su lugar, el departamento necesitaría solicitar una orden a un juez federal en Washington, D.C. El borrador también prohíbe a otros departamentos federales, agencias y funcionarios suspender el desarrollo, despliegue o uso interno de los modelos. Esta limitación podría reducir el riesgo de acciones de ejecución inesperadas contra los desarrolladores de inteligencia artificial. Este tema es especialmente relevante en el contexto de los informes sobre controles de exportación en EE. UU., que supuestamente excluyeron a dos modelos avanzados de Anthropic durante el verano. Este incidente generó preocupaciones en la industria tecnológica sobre las restricciones de los funcionarios gubernamentales al acceso a sistemas potentes.
Intenso debate interno en el Congreso
Sin embargo, el proyecto de ley también priorizaría la divulgación de riesgos públicos, evaluaciones independientes y requisitos de informes de eventos significativos en ciertos estados. Esta cláusula podría reavivar el debate sobre si Washington debería establecer estándares nacionales o mantener protecciones estatales más fuertes.
El Congreso está sopesando propuestas competitivas; el borrador de Anthropic ha entrado en un intenso debate legislativo sobre cómo EE. UU. debería regular la inteligencia artificial de vanguardia. Las representantes Lori Trahan y Jay Obernolte impulsaron el proyecto de ley FRONTIER, que autorizaría al gobierno a intervenir en modelos de riesgo y cubriría ciertas leyes estatales. En el Senado, el líder de la mayoría John Thune, junto con los senadores Amy Klobuchar y Ted Cruz, ha estado elaborando legislación para abordar los riesgos catastróficos de la inteligencia artificial.
Sin embargo, algunos defensores de la seguridad y la senadora Maria Cantwell desean un proceso de revisión federal más robusto. Otros legisladores están presionando por restricciones más amplias. Los representantes Greg Casar y el senador Bernie Sanders han solicitado una pausa en el desarrollo de inteligencia artificial avanzada y la prohibición de la superinteligencia.
La propuesta de Anthropic adopta un enfoque más limitado. Requerirá que los desarrolladores de vanguardia establezcan un marco de seguridad, publiquen informes transparentes sobre nuevos modelos, protejan a los denunciantes y reporten eventos significativos al Departamento de Comercio. Si los legisladores aceptan estas restricciones, esto ayudará a determinar cuánta autoridad obtendrá el gobierno federal sobre los sistemas de inteligencia artificial avanzada. Este debate también se centra en si se puede proteger al público a través de un único marco nacional sin otorgar a los reguladores una discreción excesiva.
Desafíos de la regulación gubernamental de la inteligencia artificial
A medida que la tecnología de inteligencia artificial avanza rápidamente, cómo regularla de manera efectiva se ha convertido en un tema importante. El proyecto de ley propuesto por Anthropic busca proporcionar un marco legal claro para los desarrolladores de inteligencia artificial avanzada y limitar la intervención arbitraria del gobierno, lo que refleja una preocupación por el equilibrio entre la innovación tecnológica y la seguridad pública. Con diferentes perspectivas sobre las medidas regulatorias dentro del Congreso, la legislación futura influirá en la dirección del desarrollo de la inteligencia artificial y su impacto en la sociedad. Este debate no solo se refiere a la seguridad de la tecnología, sino también a cómo encontrar el límite adecuado entre fomentar la innovación y proteger los intereses públicos.