Anthropic revela casos de investigadores que abusaron de Claude para apoyar la investigación de armas biológicas

Anthropic ha informado que ha impedido cinco casos en los que investigadores intentaron utilizar Claude para actividades que podrían apoyar el desarrollo de armas biológicas. La compañía señala que no puede determinar si los investigadores tenían la intención de causar daño, pero debido a las graves consecuencias potenciales, decidió detener estas actividades. Estos casos ocurrieron entre diciembre de 2025 y agosto de 2026, y Anthropic los describe en un nuevo informe de inteligencia sobre amenazas. La compañía afirma que estos incidentes muestran que, a medida que los modelos de vanguardia mejoran en capacidades científicas, pueden surgir riesgos biológicos más difíciles de detectar.

La línea entre la investigación legítima y el trabajo peligroso

El mayor desafío de Anthropic es determinar la línea entre la investigación legítima y el trabajo peligroso. La investigación biológica a menudo tiene un potencial de doble uso. El mismo conocimiento científico puede apoyar tratamientos médicos y también facilitar el desarrollo de patógenos más peligrosos. Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, dijo al New York Times que rara vez se trata de una declaración clara de intenciones maliciosas. Los investigadores pueden mostrar objetivos científicos aparentemente legítimos mientras realizan trabajos que plantean serios problemas de seguridad.

"Estamos publicando el informe de inteligencia sobre amenazas más detallado hasta la fecha. El informe cubre cómo las personas intentan abusar de Claude, realizando ataques cibernéticos, operaciones de influencia, vigilancia, investigación biológica y construcción de armas, así como cómo descubrimos y prevenimos estos comportamientos", dijo Anthropic en redes sociales. "Hemos impedido todas las operaciones descritas en el informe".

Análisis de casos de abuso de Claude

Anthropic afirma que su investigación ha descubierto intentos de eludir restricciones regionales y evadir sistemas de seguridad. La compañía ha prohibido las cuentas asociadas con estas actividades y ha compartido sus hallazgos con las autoridades y otras empresas de inteligencia artificial. Uno de los casos involucró una investigación relacionada con el virus del chikungunya, y el sistema de Anthropic bloqueó una solicitud de subvención que implicaba investigación con funciones aumentadas. El trabajo relacionado estaba destinado a realizarse en una institución de investigación militar, lo que aumentó las preocupaciones de la compañía. Los investigadores continuaron su trabajo a través de otros canales después de que Claude bloqueara la solicitud sensible.

Anthropic también descubrió que una plataforma de reventa dirigía los avisos biológicos rechazados a modelos con protecciones de seguridad más débiles. El segundo caso involucró la investigación sobre la gripe aviar altamente patógena. Anthropic afirma que un investigador pasó semanas utilizando Claude para la planificación de la investigación, el análisis de datos y la interpretación científica. La compañía señala que sus medidas de seguridad impidieron que el investigador accediera a sus modelos más potentes para realizar trabajos sensibles, y la actividad finalmente se quedó en una versión más débil del modelo.

Medidas de control para consultas biológicas de alto riesgo

Anthropic también informó sobre otros tres casos de investigación biológica con potencial impacto en armas. Estos casos incluyeron trabajos relacionados con el virus de la viruela, toxinas y compuestos relacionados con venenos. La compañía ha retenido la identidad, la ubicación y los detalles biológicos específicos de los investigadores. Anthropic afirma que no afirma que los científicos tuvieran la intención de causar daño. Esta distinción es crucial porque los modelos anteriores de Claude mostraron capacidades limitadas para apoyar la investigación biológica compleja. Anthropic ahora afirma que no puede hacer la misma suposición sobre los nuevos sistemas.

La microbióloga y ex funcionaria de salud pública de EE. UU., Susan Monarez, revisó el informe antes de su publicación. Ella dijo al New York Times que los modelos avanzados podrían ayudar a los actores maliciosos a ocultar investigaciones peligrosas detrás de objetivos científicos legítimos. Anthropic ha reforzado las medidas de control para consultas biológicas de alto riesgo. La compañía también afirma que espera que los investigadores puedan mantener el acceso a capacidades científicas útiles, lo que plantea un difícil problema de ingeniería. Las medidas de seguridad deben, sin obstaculizar la investigación legítima sobre enfermedades, vacunas y tratamientos, impedir la asistencia peligrosa.

Los casos recientes de Anthropic muestran que, a medida que los modelos de vanguardia obtienen capacidades científicas más profundas, esta distinción se está volviendo cada vez más difícil.

El impacto de los modelos de vanguardia en la investigación biológica

Con el avance de los modelos de inteligencia artificial, los investigadores pueden realizar investigaciones biológicas potencialmente peligrosas bajo la apariencia de objetivos científicos legítimos. El informe de Anthropic revela este fenómeno, mostrando que el potencial de doble uso en el campo de la investigación biológica está aumentando. Esto no solo desafía las medidas de seguridad de las empresas tecnológicas, sino que también provoca una reflexión sobre cómo equilibrar el progreso científico con la seguridad pública. A medida que la tecnología avanza rápidamente, garantizar que la investigación no sea mal utilizada se convierte en un desafío importante, con profundas implicaciones para la investigación científica futura y sus aplicaciones.