El responsable de negocio internacional de Anthropic, Guillaume Princen, declaró en una entrevista con Bloomberg Television durante la Cumbre Internacional de IA celebrada en Dublin que, en comparación con los propios modelos de IA de la compañía, los modelos abiertos presentan un «mayor riesgo» en incidentes de ciberseguridad u otros peligros. Señaló que, en cuanto a los problemas de seguridad, se debe ser extremadamente cauteloso con los modelos de código abierto, y enfatizó que no puede opinar en nombre de los modelos abiertos, pero que, por definición, estos modelos efectivamente conllevan un riesgo mayor.
Este posicionamiento se produce en un contexto en el que Anthropic enfrenta una competencia cada vez más intensa en varios países. La alternativa a los modelos de código cerrado que actualmente atrae la atención son los modelos de IA de pesos abiertos, que publican sus parámetros, permiten a los usuarios modificarlos por sí mismos y ejecutarlos en su propio hardware. Los defensores sostienen que, frente a los modelos de código cerrado estrictamente controlados que ofrecen Anthropic y OpenAI, los modelos de pesos abiertos tienen un coste menor y son más favorables para preservar la soberanía nacional. Recientemente, la empresa de IA de France Mistral AI lanzó un modelo de pesos abiertos, proporcionando a Europe una alternativa de modelo soberano; al mismo tiempo, una serie de modelos abiertos similares lanzados por empresas de China están ganando cada vez más atención en los mercados extranjeros.
Anthropic ve crecer sus preocupaciones de seguridad sobre los modelos abiertos
Anthropic ha intensificado recientemente sus advertencias sobre las capacidades de la IA. A principios de esta semana, la compañía advirtió que los modelos de IA pequeños podrían pronto dar origen a un nuevo tipo de botnet, capaz de autorreplicarse entre dispositivos conectados de pequeño tamaño, como hornos inteligentes. Princen, quien también dirige las ventas de Anthropic dirigidas a startups y empresas «nativas digitales», señaló que la preocupación por los modelos de pesos abiertos proviene de los esfuerzos de Anthropic para garantizar la seguridad de sus productos. Tras varios incidentes de piratería informática con IA que atrajeron gran atención, Anthropic afirmó haber añadido medidas adicionales de protección para impedir que sus modelos sean utilizados con fines maliciosos.
La empresa también ha sostenido que se debe desacelerar el ritmo de desarrollo de la IA hasta que se establezcan estándares internacionales y se constituya un mecanismo de evaluación unificado.
Al referirse a sus modelos de precio más elevado, Princen indicó que dice a los clientes empresariales que la adquisición de modelos más potentes acabará generando retorno. «Hay que invertir siempre en tecnología de vanguardia. Porque dentro de seis meses, un año o dos años, el coste de uso de este tipo de escenarios de aplicación también bajará», afirmó. Además, mencionó que el último modelo de la compañía, Claude Opus 5.5, es un 40 % más barato que la versión anterior. También añadió que los clientes empresariales que compran los modelos «de vanguardia» de Anthropic representan una «proporción muy grande» del negocio de la empresa, aunque no reveló cifras concretas.
En cuanto a los planes de salida a bolsa de Anthropic, Princen se negó a comentar; tampoco quiso revelar cuánto ha invertido la empresa en el entrenamiento de nuevos modelos.