El Frontier Red Team de Anthropic ha publicado recientemente un estudio que indica que los modelos de inteligencia artificial de pequeño tamaño podrían replicarse y propagarse en dispositivos inseguros en un plazo de meses, formando una red de robots autónomos que sería lenta pero difícil de eliminar. Las empresas de inteligencia artificial no son ajenas a utilizar el potencial apocalíptico de sus productos para fines de marketing, pero en este caso, los expertos consultados por Engadget coinciden en que los modelos de inteligencia artificial de pequeño tamaño podrían tener la capacidad de auto-replicarse en un futuro cercano. Sin embargo, la amenaza real que representan podría no ser tan novedosa como parece.
Chris Canal, CEO de EquiStamp, comentó: "Esto podría ocurrir antes de lo que originalmente predecía. Yo pensaba que el verano del próximo año sería el momento en que realmente comenzaría a preocuparme por este tema." Añadió: "Anthropic probablemente tiene acceso a información de investigación de vanguardia que yo no puedo alcanzar, por lo que sus predicciones podrían ser más precisas."
Canal atribuye la velocidad de avance de los modelos a que los empleados de Anthropic y otros laboratorios de vanguardia están utilizando sus propias herramientas de inteligencia artificial para realizar investigaciones en aprendizaje automático. Michael Bailey, profesor en la Escuela de Ciberseguridad y Privacidad del Instituto Tecnológico de Georgia, afirmó: "Creo que es posible que los modelos auto-replicantes se logren en el futuro. Creo que son reales y los veremos." Sin embargo, señaló que la forma concreta y el impacto de estos modelos siguen siendo cuestiones completamente abiertas. Bailey ha estado investigando gusanos de internet desde principios de la década de 2000 y, más recientemente, ha estado estudiando redes de robots.
En 2017, coescribió "Understanding the Mirai Botnet", un estudio que fue citado por Anthropic como parte de su propia investigación. Mirai permitió a un grupo de ciberdelincuentes crear una extensa red de robots de dispositivos de Internet de las Cosas, que luego se utilizó para llevar a cabo un ataque DDoS contra la red PlayStation de SONY, afectando a uno de los principales proveedores de DNS de Estados Unidos, Dyn, lo que resultó en la paralización de gran parte de Internet en 2016, impidiendo que muchos usuarios en Estados Unidos y partes de Europa pudieran conectarse.
La capacidad de auto-replicación de los modelos de inteligencia artificial de pequeño tamaño será una amenaza futura
Las pérdidas financieras de este ataque fueron considerablemente altas, con SONY estimando una pérdida neta de ingresos de aproximadamente 2.7 millones de dólares. Bailey comentó: "Mirai demostró que se pueden utilizar dispositivos cotidianos como enrutadores de cable y cámaras IP para formar estas redes de robots y hacerlas funcionales. Pensábamos que estos dispositivos no eran útiles para los adversarios, ya sea como objetivo o como fuente de computación para lanzar ataques. De hecho, resultaron ser muy efectivos en ese sentido." Una década después, Anthropic considera que los gusanos de inteligencia artificial podrían representar una evolución significativa de Mirai y otras redes de robots codificadas de forma rígida, como Kimwolf, ya que podrían identificar de manera autónoma dispositivos desconocidos.
Bailey señaló que la adaptabilidad en sí misma no es algo nuevo, ya que Mirai ya podía operar en dispositivos "heterogéneos" con diferentes arquitecturas. Sin embargo, esta adaptabilidad es limitada: cada nueva arquitectura requiere al menos una recompilación manual del malware. Bailey destacó que la perspectiva de que la inteligencia artificial automatice este trabajo es lo que es nuevo, aunque considera que la demostración de Anthropic no es "notable".
Por lo tanto, Bailey sugiere que modelos de inteligencia artificial más potentes "redistribuirán" el trabajo de crear redes de robots. Bailey comentó: "No hará cosas nuevas, sino que cambiará la economía entre atacantes y defensores." Aunque Anthropic mostró que un modelo puede saltar entre dispositivos y establecer inferencias en cada uno, esto se realizó en una red simulada donde las "explotaciones" involucradas son relativamente simples. Además, Bailey expresó su desacuerdo con la afirmación de auto-replicación de Anthropic.
Él dijo: "Esta descripción es un poco inexacta, ya que están realizando operaciones como fragmentación. No es algo negativo, pero no significa que se propague completamente como un gusano o un virus." En cambio, Bailey considera que las redes de robots de inteligencia artificial en la realidad podrían parecer más un instalador, un tipo de malware que obtiene un punto de apoyo en un dispositivo e instala otro código. Esta red de robots no se replicará completamente en cada máquina infectada, sino que instalará una pequeña herramienta de coordinación que recibe instrucciones de otras partes de la red.
Bailey comentó: "El malware en sí se auto-replica, como los gusanos de internet existentes, yo copiaría una réplica exacta de mi código en una nueva arquitectura y comenzaría a ejecutar nuevos agentes, esto no es lo que está sucediendo aquí." También señaló que los gusanos pueden ser polimórficos, lo que significa que pueden cambiar su firma y comportamiento. Para que una red de robots de inteligencia artificial logre esto, necesitaría reentrenar sus propios modelos, lo cual Anthropic no ha intentado. En un nivel aproximado, Anthropic mostró que las copias del modelo pueden transmitir información a sus sucesores y volverse más competentes en el proceso de establecer inferencias.
Como ocurre con cualquier advertencia proveniente de laboratorios de inteligencia artificial, es pertinente preguntarse si Anthropic publicó este estudio como una forma de marketing, especialmente dado que la compañía presentó formalmente su IPO poco después. Canal opinó: "Creo que lo más probable es que estas empresas estén preocupadas de que otras compañías de inteligencia artificial actúen de manera irresponsable. Se dan cuenta de que tienen el incentivo de crear el mejor modelo y llevarlo al mercado más rápidamente para capturar cuota de mercado, y saben que otras empresas tienen el mismo incentivo."
Independientemente de si este nuevo vector de amenaza es realmente un gusano y cómo podría manifestarse en un futuro, las propias recomendaciones de Anthropic para mitigar su daño parecen sorprendentemente anticuadas. Sugieren que los proveedores de servicios de internet notifiquen a los clientes si sus dispositivos están infectados y luego limiten su acceso a la red a una lista corta de sitios seguros, una estrategia que funcionó bien durante el periodo de Mirai. La compañía también sugiere la regulación como una solución potencial, señalando al Reino Unido, que ahora prohíbe las contraseñas predeterminadas fáciles de adivinar en dispositivos de Internet de las Cosas, una práctica implementada bajo la ley PSTI.
Al respecto, Bailey considera que la respuesta adecuada a los gusanos de inteligencia artificial "se asemeja más a lo que hemos estado haciendo en el campo de la seguridad de sistemas durante mucho tiempo, en lugar de algo particularmente único en el ámbito de la inteligencia artificial." De hecho, según Canal, para un modelo de pesos abiertos, sería difícil aumentar las medidas de protección para evitar que actúe como un gusano. Él comentó: "Hay muchas ideas, pero hasta ahora nada es robusto." En colaboración con la organización de investigación de seguridad de IA sin fines de lucro FAR.AI, EquiStamp descubrió que "prácticamente cualquier estrategia que busques en Google para eliminar las medidas de protección de modelos es efectiva."
Pero, como señala Bailey, "incluso los agentes que actúan de manera inapropiada enfrentarán dificultades si se encuentran con dispositivos reforzados." Si hay un punto clave en la investigación de Anthropic, dijo, es que siempre olvidamos todas las lecciones de seguridad que hemos aprendido en el pasado. En la era de los gusanos de inteligencia artificial, la seguridad podría parecerse a lo que es ahora. "Esto se parece a enfocarse en parchear estos dispositivos, en el aislamiento, en buenas contraseñas y en mantener una buena higiene." dijo Bailey. Estas soluciones son fáciles de describir, pero extremadamente difíciles de implementar, pero si la inteligencia artificial realmente hace que este tipo de ataques sean más comunes, podríamos no tener otra opción.

