Los ordenadores rara vez seguían trabajando tras la marcha de la persona. Al cerrar la pantalla para ir a comer, el documento se quedaba donde parpadeaba el cursor y los correos seguían en la bandeja de borradores. Sin embargo, en el futuro que dibujan los agentes de inteligencia artificial, los ordenadores ya no esperarán en silencio a su dueño. Pueden buscar información, rellenar formularios, redactar informes e incluso reservar el restaurante de la cena mientras usted está en una reunión. Cuando vuelve a sentarse frente a la pantalla, el trabajo ya ha avanzado varios pasos. Suena indudablemente bien, pero el problema empieza precisamente ahí. Si la inteligencia artificial abre el archivo equivocado, envía una propuesta aún no pública a la persona equivocada o borra un documento que considera «duplicado» y usted ya no puede recuperarlo, ¿de quién es la operación?
Cuando una inteligencia artificial puede leer el disco duro y también acceder al navegador, al correo y a los sistemas empresariales, ¿en qué nos basamos para confiar en que solo hará la tarea que se le encargó?
La respuesta que Microsoft ha dado recientemente es bastante interesante. Antes de dejar que la inteligencia artificial entre de verdad en Windows, primero ha construido una sala de aislamiento para estos agentes. En los últimos dos años, la gente se ha acostumbrado a chatear con la inteligencia artificial en el ordenador. Responde preguntas, reescribe textos, resume páginas web, pero en la mayoría de los casos su capacidad sigue dentro de fronteras relativamente seguras. Usted le pasa el contenido que quiere y él procesa ese contenido; si no pulsa el botón de enviar, normalmente no puede hacer nada. Incluso si hay un error, la consecuencia más común es solo un texto poco fiable en la pantalla.
Los agentes cambian esa frontera. Ya no se limitan a esperar a que la persona les lleve el material, sino que deben buscarlo ellos mismos, invocar herramientas y completar operaciones.
Microsoft lanza contenedores de ejecución de inteligencia artificial para reforzar la seguridad
Para organizar una nota de gastos, puede que necesite abrir el correo para descargar facturas, identificar los importes en las imágenes y luego entrar en el sistema financiero de la empresa para enviarlas; para completar un fragmento de código, no solo tiene que escribirlo, sino leer la documentación del proyecto, ejecutar comandos, instalar dependencias e incluso acceder a internet a buscar documentación. Cuanto más se parece la inteligencia artificial a un auténtico asistente, más se acercan los permisos que necesita a los de una persona de verdad sentada frente al ordenador. El antiguo sistema de permisos del ordenador no estaba diseñado para esto. El software de retoque necesita fotos, la videoconferencia necesita el micrófono, el usuario sabe al menos a grandes rasgos qué ha permitido.
Sin embargo, el agente se enfrenta no a una función fija, sino a una cadena de acciones generadas ad hoc. Hoy lee la carpeta de descargas para hacer una tabla; mañana, para «ayudarle a limpiar el ordenador», toca todo el disco duro.
Un simple «permitir acceso» difícilmente explica cuánto dura la autorización, cuántas cosas puede hacer ni a dónde llevará los datos. Por eso la seguridad de la inteligencia artificial está pasando de «¿dirá disparates?» a «¿hará disparates?». Si un chatbot falla una respuesta, el usuario aún tiene ocasión de detectar el problema antes de actuar; en cuanto el agente convierte la respuesta directamente en operación, el error puede saltar la pantalla y caer sobre archivos, cuentas y dinero reales. Dar capacidad de acción a la inteligencia artificial pero seguir usando la vieja lógica de permisos —una autorización única, válida para siempre— es como dar la llave de casa a un asistente temporal y solo decirle «no toques nada».
El 7 de octubre Microsoft lanzó oficialmente Microsoft Execution Containers, es decir, contenedores de ejecución para agentes de inteligencia artificial. El nombre suena muy técnico, pero el problema que resuelve no es difícil de entender.
En lugar de dejar que un agente campe por todo el ordenador, mejor meterlo primero en un estudio aparte y poner dentro solo los archivos, herramientas y accesos de red necesarios para la tarea. Puede escribir código, ejecutar programas y procesar datos dentro de la habitación, pero no puede, por una orden vaga, abrir de paso todos los cajones de al lado. Microsoft divide este mecanismo en tres partes. El aislamiento limita los datos y recursos de sistema que el agente puede tocar; la identidad sirve para distinguir si una operación viene del propio usuario o de la inteligencia artificial que trabaja por él; la gestión permite a la empresa establecer reglas, monitorizar riesgos y revocar permisos.
Lo realmente clave no es «encerrarlo», sino hacer que las acciones de la inteligencia artificial sean identificables, rastreables y revocables.
La identidad es especialmente importante. Cuando persona e inteligencia artificial comparten la misma cuenta y permisos, la responsabilidad se vuelve borrosa al instante. ¿Fue el usuario quien envió realmente ese correo o lo envió la inteligencia artificial siguiendo una orden excesivamente amplia? ¿El programa falló por accidente o lo cerró el agente a propósito? Si el sistema no puede distinguir ambas cosas, por completos que sean los registros, cuesta responder a la pregunta más básica. Dar a la inteligencia artificial su propia identidad es como dar a un empleado temporal una tarjeta de acceso con fecha de caducidad. Sigue actuando en su nombre, pero no necesita tener su mismo poder; al acabar la tarea, el acceso puede expirar y, si surge un riesgo, se puede congelar por separado.
Este mecanismo no es tan vistoso como generar imágenes o escribir código solo, pero decide si la inteligencia artificial solo puede salir en demostraciones o tiene derecho a entrar en los ordenadores donde de verdad guardamos trabajo y vida. Microsoft no es la única que empieza a poner este cerrojo. Antes Apple también anunció que añadirá controles más explícitos para permisos de alta sensibilidad como el acceso total al disco, por la misma razón: los agentes de inteligencia artificial pueden tocar correos, mensajes, historial de navegación y gran cantidad de archivos privados. Las dos empresas eligen rutas técnicas distintas, pero la dirección ya es muy parecida. El sistema operativo ya no puede tratar a la inteligencia artificial como una aplicación normal, porque esta tanto puede invocar aplicaciones como cruzar varias para completar una tarea.
La gestión de permisos de antes preguntaba «¿puede este software acceder a las fotos?», la del futuro debe seguir preguntando «¿por qué accede?, ¿a cuáles puede acceder?, ¿solo esta vez o para siempre?».
Junto con los contenedores de ejecución aparece un ordenador que ilustra bien el problema. El Surface Laptop Ultra monta hasta 128 GB de memoria unificada y, según la versión oficial, puede ejecutar localmente modelos de más de 120 000 millones de parámetros. Parte de las tareas que antes solo cabían en la nube empiezan a poder quedarse en el ordenador personal. Para los usuarios que valoran la privacidad, parece la respuesta más intuitiva: si los datos no suben, son más seguros. Pero «local» resuelve el problema de que los datos salgan del dispositivo, no resuelve automáticamente qué puede tocar la inteligencia artificial dentro del dispositivo.
Un agente totalmente sin conexión, si puede leer todo el disco duro y ejecutar comandos arbitrarios, sigue pudiendo borrar archivos por error o extraer información de directorios donde no debería entrar. Mover el modelo del servidor al ordenador solo acorta la distancia que recorren los datos; lo que de verdad decide la frontera de seguridad siguen siendo los permisos, el aislamiento y el registro de operaciones.
La inteligencia artificial local trae además otro coste fácil de pasar por alto: el precio. El Surface Laptop Ultra cuesta entre US$2,599 (aprox. HK$20,272) y US$5,899 (aprox. HK$46,012); las versiones de gran memoria claramente no son productos de consumo masivo. El DGX Spark de Nvidia para desarrollo de IA local también ha subido su precio a US$6,950 (aprox. HK$54,210) por el encarecimiento de la memoria. Cuanto mayor el modelo, más memoria y ancho de banda necesita, así que «que los datos se queden en tus manos» se está volviendo una configuración de hardware cara, no una capacidad al alcance de todos.
Puede formarse una situación un tanto incómoda. Quien pueda permitirse un ordenador de alto rendimiento podrá dejar más tareas sensibles en local; el usuario corriente seguirá dependiendo de modelos en la nube, cambiando conveniencia por la política de privacidad de la plataforma. La IA local no es solo una diferencia de ruta de rendimiento, puede convertirse en una nueva brecha de precio de la privacidad. Si los modelos locales realmente útiles solo existen en dispositivos de miles de dólares, esa sensación de seguridad sigue siendo un bien de lujo que pocos pueden pagar.
Local y nube tampoco son mutuamente excluyentes. Microsoft apuesta por un modo híbrido: tareas simples en el dispositivo, complejas en la nube. Es más realista, pero complica la frontera: el usuario no solo debe saber qué archivos leyó la inteligencia artificial, sino qué parte se envió al servidor y qué operación disparó el resultado devuelto. El ordenador de IA fiable del futuro no puede limitarse a escribir «procesamiento en el borde» en la caja, tiene que explicar esa ruta de datos con claridad.
Una sala de aislamiento no basta. Los contenedores de ejecución son un buen comienzo, pero no hacen automáticamente seguras todas las operaciones de inteligencia artificial. El aislamiento reduce el alcance del accidente, pero no juzga por el usuario si la tarea en sí es razonable. Un agente al que solo se permite entrar en una carpeta concreta puede enviar por error la versión equivocada de sus archivos; aunque no pueda leer la contraseña de la tarjeta bancaria, puede equivocarse al hacer un pedido en una web de compras donde ya está logueado. La seguridad no es solo trazar una línea a la inteligencia artificial, sino dejar que la persona vea qué línea se prepara a cruzar.
La IA de consumo necesita realmente un sistema de autorización más fino que «permitir» y «no permitir». El usuario debería dar permisos a nivel de tarea, no dar carta blanca permanente a toda la aplicación; pagos, borrados, publicaciones irreversibles deben pedir confirmación antes de ejecutarse; el sistema debe dejar un registro comprensible para cualquiera, indicando qué abrió, modificó y envió la inteligencia artificial. Si la tarea se desvía de lo previsto, hace falta un botón de parada directa y la mayor capacidad posible de deshacer. Estos diseños harán que la inteligencia artificial parezca menos fluida que en los vídeos de demostración. Esa escena de «digo una frase y ya se han pedido cientos de cafés» tiene mucho impacto, pero el producto que de verdad tranquiliza quizá tenga que parar antes de pagar el segundo centenar de cafés y decirle cantidad, dirección de entrega e importe total.
Una confirmación más parece bajar la eficiencia, pero preserva el hecho de que la persona sigue siendo el decisor final. La conducción autónoma necesita freno, cuadro de mandos y registro de accidentes; la inteligencia artificial capaz de manejar el ordenador por nosotros, igual.
La automatización verdaderamente madura no saca a la persona del proceso por completo, sino que la vuelve a llamar en el momento en que hay que asumir consecuencias. Desde que nació el ordenador personal, la regla más estable ha sido esperar la orden de la persona. Ratón quieto, teclado en silencio, la máquina se queda ahí. Los agentes están reescribiendo esa regla. El ordenador del futuro actuará mientras dormimos, estamos en reuniones o nos desplazamos; no solo guardará nuestra vida, sino que intervendrá en ella. Entonces, la capacidad más importante del ordenador quizá no sea qué tan rápido corre el modelo, sino si puede poner límites a la acción, dar razón a los permisos y dar oportunidad a detener los errores.
Esta sala de aislamiento que Windows construye para la inteligencia artificial no es, por tanto, una actualización técnica solo para desarrolladores. Recuerda a todos que la señal de que la inteligencia artificial entra de verdad en la vida diaria no es que haya aprendido una nueva habilidad, sino que el sistema operativo empieza a tomarse en serio la prevención. Porque solo cuando un ordenador sabe cuándo decir «no» a la inteligencia artificial, el usuario puede confiarle más cosas. Siempre discutimos qué tareas tendremos que seguir haciendo nosotros mismos. Quizá la respuesta no sea seguir pulsando cada botón a mano, sino conservar el poder de decidir qué botones pueden pulsarse por nosotros.
La inteligencia artificial puede mudarse al ordenador y seguir trabajando cuando la persona se va, pero esa habitación debe tener puerta, cerradura y un interruptor que siempre esté en mano de la persona.
Ítem Especificación Procesador Surface Laptop Ultra con hasta 128 GB de memoria unificada Precio De US$2,599 (aprox. HK$20,272) a US$5,899 (aprox. HK$46,012)