- Un empleado de OpenAI fue arrestado por el FBI por un dispositivo de grabación oculto; la investigación sigue en curso.
- OpenAI utilizó sus propios modelos para investigar el origen del dispositivo de grabación e identificar al empleado sospechoso.
- La empresa no halló indicios de que el empleado accediera indebidamente a los pesos del modelo ni a la información de clientes.
- Este incidente ocurrió al mismo tiempo que otros incidentes relacionados con la seguridad, que involucran despidos de empleados.
OpenAI indicó el 週二 que el FBI detuvo a uno de sus empleados, y la empresa utilizó sus propios modelos para investigar el dispositivo de grabación oculto hallado en sus oficinas. Esta desarrolladora de ChatGPT señaló que sus modelos ayudaron a los investigadores a comprender el origen del dispositivo e identificar a un empleado sospechoso de haberlo instalado 數天前. La empresa despidió al empleado y remitió el caso a las autoridades federales. La investigación del FBI sigue en curso. OpenAI aún no ha revelado la identidad del empleado, la oficina donde se encontró el dispositivo ni el tipo de dispositivo de grabación involucrado.
La empresa tampoco explicó qué modelos se utilizaron ni cómo ayudaron a determinar el origen del dispositivo. Por ahora no está claro si esos modelos analizaron imágenes, componentes técnicos, registros u otras pruebas.
OpenAI investiga dispositivo de grabación oculto
En un comunicado publicado en X, OpenAI declaró que encontró en sus oficinas un dispositivo de grabación oculto de alta sofisticación y empleó sus modelos para investigar el incidente. «Utilizamos nuestros modelos para entender el dispositivo y su origen, y confirmar que un empleado específico lo instaló 幾天前», indicó la compañía. OpenAI contactó luego al FBI, cuyos agentes y fiscales procedieron al arresto. La empresa afirmó que seguirá colaborando con la investigación. No se publicaron detalles técnicos que muestren cómo los modelos llegaron a sus conclusiones ni cómo los investigadores verificaron los resultados.
Por tanto, el anuncio no precisa qué parte del trabajo de investigación se realizó mediante análisis automatizado frente a métodos de seguridad tradicionales.
OpenAI también señaló que no se hallaron indicios de que el empleado accediera indebidamente o sustrajera sus pesos del modelo, código fuente o información de clientes. Los pesos del modelo son los parámetros numéricos que determinan cómo un modelo entrenado procesa la información y genera salidas; constituyen uno de los activos tecnológicos que las empresas que desarrollan modelos avanzados buscan proteger. El comunicado de la empresa no confirma qué información, si alguna, capturó el dispositivo de grabación antes de ser descubierto.
El plan de seguridad enfrenta desafíos
OpenAI describió este episodio como un ejemplo de uso de su propia tecnología para investigar una posible amenaza de seguridad. Su plan de seguridad tiene como objetivo abordar los riesgos que implican empleados, ciberdelincuentes y actores estatales. El incidente se produce mientras OpenAI afronta otros incidentes relacionados con la seguridad. 上週五, la empresa informó que, tras una investigación por presunta violación de la política de manejo de información sensible, despidió a 三名 investigadores. Estos tres investigadores Jasmine Wang、Tomek Korbak 和 Mikita Balesni publicaron una carta describiendo su despido y expresaron su preocupación de que la conducta de la empresa pueda generar incertidumbre entre el personal y obstaculizar la discusión pública de problemas de seguridad por parte de los investigadores.
Ambos casos involucran situaciones distintas y OpenAI no ha indicado que exista una conexión entre ellos. 今年早些時候, un hombre de Texas fue acusado de presuntamente atacar con un cóctel Molotov la residencia del CEO de OpenAI, Sam Altman, e intentar incendiar la sede de la compañía.
Estrategia de respuesta de OpenAI ante las amenazas de seguridad
Los recientes incidentes de OpenAI reflejan sus desafíos y respuestas en la gestión de la seguridad. El hallazgo del dispositivo de grabación oculto y el arresto del empleado ponen de relieve la gravedad de los problemas de seguridad internos y subrayan la atención de la empresa hacia las amenazas potenciales. El uso de sus propios modelos para la investigación, aunque demuestra la aplicación de la tecnología, también plantea dudas sobre el análisis automatizado frente a los métodos tradicionales. Además, la coincidencia con otros incidentes de seguridad podría afectar la cultura interna y la confianza de los empleados, lo que representa un desafío importante para una empresa tecnológica.