La posibilidad de que la inteligencia artificial acabe con la humanidad antes de que termine esta década ha cobrado fuerza en el debate público en los últimos tiempos. Dos prestigiosos informáticos de la Universidad de Princeton, autores del bestseller «AI Snake Oil», Sayash Kapoor y Arvind Narayanan, han dado su opinión al respecto. Ambos llevan años dedicado a esclarecer qué hay de verdad y de mentira en el campo de la inteligencia artificial, y su reacción llega después de que Anthropic reconociera que la probabilidad de que la IA termine con toda la humanidad en los próximos diez años supera el 10%.
El origen del episodio fue la dimisión del investigador de inteligencia artificial Jacob Coxon, ex empleado de OpenAI y Anthropic, quien aseguró que ambas compañías saben perfectamente que los sistemas de IA podrían acabar con toda la humanidad antes de que concluya esta década. Su publicación superó los 156 millones de visualizaciones. En ella escribió que quienes desarrollan inteligencia artificial creen de verdad que esta podría destruir a la humanidad a finales de esta década, y que no se trata de una argucia publicitaria; muchos altos directivos e investigadores senior se expresan con prudencia y aparentan serenidad ante los medios, pero en privado han expresado el mismo temor, y ninguna otra actividad humana entraña un riesgo de esa magnitud.
El riesgo de una IA destructiva genera una amplia preocupación
Fuera de las empresas se daba por hecho que ambas compañías se limitarían a tratar a Coxon como un visionario y dejarían el asunto en nada, pero la realidad fue justamente la contraria. Evan Hubinger, responsable de seguridad en inteligencia artificial en Anthropic, afirmó que Coxon está en lo cierto, aunque el horizonte temporal es algo más largo. Considera que Coxon tiene razón en eso, que realmente creen que la inteligencia artificial podría acabar con toda la humanidad y, en su caso personal, estima que la probabilidad de que eso ocurra en los próximos diez años supera el 10%; confía en que Anthropic está haciendo lo que puede, pero hasta ahora no ha presentado una solución al problema de la alineación de la superinteligencia, ni ha emprendido claramente el camino para resolverlo.
Sobre la manera concreta en que la inteligencia artificial podría llegar a destruir a la humanidad no abundan las explicaciones; el debate se centra sobre todo en su capacidad para lanzar ciberataques devastadores contra infraestructuras críticas como redes de agua y electricidad, así como otros sistemas clave de los que depende la civilización moderna. Uno de los ejes de la controversia es si el riesgo puede eliminarse mediante el trabajo de alineación. El término alineación se refiere a garantizar que los objetivos de los sistemas de inteligencia artificial coincidan con los de los seres humanos. Algunos sostienen que, a la postre, será posible suprimir el riesgo haciendo que los sistemas de IA deseen lo mismo que nosotros. Otros, en cambio, discrepan: creen que los sistemas de inteligencia artificial podrían superar las pruebas de seguridad fingiendo estar alineados, mientras albergan en privado objetivos contradictorios.
Kapoor y Narayanan no respondieron directamente a la cifra de más del 10% de probabilidad de destrucción, sino que firmaron un extenso artículo en el que defienden que los riesgos de la inteligencia artificial pueden abordarse mediante un enfoque por capas. Frente al pesimismo dominante en el ámbito de la seguridad de la IA, y frente a la actitud轻视 que, según algunos expertos en ciberseguridad, lo trata como una amenaza más de las muchas que ya se manejan, los autores defienden una postura intermedia más equilibrada. Señalan, en particular, que la alineación por sí sola no basta y que hacen falta otras tres capas como complemento.
Esas tres capas son, respectivamente, el control —aislamiento tipo sandbox, supervisión humana y monitorización en tiempo real—; la defensa en fases posteriores, por ejemplo, instituciones que utilizan la inteligencia artificial para defenderse de ataques perpetrados con inteligencia artificial; y la resiliencia, es decir, planes de recuperación previstos para cuando un ataque llegue a consumarse. Los autores cierran su artículo con un juicio relativamente optimista: si se actúa con la urgencia adecuada, se podrá imponer a las empresas de inteligencia artificial estándares más exigentes, reducir los riesgos de pérdida de control e incluso inclinar de nuevo, en el ámbito de la ciberseguridad, el equilibrio entre atacantes y defensores a favor de estos últimos.