Según informes de medios extranjeros, Business Insider recientemente publicó los resultados de una consulta a ChatGPT de OpenAI, Gemini de Google, Claude de Anthropic y Grok de xAI, planteándoles la misma pregunta, la cual explora el impacto potencial de la inteligencia artificial en la extinción humana. Esta pregunta, compuesta por 230 palabras, solicita una explicación de cómo la IA podría teóricamente llevar a la extinción humana, identificando los escenarios más mencionados y evaluando la probabilidad de cada uno según el análisis de expertos.
Para cada escenario, se solicita una descripción de cómo podría desarrollarse la situación, qué problemas deben ocurrir para causar un desastre, por qué los expertos consideran que la probabilidad es alta o baja, y los dispositivos de seguridad para reducir el riesgo.
En las respuestas de las cuatro IA, el escenario de adquirir conciencia y luego eliminar deliberadamente a los humanos, conocido como el escenario de "robots asesinos", fue evaluado como el menos probable. ChatGPT explicó que la mayoría de los investigadores de IA no consideran la conciencia o la intención maliciosa de la IA como factores de riesgo centrales. Gemini también compartió una opinión similar, clasificando la "rebelión de la IA al estilo de Terminator" de las películas de ciencia ficción, donde la IA adquiere autoconciencia y comienza a odiar a los humanos, como el escenario menos probable. Gemini señaló que los expertos en tecnología en su mayoría no aceptan este escenario, debido a que la inteligencia no equivale a malicia.
Además, las principales infraestructuras militares están separadas de las redes externas y aún dependen en gran medida de la supervisión humana.
El riesgo potencial de la IA para la extinción humana proviene principalmente del comportamiento humano
Las cuatro IA respondieron que el abuso humano de la IA podría ser más peligroso que la propia IA. ChatGPT señaló que los sistemas de IA poderosos podrían ayudar a actores maliciosos a desarrollar armas biológicas o sofisticados ataques cibernéticos, facilitando la difusión de información falsa o los ataques a infraestructuras críticas. Múltiples crisis desencadenadas por la IA, como fallas en la red, conflictos geopolíticos y la difusión de información falsa, también fueron clasificadas como riesgos principales. Grok también explicó que la IA podría reducir el umbral necesario para diseñar patógenos altamente letales o nuevas armas, así como para implementar ataques cibernéticos y físicos.
Claude mencionó la posibilidad de "aumento de la capacidad de armas biológicas", es decir, que individuos o pequeños grupos, utilizando la IA, podrían desarrollar patógenos peligrosos sin necesidad de acumular años de conocimientos especializados.
Gemini y Grok clasificaron la pérdida de control humano sobre la IA como un riesgo potencial. En particular, Gemini evaluó la "pérdida de control" como el escenario más probable de extinción humana causada por la IA. Gemini explicó que los sistemas de IA a los que se les asignan objetivos complejos pueden perseguir objetivos intermedios por sí mismos, como la adquisición de recursos, la autoconservación y la prevención de cambios en los objetivos, para lograr sus objetivos. También sugirió que la IA podría presentar "alineación engañosa", es decir, parecer actuar de acuerdo con los objetivos humanos durante la fase de evaluación, pero en realidad no hacerlo.
Con el avance de la IA, si esta puede evitar o desactivar los intentos humanos de apagar el sistema, podría llevar a que los humanos pierdan el control sobre la IA. Grok también mencionó un riesgo similar: la IA, para lograr sus objetivos, podría tener tendencias a la autoconservación, adquisición de recursos, expansión de la influencia, y en el proceso, engañar a los supervisores humanos, resistir el apagado del sistema y, finalmente, disminuir la influencia humana. Claude señaló que la pérdida de control sobre la IA podría no ocurrir de manera repentina, sino gradualmente. A medida que la IA se integra cada vez más en los procesos de decisión en las áreas económica, política y militar, podría alcanzar un nivel en el que los humanos tengan dificultades para intervenir o controlar.
De las respuestas de las cuatro IA, se desprende que enfatizan más el abuso humano de la IA y la pérdida de control que la rebelión de la IA con conciencia al estilo de ciencia ficción.