- El exinvestigador de Anthropic, Jacob Coxon, renuncia y advierte sobre la amenaza de la carrera de IA.
- Coxon señala que la competencia empresarial obliga a los laboratorios a construir sistemas peligrosos.
- Pide a sus colegas que alcen la voz y solicita una prohibición temporal de las mejoras de capacidad para fomentar el control de seguridad.
- El CEO de Anthropic, Dario Amodei, también expresa preocupaciones similares sobre la seguridad.
Jacob Coxon, exinvestigador de Anthropic, renunció a su puesto en modelos de inteligencia artificial preentrenados por preocupaciones de seguridad, alegando que la competencia empresarial no regulada para desarrollar inteligencia artificial representa una amenaza sin precedentes para la humanidad. El dramático anuncio de renuncia de este investigador de 27 años, realizado a través de la plataforma de redes sociales X, lanzó una advertencia provocadora que inmediatamente captó la atención del sector tecnológico. Coxon afirmó que actualmente no hay ninguna actividad humana que amenace más a la civilización que la competencia interminable entre empresas para construir una "superinteligencia de auto-mejora". En X, escribió: "Aquellos que construyen inteligencia artificial realmente creen que podría matarnos a todos en una década".
Esto no es una estrategia de marketing. De hecho, muchos ejecutivos y científicos senior utilizan un lenguaje razonable en los medios, pero he escuchado a las mismas personas expresar temor en privado. Ninguna otra actividad humana conlleva un nivel tan alto de peligro.
Coxon escribió en un tuit: "Hoy renuncié a Anthropic. He estado realizando investigaciones de preentrenamiento en OpenAI y Anthropic durante tres años. Ninguna de estas empresas se ha comportado de manera responsable. Están totalmente enfocadas en perseguir la superinteligencia de auto-mejora y están arriesgando nuestras vidas".
Llamado a una prohibición temporal de las mejoras de capacidad
Él cree que la competencia empresarial ha llevado a los laboratorios a una carrera de arrogancia que los obliga a construir sistemas peligrosos primero. Para romper esta tendencia, está pidiendo a sus colegas que alcen la voz y solicita una prohibición temporal de las mejoras de capacidad para fomentar la coordinación internacional y el control de seguridad. En un tuit adicional, añadió: "Siento que no estamos avanzando en la dirección de prevenir una carrera global, lo que puede requerir medidas costosas como la prohibición temporal de aumentar la capacidad de los modelos".
Preocupaciones de seguridad dentro de la industria
Según un informe de Gizmodo, el CEO de Anthropic, Dario Amodei, comparte preocupaciones similares sobre la seguridad de la inteligencia artificial con su ex empleado, lo que le ha valido la etiqueta de "pesimista del fin del mundo" dentro de la industria, como lo confirma su extenso artículo en un blog. Esta ansiedad compartida por la supervivencia destaca una contradicción llamativa: un líder de una empresa de inteligencia artificial de primer nivel que alberga un profundo temor por la tecnología que está impulsando con todas sus fuerzas.
La contradicción entre la competencia empresarial y la seguridad de la inteligencia artificial
La renuncia de Coxon y sus advertencias reflejan la urgencia y el peligro del campo actual de la inteligencia artificial. A medida que se intensifica la competencia empresarial, los desarrolladores pueden pasar por alto las consideraciones de seguridad y centrarse en el avance rápido de la tecnología. Esta situación no solo ha generado temor entre los profesionales del sector, sino que también ha impulsado a algunos líderes a pedir un comportamiento más responsable, como la prohibición temporal de las mejoras de capacidad, para reducir los riesgos potenciales. La existencia de esta contradicción muestra la tensión entre la innovación y la seguridad, planteando importantes desafíos para el desarrollo tecnológico futuro.