Renuncia jefe de seguridad de Anthropic y lanza TERRIBLE ADVERTENCIA de que la IA “mate a todos los humanos”
Jacob Coxon, de 27 años, deja su cargo y advierte sobre el avance hacia una inteligencia artificial incontrolable.
Únete al canal de Whatsapp de Wapa
Jacob Coxon, un investigador vinculado a Anthropic, anunció su salida este martes 8 de septiembre y expresó preocupaciones serias acerca de la dirección que toman las empresas líderes en inteligencia artificial. El anuncio realizado en la plataforma X por Coxon, quien tiene 27 años, obtuvo más de 44 millones de visualizaciones en nueve horas.
Coxon trabajó por tres años en preentrenamiento, un proceso crucial para que los modelos de IA aprendan mediante el procesamiento de grandes cantidades de datos. Comenzó en OpenAI y desde julio de 2026 estuvo en Anthropic. Sin embargo, allí permaneció solo dos meses. "Ninguna actúa con responsabilidad", afirmó. "Avanzan hacia una superinteligencia capaz de automejorarse, poniendo nuestras vidas en juego".
La respuesta pública de otro investigador de Anthropic, Evan Hubinger, amplificó la relevancia del mensaje de Coxon. Hubinger, quien lidera un equipo de seguridad de IA en la compañía, estuvo de acuerdo con varias de sus preocupaciones.
"Jacob tiene razón", respondió Hubinger, admitiendo hasta qué punto considera el riesgo real dentro de la compañía. "Realmente creemos que la IA podría acabar con la humanidad. Yo estimo más de un 10% en la próxima década".
Hubinger reconoció también que la empresa enfrenta un problema clave: no tiene un plan claro para asegurar que una futura superinteligencia se mantenga bajo control humano. Según él, Anthropic aún no tiene una solución para la alineación de una superinteligencia y no está garantizado que la obtenga.
En el contexto de la IA, la alineación se refiere a la dificultad de asegurar que los objetivos de sistemas avanzados coincidan con los valores e intenciones de sus desarrolladores.
¿Quién es Jacob Coxon y qué dijo?
Jacob Coxon es un matemático británico. Según Business Insider, formó parte de OpenAI desde 2023 hasta julio de 2026, participando en el desarrollo del GPT-4o. Luego se unió a Anthropic debido a su renombrada postura de seguridad en IA.
No obstante, su estadía en Anthropic fue corta. Renunció tras dos meses para hacer públicas sus inquietudes sobre el acelerado desarrollo de las IA.
En diálogo con The Wall Street Journal, Coxon expresó que el sector avanza hacia escenarios de alto riesgo. "Nos dirigimos hacia escenarios extremos donde a finales del próximo año podrían salirse de control", advirtió.
Coxon mencionó que dentro de estas empresas se usan términos como crunchtime —momento crítico— y endgame —fase final— para describir el progreso hacia nuevas capacidades de los modelos de IA.
Destacó diferencias entre OpenAI y Anthropic, citando que ambas enfrentan el mismo desafío: una carrera por sistemas más avanzados.
Respecto a OpenAI, afirmó que muchos empleados no comprenden lo que esto implica a nivel civilizatorio. Mientras que en Anthropic, aunque reconocen los riesgos, están también sumidos en la competencia por nuevos logros.
Coxon percibe dentro de Anthropic la idea de que ninguna otra empresa actuará de manera suficientemente ética, empujándolos a continuar a pesar de los riesgos.
"No es avaricia", señaló, sino una creencia de que detenerse dejaría a otras empresas desarrollar primero esta tecnológica peligrosa.
Concluyó criticando enfáticamente. Para él, iniciar esa última fase es "una peligrosa apuesta que no debería hacerse desde el Slack privado de una empresa".
En su conversación con The Wall Street Journal, comparó esta situación con el ámbito de proyectos científicos de alto perfil para cuestionar cómo y dónde se está desarrollando esta tecnología.
"Es insensato que esto pase en las MacBooks de ingenieros en San Francisco, en lugar de un búnker como el del proyecto Manhattan", declaró.
Otras renuncias similares en el sector
La salida de Coxon se suma a otros casos de expertos en IA que han renunciado y expresado sus preocupaciones sobre la seguridad en el campo. Más especialistas en empresas líderes han optado por alejarse.
En febrero de 2026, Mrinank Sharma, experto en salvaguardas en Anthropic, dejó su puesto publicando una carta sobre la dificultad de priorizar los valores sobre las acciones.
En 2024, Jan Leike, entonces jefe de alineación de OpenAI, abandonó la empresa criticando la priorización de objetivos comerciales sobre la seguridad.
Leike apuntó que la cultura de seguridad de OpenAI quedó relegada tras los productos innovadores, una crítica que se volvió significativa sobre las prioridades internas.
