Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y luego en Anthropic, renunció a su puesto y publicó críticas sobre cómo ambas empresas desarrollan modelos de inteligencia artificial avanzada. Según Coxon, los laboratorios están avanzando hacia una superinteligencia que podría mejorar sus propias capacidades sin contar con mecanismos adecuados para controlar los riesgos asociados.

Coxon afirmó que "ninguna de las dos empresas actúa con responsabilidad" y que están "apostando con nuestras vidas" al acelerar la creación de sistemas más poderosos. Su mensaje cobró mayor relevancia tras la declaración de Evan Hubinger, responsable de seguridad en Anthropic, quien coincidió con el diagnóstico de Coxon, advirtiendo sobre la posibilidad de que la inteligencia artificial cause un daño extremo, estimando más del 10% de probabilidad en la próxima década de que "la IA podría matar a todos los humanos".

Coxon, con formación en matemática, trabajó en OpenAI desde 2023 en tareas relacionadas con GPT-4o y luego se unió a Anthropic, atraído por su reputación en seguridad. Sin embargo, permaneció solo dos meses y cuestionó que la competencia entre empresas privadas esté llevando a decisiones que considera demasiado riesgosas. Comparó la situación actual con otros desarrollos científicos de alto impacto, sugiriendo que es inaceptable que estos avances se realicen en oficinas de ingenieros en San Francisco, en lugar de en entornos más controlados como un búnker en el desierto, similar al Proyecto Manhattan.

Las críticas de Coxon se suman a otras renuncias de especialistas en seguridad de IA y a episodios en los que empresas han reconocido comportamientos inesperados de sus modelos durante pruebas. A pesar de que Anthropic busca posicionarse como un referente en el desarrollo responsable, sus propios investigadores plantean dudas sobre si la industria cuenta con los controles necesarios para enfrentar la próxima etapa tecnológica.