Portada: Fer
(10 DE SEPTIEMBRE, 2026).-Jacob Coxon dejó Anthropic tras acusar a la empresa y a OpenAI de acelerar el desarrollo de IA avanzada sin suficientes garantías para evitar una pérdida de control humano.
El investigador británico Jacob Coxon, de 27 años, anunció su salida de Anthropic y de la industria tecnológica, al considerar que las principales empresas de inteligencia artificial están avanzando demasiado rápido hacia sistemas capaces de mejorar sus propias capacidades.
Coxon trabajó durante los últimos tres años en el preentrenamiento de modelos de inteligencia artificial, primero en OpenAI y posteriormente en Anthropic, empresa a la que llegó por considerar que tenía una postura más prudente respecto a la seguridad.
Sin embargo, el investigador concluyó que ninguna de las dos compañías está actuando con la suficiente responsabilidad ante los riesgos potenciales de los sistemas de IA cada vez más avanzados.
“Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió Coxon en X.
El temor a una IA que pueda mejorarse a sí misma
Una de las principales preocupaciones planteadas por Coxon es la llamada automejora recursiva: un escenario hipotético en el que un sistema de inteligencia artificial podría contribuir a desarrollar versiones cada vez más avanzadas de sí mismo.
El investigador sostiene que las empresas no deberían avanzar hacia sistemas que superen las capacidades humanas sin establecer previamente mecanismos de regulación y coordinación internacional.
En declaraciones posteriores, Coxon señaló que algunos de los investigadores involucrados en el desarrollo de estos sistemas consideran seriamente la posibilidad de que una IA provoque una catástrofe antes de que termine la década.
Su preocupación coincide con un debate cada vez más intenso dentro de la industria sobre los riesgos asociados con sistemas autónomos y modelos capaces de realizar tareas de investigación y desarrollo.
Investigador de Anthropic estima riesgo superior al 10%
Las declaraciones de Coxon recibieron una respuesta significativa desde la propia Anthropic.
Evan Hubinger, responsable de Alignment Science de la compañía, afirmó que él y otros investigadores consideran posible que la inteligencia artificial llegue a provocar la muerte de todos los seres humanos.
A título personal, Hubinger estimó en más de 10% la probabilidad de que esto ocurra durante la próxima década. También reconoció que Anthropic todavía no cuenta con una solución para el problema de alineación de una eventual superinteligencia.
La estimación de Hubinger es una valoración personal sobre un escenario hipotético, no una predicción institucional de Anthropic ni una conclusión científica sobre la probabilidad de extinción humana.
La carrera entre los grandes laboratorios de IA
Coxon considera que Anthropic comprende la magnitud de los riesgos, pero enfrenta una presión creciente para competir con OpenAI y otros laboratorios por el desarrollo de los sistemas más avanzados.
El investigador sostiene que esta competencia podría llevar a las empresas a aceptar mayores riesgos con tal de no quedarse atrás.
La preocupación no es exclusiva de Coxon. En junio, Anthropic pidió a los principales laboratorios de IA considerar un mecanismo coordinado y verificable para frenar el desarrollo si los riesgos aumentan. La compañía señaló entonces que las capacidades de los sistemas avanzaban rápidamente hacia escenarios relacionados con la llamada automejora recursiva.
Anthropic modificó su política de seguridad
Las críticas también coinciden con una modificación importante de las políticas de seguridad de Anthropic.
En febrero de 2026, la empresa realizó una revisión integral de su Responsible Scaling Policy (RSP). El cambio eliminó un compromiso anterior que implicaba detener el desarrollo cuando las capacidades de un modelo superaran la capacidad de la empresa para garantizar determinados niveles de seguridad.
La modificación generó críticas porque Anthropic había construido parte de su identidad pública alrededor de una política de desarrollo centrada en la seguridad.
Sin embargo, la situación actual es más compleja. La versión vigente de la RSP continúa estableciendo mecanismos para evaluar riesgos y aplicar medidas de seguridad conforme aumentan las capacidades de los modelos. Anthropic también sostiene actualmente que puede detener el desarrollo cuando considere que las circunstancias lo requieren.
La preocupación llega a OpenAI y al debate público
Las advertencias de Coxon se producen mientras otros investigadores y directivos de la industria expresan preocupaciones similares.
El debate se centra especialmente en si las medidas de alineación, seguridad, supervisión y gobernanza están avanzando al mismo ritmo que las capacidades de los modelos.
Coxon sostiene que ningún laboratorio debería desarrollar sistemas de inteligencia artificial superiores a las capacidades humanas sin mecanismos de regulación gubernamental o acuerdos internacionales que permitan coordinar una eventual desaceleración.
OpenAI y Anthropic no respondieron de inmediato a las solicitudes de comentarios realizadas por AFP sobre las declaraciones del investigador.
La salida de Coxon reabre así una de las preguntas centrales sobre el futuro de la inteligencia artificial: ¿puede la industria desarrollar sistemas cada vez más capaces al mismo tiempo que construye mecanismos suficientes para mantenerlos bajo control humano?
