Portada: Redes
(12 DE SEPTIEMBRE, 2026).-Dario Amodei propuso supervisión independiente, regulación de la industria y coordinación global ante los riesgos del desarrollo de modelos de IA.
El director ejecutivo de Anthropic, Dario Amodei, pidió reducir el ritmo de desarrollo de los modelos de inteligencia artificial y establecer mecanismos de seguimiento más exhaustivos ante los riesgos asociados con esta tecnología.
En un ensayo titulado “Debemos marcar el ritmo de la frontera”, publicado el sábado, Amodei sostuvo que el avance de la inteligencia artificial no está en duda, pero advirtió que sus riesgos son “graves” y que las empresas y los gobiernos necesitan tiempo para abordarlos.
Amodei propone tres medidas
El director de Anthropic planteó un plan basado en tres líneas principales:
- Supervisión independiente de los modelos de IA mientras se desarrollan.
- Regulación de toda la industria.
- Regulación y coordinación a escala global.
La propuesta parte de la necesidad de acompañar el rápido desarrollo de los modelos de inteligencia artificial con mecanismos capaces de identificar y reducir sus posibles riesgos.
Crece el debate sobre los riesgos de la IA
Las advertencias de Amodei se producen en medio de un debate creciente sobre las consecuencias potenciales del desarrollo acelerado de sistemas de inteligencia artificial.
Un investigador de IA que dejó Anthropic recientemente, Jacob Coxon, expresó a la BBC una preocupación mucho más extrema. Según Coxon, si el ritmo actual de progreso no disminuye, existe una alta probabilidad de que la humanidad desaparezca en un futuro cercano.
En una entrevista con Laura Kuenssberg, Coxon afirmó que algunas personas que trabajan en empresas de inteligencia artificial están “genuinamente asustadas” y preocupadas por el destino de la humanidad durante los próximos dos años.
El investigador sostuvo también que algunas personas involucradas en el desarrollo de estos sistemas consideran que existe una probabilidad superior al 10 por ciento de que la humanidad pueda morir como consecuencia de los riesgos asociados con la IA.
Estas afirmaciones corresponden a las estimaciones y opiniones expresadas por Coxon y no deben interpretarse como una predicción científica consensuada sobre una eventual extinción humana.
Un debate que alcanza a las grandes empresas de IA
Las advertencias sobre los riesgos de la inteligencia artificial también han sido expresadas por figuras relevantes de la industria.
El texto original señala que Sam Altman, de OpenAI, y Elon Musk han manifestado estar de acuerdo con Amodei en la necesidad de abordar los riesgos derivados del desarrollo de esta tecnología.
El debate plantea una tensión cada vez más visible dentro del sector: mantener el rápido avance de los modelos de IA mientras gobiernos, empresas e investigadores desarrollan mecanismos de seguridad, supervisión y regulación capaces de acompañarlo.
