Portada: Fer
(15 DE SEPTIEMBRE, 2026).-El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, llamó a establecer controles urgentes sobre la IA avanzada, mientras líderes tecnológicos piden desacelerar su desarrollo y Donald Trump rechaza nuevas salvaguardas.
Las advertencias sobre los riesgos de la inteligencia artificial (IA) avanzada escalaron esta semana al terreno político internacional.
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió a los Estados y a las empresas tecnológicas actuar con urgencia para establecer reglas sobre los sistemas de IA más avanzados.
Türk advirtió que los riesgos ya no se limitan a escenarios futuros. Entre ellos mencionó posibles afectaciones a servicios esenciales, infraestructuras críticas, derechos humanos e instituciones democráticas.
La advertencia coincide con un debate cada vez más intenso dentro de la propia industria tecnológica sobre la velocidad con la que se desarrolla la IA.
La ONU pide controles independientes
Para Türk, las empresas que desarrollan estos sistemas tienen tanto la capacidad como la responsabilidad de reducir sus riesgos, pero no deberían ser las únicas encargadas de establecer los límites de una tecnología cuyas consecuencias pueden afectar a toda la sociedad.
El funcionario de la ONU pidió que los Estados y las compañías trabajen en instancias multilaterales para establecer reglas aplicables a los modelos de IA de vanguardia.
Entre sus propuestas está una verificación independiente de las capacidades de los sistemas de IA, realizada por especialistas con acceso suficiente a los modelos, su documentación y sus entornos de prueba.
También planteó que las empresas evalúen de manera permanente las consecuencias de sus productos sobre los derechos humanos.
“Todos los derechos humanos están amenazados”, incluido el derecho a la vida, sostuvo Türk en su llamado a una acción urgente.
¿Qué preocupa de la IA agéntica?
Uno de los principales focos de preocupación son los llamados agentes de inteligencia artificial, sistemas capaces de ejecutar tareas y tomar determinadas acciones de manera autónoma.
Türk advirtió que una falla en estos sistemas podría afectar servicios esenciales, comunicaciones e infraestructuras críticas.
Entre los riesgos señalados también aparecen la explotación masiva de datos personales, las tecnologías de vigilancia, las campañas de desinformación y la automatización de servicios que podría afectar de manera desproporcionada a poblaciones vulnerables.
Al mismo tiempo, investigadores y desarrolladores han advertido sobre escenarios de mayor alcance relacionados con sistemas capaces de mejorar sus propias capacidades o actuar de manera autónoma.
Estos escenarios siguen siendo objeto de debate. Mientras algunos investigadores consideran que los riesgos existenciales deben tomarse seriamente, otros cuestionan que el debate se concentre en amenazas futuras y no en daños que ya están ocurriendo, como los deepfakes, la desinformación y las estafas.
Amodei y Altman piden desacelerar
La advertencia de Türk ocurre después de que Dario Amodei, director ejecutivo de Anthropic, pidiera desacelerar el ritmo de desarrollo de los sistemas de IA más avanzados.
Amodei no planteó detener el desarrollo tecnológico. Su propuesta consiste en dar más tiempo para desarrollar mecanismos de seguridad, realizar evaluaciones externas y establecer estándares para los sistemas más avanzados.
Sam Altman, director ejecutivo de OpenAI, respaldó la idea de “dosificar” el desarrollo y señaló que las empresas deberían incorporar evaluaciones de seguridad y mecanismos de monitoreo.
El planteamiento también recibió respaldo de Elon Musk y se convirtió en uno de los puntos centrales del debate sobre el futuro inmediato de la IA.
La discusión resulta especialmente significativa porque proviene de algunos de los principales actores de la propia industria tecnológica.
Trump rechaza nuevas salvaguardas
La respuesta de Donald Trump fue en sentido contrario.
El presidente de Estados Unidos rechazó los llamados a establecer nuevos controles y sostuvo el 14 de septiembre que la IA solamente necesita como salvaguarda a un presidente “fuerte y inteligente”.
Trump calificó como una “conspiración enfermiza” las iniciativas para limitar el desarrollo de la IA y argumentó que reducir su velocidad podría favorecer a China en la competencia tecnológica.
Su postura se enmarca en una política que considera la supremacía estadounidense en inteligencia artificial como un objetivo estratégico frente a China.
El debate, por tanto, no se limita a la seguridad tecnológica: también involucra competencia económica, poder geopolítico y control sobre una tecnología considerada estratégica.
Estados Unidos y China, en el centro de la disputa
China, por su parte, ha impulsado el desarrollo de sus propias capacidades de IA mientras enfrenta restricciones estadounidenses para acceder a determinados componentes y tecnologías.
El gobierno chino también ha planteado la necesidad de una mayor gobernanza internacional de la inteligencia artificial. Al mismo tiempo, ha rechazado discursos que, desde Estados Unidos, presenten el desarrollo tecnológico chino principalmente como una amenaza.
La competencia entre ambos países introduce así otra dificultad: ¿cómo establecer reglas internacionales sin convertir la seguridad de la IA en otro frente de la rivalidad geopolítica?
¿Quién debe poner los límites?
El debate deja una pregunta central: ¿quién debe decidir qué capacidades de una inteligencia artificial son aceptables y cuáles representan un riesgo demasiado alto para ser desplegadas?
Para la ONU, esa decisión no puede quedar exclusivamente en manos de las empresas.
La propuesta de Türk apunta hacia mecanismos multilaterales, evaluaciones independientes y obligaciones para los desarrolladores.
La discusión ocurre además mientras gobiernos, empresas, investigadores y organizaciones internacionales buscan convertir principios generales sobre ética de la IA en reglas concretas.
La cuestión ya no es únicamente qué puede hacer la inteligencia artificial.
También está en disputa quién tendrá el poder para decidir hasta dónde puede llegar.
