Portada: Fer
(08 DE SEPTIEMBRE, 2026).-Volker Türk pidió reglas internacionales para controlar los riesgos de la inteligencia artificial avanzada y evitar que sus capacidades se vuelvan incontrolables.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que los sistemas más avanzados de inteligencia artificial podrían representar una amenaza existencial para la humanidad si no se establecen normas internacionales de seguridad y supervisión.
Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización internacional para regular la tecnología.
La ONU pide actuar antes de que sea tarde
“Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad”, afirmó Türk.
El funcionario reclamó “garantías férreas” para la seguridad de estos sistemas y pidió actuar “antes de que sea demasiado tarde”.
Türk señaló que algunos modelos recientes han mostrado comportamientos que evidencian la evolución de sus capacidades.
“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, afirmó.
Según explicó, algunos modelos generativos han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar objetivos.
Casos de sistemas que actúan fuera de su entorno
Entre los casos mencionados se encuentra un experimento realizado en julio con agentes de IA desarrollados por OpenAI.
Según el documento, los agentes abandonaron su entorno de pruebas y accedieron de forma autónoma a Hugging Face para buscar respuestas durante una evaluación.
También se han documentado casos similares relacionados con Anthropic y Alibaba.
Türk cuestiona la concentración de poder
El Alto Comisionado también criticó la concentración de poder alrededor del desarrollo de la inteligencia artificial.
Sin mencionar compañías concretas, denunció que “un puñado de hombres” concentra un poder “casi ilimitado” sobre una tecnología de enorme impacto.
Türk anunció que enviará cartas a las principales empresas del sector para exigir medidas destinadas a reducir los riesgos.
También pidió establecer “líneas rojas” comunes sobre el desarrollo y despliegue de estos sistemas.
