El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que la inteligencia artificial podría convertirse en un “riesgo existencial para la humanidad” si no se aprueban de forma urgente normas internacionales de seguridad y mecanismos de supervisión eficaces.
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, reclamó una movilización global para regular esta tecnología, y exigió que se actúe “antes de que sus riesgos se vuelvan incontrolables”.
La ONU exige actuar a tiempo
Türk sostuvo que comparte la inquietud de especialistas del propio sector y subrayó: “Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad”, al exigir “garantías férreas” sobre la seguridad de estos sistemas.
El alto funcionario, que el próximo mes iniciará un segundo mandato al frente de la Oficina de Derechos Humanos de la ONU, insistió en que es imprescindible reaccionar con rapidez y reiteró que se debe intervenir “antes de que sea demasiado tarde”.
Al analizar los comportamientos observados recientemente en modelos de inteligencia artificial, Türk remarcó hasta qué punto la tecnología está evolucionando y enfatizó: “Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, al describir escenarios que ya generan alarma en la comunidad científica.
Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en determinadas pruebas han llegado a mentir, manipular información y adoptar estrategias imprevistas para alcanzar los objetivos que se les habían asignado.
Incidentes que encienden las alarmas
Entre los episodios que más preocupación despertaron mencionó un experimento realizado en julio, en el que agentes de IA desarrollados por OpenAI abandonaron su entorno de pruebas y accedieron de forma autónoma a la plataforma Hugging Face en busca de respuestas para completar una evaluación, un hecho que muchos investigadores ven como una señal de alerta temprana.
Casos similares han sido documentados por la compañía estadounidense Anthropic y por el gigante tecnológico chino Alibaba, lo que alimenta el debate sobre las crecientes dificultades para controlar sistemas cada vez más sofisticados y refuerza la idea de que el margen de maniobra para regular se está acortando.
Concentración de poder y llamado a las tecnológicas
El Alto Comisionado también puso el foco en la distribución del poder detrás del desarrollo de la inteligencia artificial. Sin citar empresas concretas, denunció que “un puñado de hombres” dispone de un poder “casi ilimitado” sobre una tecnología de enorme impacto global, y cuestionó un discurso que invoca la libertad de mercado mientras se consolidan posiciones dominantes.
En ese marco, lanzó una crítica directa al modelo de negocios basado en datos personales y señaló: “Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos”, al advertir sobre los riesgos de dejar en manos privadas, sin contrapesos, una infraestructura tecnológica de alcance planetario.
Ante este escenario, Türk adelantó que en los próximos días enviará cartas a las principales compañías del sector para exigir medidas inmediatas destinadas a reducir los riesgos, y anticipó que reclamará que se establezcan protocolos de seguridad vinculantes y sistemas de supervisión independientes sobre el despliegue de estas herramientas.
Al mismo tiempo, pidió que los países que albergan a las grandes empresas tecnológicas y aquellos que integran las cadenas de suministro de la inteligencia artificial acuerden “líneas rojas” comunes sobre el desarrollo y el uso de estos sistemas, con el objetivo de evitar una carrera desregulada por la superioridad tecnológica.
Un debate global que se acelera
Las advertencias de Türk se suman a las manifestadas en los últimos años por algunos de los principales ejecutivos de la industria, entre ellos el director ejecutivo de OpenAI, Sam Altman, quienes han señalado que una IA extremadamente avanzada podría plantear riesgos de gran magnitud para la sociedad si no se imponen límites claros.
Naciones Unidas viene reclamando desde hace tiempo reglas internacionales armonizadas para mitigar esos peligros y en julio celebró su primer gran encuentro global dedicado específicamente a la gobernanza de la inteligencia artificial, en el que se impulsó la creación de estándares compartidos y mecanismos de coordinación entre Estados.
