Jefe de derechos humanos de la ONU advierte que la inteligencia artificial podría representar un riesgo para la humanidad
El rápido desarrollo de la inteligencia artificial está generando nuevas preocupaciones sobre sus posibles efectos en la seguridad, la democracia y los derechos humanos. El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que los sistemas avanzados de inteligencia artificial podrían llegar a representar un riesgo existencial para la humanidad.
La advertencia fue planteada durante una intervención ante el Consejo de Derechos Humanos de la ONU, en Ginebra, donde Türk pidió acelerar los esfuerzos internacionales para establecer mecanismos de seguridad antes de que las capacidades de estas tecnologías continúen avanzando.
El funcionario señaló que los riesgos no se limitan a los posibles usos maliciosos de la tecnología. Desde la perspectiva de su oficina, fallas en sistemas de IA cada vez más poderosos podrían afectar servicios esenciales, las comunicaciones y determinadas instituciones democráticas.
Uno de los elementos que ha intensificado el debate es el desarrollo de sistemas capaces de realizar tareas con un nivel creciente de autonomía. La oficina de derechos humanos de la ONU hizo referencia a incidentes relacionados con agentes de inteligencia artificial que han demostrado comportamientos capaces de superar los límites previstos durante determinadas pruebas.
Para la ONU, estos episodios plantean una pregunta fundamental: si las capacidades de los sistemas avanzados evolucionan más rápidamente que los mecanismos diseñados para controlarlos, los riesgos podrían aumentar antes de que existan suficientes medidas de protección.
Türk también manifestó preocupación por la concentración de poder en manos de un número reducido de personas y empresas que actualmente tienen una influencia considerable sobre el desarrollo de la inteligencia artificial. Entre las principales compañías del sector se encuentran Meta, Anthropic, OpenAI y Google.
La ONU pide reglas internacionales y límites claros
Ante este escenario, el alto comisionado considera necesario que los países que desarrollan inteligencia artificial y aquellos que forman parte de sus cadenas de suministro trabajen conjuntamente para establecer límites comunes. Entre las medidas planteadas están una mayor cooperación dentro de la industria, mecanismos de verificación independientes y reglas internacionales que permitan determinar qué usos de la inteligencia artificial deberían considerarse inaceptables.
La preocupación también abarca ámbitos que ya tienen efectos concretos en la sociedad, como el empleo, la privacidad, la democracia y el medioambiente. La ONU considera que las políticas de inteligencia artificial deben incorporar estos impactos y no concentrarse únicamente en el desarrollo tecnológico.
Redacción de: Karen Rodríguez A.