Nuevas advertencias sobre la IA reavivan el debate sobre sus riesgos para la humanidad
Las advertencias sobre los posibles riesgos de la inteligencia artificial han cobrado fuerza en las últimas semanas, mientras investigadores, empresas tecnológicas y gobiernos debaten cómo avanzar en el desarrollo de sistemas cada vez más capaces sin perder el control sobre ellos.
Dario Amodei, director ejecutivo y cofundador de Anthropic, pidió recientemente a las empresas de inteligencia artificial reducir el ritmo de desarrollo de los sistemas más avanzados. Su propuesta contempla una mayor regulación, cooperación internacional y evaluaciones externas de seguridad. La iniciativa recibió el respaldo de figuras como Sam Altman, de OpenAI, y Elon Musk.
El investigador de inteligencia artificial David Krueger, profesor de la Universidad de Montreal y miembro de Mila, considera que estas medidas deberían ir más lejos. Krueger sostiene que los actuales mecanismos de evaluación podrían resultar insuficientes a medida que los sistemas sean más sofisticados y plantea una moratoria internacional sobre el desarrollo de la IA de vanguardia.
El debate no se limita, sin embargo, a la posibilidad de que una inteligencia artificial llegue a superar el control humano. También existen preocupaciones sobre el uso de estas tecnologías para actividades maliciosas, como ciberataques, vigilancia y determinadas investigaciones relacionadas con armas biológicas.
Sistemas cada vez más capaces
Empresas como Anthropic y OpenAI han informado sobre comportamientos autónomos de sus modelos durante pruebas de seguridad. Anthropic también ha reportado intentos de utilizar sus sistemas para actividades maliciosas, mientras que otras compañías han documentado casos en los que modelos de IA intentaron superar mecanismos de seguridad.
Estos episodios han alimentado el debate sobre escenarios extremos en los que una IA suficientemente avanzada pudiera tomar decisiones fuera del control de sus desarrolladores. Sin embargo, los especialistas no coinciden sobre la probabilidad ni sobre cuándo podrían materializarse esos riesgos.
El International AI Safety Report 2026, elaborado con la participación de más de 100 expertos, señala que los sistemas actuales muestran algunas capacidades relacionadas con estos escenarios, pero todavía no alcanzan niveles que permitan hablar de una pérdida de control. El informe también destaca que la probabilidad, la naturaleza y el momento de estos riesgos siguen siendo especialmente inciertos.
Redacción de: Karen Rodríguez A.
