Advierten sobre el riesgo existencial de una inteligencia artificial fuera de control
El científico canadiense Yoshua Bengio, considerado uno de los pioneros de la inteligencia artificial, advierte que los avances recientes de esta tecnología están llevando el debate sobre sus riesgos a un punto de mayor urgencia y pide a los gobiernos actuar antes de que sea más difícil controlar los sistemas de IA.
Bengio, fundador y director científico del Montreal Institute for Learning Algorithms (Mila), sostiene que algunos sistemas están desarrollando capacidades que podrían permitirles actuar de maneras no previstas por sus desarrolladores. En una entrevista con CTV, afirmó que el problema ya no debería tratarse únicamente como un escenario de ciencia ficción.
La preocupación se relaciona especialmente con el desarrollo de agentes de inteligencia artificial capaces de operar de manera más autónoma, tomar decisiones y ejecutar tareas sin supervisión humana constante. Bengio sostiene que existe el riesgo de que estos sistemas puedan perseguir objetivos diferentes a los de las personas o incluso escapar de los mecanismos utilizados para contenerlos.
Crece el debate sobre cómo controlar una tecnología cada vez más autónoma
Las advertencias se producen en medio de una discusión internacional sobre la velocidad con la que avanza la IA. Investigadores y ejecutivos de algunas de las principales empresas del sector han planteado la necesidad de priorizar la seguridad y establecer mayores controles sobre el desarrollo de sistemas avanzados.
Bengio ha planteado la necesidad de establecer mecanismos internacionales de seguridad para la IA y ha pedido que los gobiernos tengan un papel más activo en la supervisión del sector y en la creación de normas que permitan evaluar los riesgos antes de desplegar sistemas cada vez más capaces.
En Canadá, el debate ocurre mientras el Gobierno federal analiza cómo abordar los riesgos asociados con la inteligencia artificial. El ministro de Inteligencia Artificial e Innovación Digital, Evan Solomon, ha señalado que el país debe encontrar un equilibrio entre aprovechar las oportunidades económicas de la tecnología y establecer medidas de seguridad.
Las posiciones sobre la gravedad del riesgo no son uniformes. Mientras algunos investigadores consideran que el desarrollo acelerado podría generar amenazas difíciles de controlar, otros sostienen que las predicciones sobre una amenaza existencial siguen siendo inciertas y que las medidas de seguridad deben diseñarse sin frenar innecesariamente la innovación.
Para Bengio, la discusión ya no debería centrarse únicamente en cuánto puede avanzar la inteligencia artificial, sino también en cómo garantizar que los sistemas futuros permanezcan bajo control humano.
Redacción de: Karen Rodríguez A.
