Canadá está apostando por la investigación en seguridad como una vía para liderar con responsabilidad el desarrollo tecnológico. El Instituto Canadiense de Seguridad de Inteligencia Artificial anunció esta semana el financiamiento de diez proyectos pioneros que recibirán $100.000 cada uno para abordar algunos de los problemas más urgentes en el campo de la IA.
Entre los beneficiarios está un equipo liderado por Yoshua Bengio, una de las figuras fundacionales de la inteligencia artificial moderna, que investigará los factores ocultos que influyen en las decisiones de los grandes modelos de lenguaje, una rama de la IA generativa centrada en el texto.
Otros proyectos financiados por el instituto se centran en la detección de interferencia extranjera, la protección de datos personales frente al riesgo de que los modelos memoricen información sensible durante el entrenamiento, y el desarrollo de herramientas para alinear los sistemas autónomos de IA con valores humanos fundamentales.
Una apuesta por la seguridad frente al avance acelerado
Catherine Regis, codirectora del programa de investigación, subrayó la necesidad urgente de estudiar la seguridad en inteligencia artificial: “Hay muchas cosas que aún desconocemos. Por eso el programa es tan importante”. Según Regis, la investigación canadiense puede funcionar como una forma de poder blando, permitiendo al país influir en la gobernanza global de la tecnología.
Los proyectos seleccionados también abordarán temas como la programación asistida por IA, el desarrollo de sistemas que operan de manera autónoma con intervención humana limitada (conocidos como IA “agentizada”), y el uso de laboratorios químicos completamente automatizados. Todo esto ocurre bajo la misión del instituto de mantener a Canadá “dos pasos adelante” en la prevención de riesgos futuros en un campo que avanza rápidamente.
El Instituto Canadiense de Seguridad de IA fue fundado el año pasado como parte de una red internacional de centros respaldados por fondos públicos, creada tras múltiples llamados de expertos para regular una tecnología que, según algunos, podría representar una amenaza existencial para la humanidad si no se controla adecuadamente.
Redacción de: Karen Rodríguez A.
