Las principales empresas dedicadas al desarrollo de inteligencia artificial (IA) no están avanzando al mismo ritmo en la implementación de medidas de seguridad que en el desarrollo de modelos cada vez más potentes, según un informe publicado por el Future of Life Institute, un centro de investigación especializado en los riesgos de las tecnologías emergentes.
El estudio evaluó a algunas de las compañías más influyentes del sector, entre ellas Anthropic, OpenAI, Google DeepMind y Meta, y concluyó que ninguna alcanzó una calificación sobresaliente en materia de seguridad. Incluso Anthropic, la empresa mejor valorada, obtuvo una nota equivalente a C+, mientras que OpenAI y Google DeepMind recibieron calificaciones de C.
Los investigadores sostienen que, a medida que los modelos de IA adquieren capacidades más avanzadas, varias empresas han reducido o flexibilizado compromisos voluntarios que anteriormente habían asumido para limitar el desarrollo de sistemas potencialmente peligrosos. Según el informe, esta tendencia coincide con la ausencia de regulaciones gubernamentales sólidas que establezcan estándares comunes para toda la industria.
Expertos alertan sobre la falta de estándares comunes
Uno de los aspectos que más preocupa a los autores del informe es la denominada seguridad existencial, la categoría con las peores calificaciones entre todas las evaluadas. Este apartado analiza la preparación de las compañías frente a escenarios en los que sistemas de inteligencia artificial altamente avanzados puedan causar daños graves o escapar al control humano.
El índice fue elaborado a partir de 37 indicadores distribuidos en seis categorías y contó con la participación de especialistas internacionales en inteligencia artificial y seguridad tecnológica provenientes de universidades y centros de investigación de distintos países.
La publicación coincide con un creciente debate internacional sobre la necesidad de fortalecer la gobernanza de la inteligencia artificial. En los últimos días, expertos reunidos en un foro de las Naciones Unidas advirtieron que el desarrollo de esta tecnología está avanzando más rápido que la capacidad de los gobiernos para regularla, lo que incrementa los riesgos asociados a sistemas cada vez más autónomos y sofisticados.
El informe también señala que algunas empresas que anteriormente mantenían restricciones sobre el uso militar de sus tecnologías han comenzado a flexibilizar esas políticas, una decisión que ha generado preocupación entre investigadores dedicados a la seguridad de la IA. Por su parte, compañías defensoras del código abierto, como Mistral, cuestionaron la metodología utilizada en la evaluación y argumentaron que el índice no reconoce adecuadamente los beneficios de la transparencia en el desarrollo de modelos.
Los autores concluyen que la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes debería ir acompañada de mecanismos de evaluación independientes, mayor transparencia y estándares internacionales de seguridad que permitan reducir los riesgos para la sociedad antes de que estas tecnologías alcancen niveles aún más avanzados.
Redacción de: Karen Rodríguez A.
 no están avanzando al mismo ritmo en la implementación de medidas de seguridad que en el desarrollo de modelos cada vez más potentes){kind=link}