A medida que la inteligencia artificial generativa se integra rápidamente en la vida cotidiana, organizaciones de derechos digitales, expertos y jóvenes de distintos países han instado a los líderes del G7 a adoptar medidas concretas para proteger a niños, niñas y adolescentes de los riesgos asociados a estas tecnologías emergentes.
La petición fue presentada en el marco de la cumbre del Grupo de los Siete (G7), celebrada bajo la presidencia de Francia, donde la protección de la infancia en entornos digitales se ha convertido en una de las prioridades de la agenda internacional. Un total de 95 jóvenes provenientes de 19 países suscribieron un manifiesto en el que solicitan a los gobiernos garantizar que el desarrollo y la implementación de sistemas de inteligencia artificial consideren de manera prioritaria el bienestar, la salud mental y los derechos de las nuevas generaciones.
Los jóvenes advirtieron que las decisiones sobre las salvaguardas de la inteligencia artificial no pueden quedar exclusivamente en manos de las empresas tecnológicas ni de adultos que no han crecido en un entorno donde estas herramientas forman parte permanente de la vida diaria. Entre sus preocupaciones destacan la influencia de los chatbots, los asistentes virtuales y los llamados “compañeros de IA”, cada vez más presentes en las interacciones de adolescentes y niños.
Preocupación por la salud mental y la seguridad digital
Especialistas y organizaciones de la sociedad civil han señalado que aún existe un conocimiento limitado sobre los efectos a largo plazo de la inteligencia artificial en la salud mental de las personas jóvenes. Diversos estudios muestran que una proporción creciente de adolescentes utiliza herramientas de IA para buscar apoyo emocional, orientación personal e incluso consejos relacionados con su bienestar psicológico.
Asimismo, los expertos alertan sobre riesgos como la dependencia emocional de los sistemas conversacionales, la manipulación de información, la exposición a contenidos inapropiados y la generación de imágenes falsas mediante tecnologías de “deepfake”. Estas amenazas se suman a las preocupaciones ya existentes sobre el impacto de las redes sociales en el desarrollo de niños y adolescentes.
Representantes del gobierno francés han advertido que no se debe repetir el retraso regulatorio que caracterizó la respuesta de muchos países frente a las redes sociales. Según las autoridades, es necesario establecer mecanismos de evaluación y supervisión de los modelos de inteligencia artificial antes de que lleguen masivamente a manos de menores de edad.
Para los defensores de los derechos de la infancia, la protección de los menores podría convertirse en uno de los principales consensos internacionales capaces de impulsar una regulación más estricta de la inteligencia artificial, equilibrando la innovación tecnológica con la protección de los derechos humanos y el bienestar de las futuras generaciones.
Redacción de: Karen Rodríguez A.
