La plataforma X, ha sido acusada por varios gobiernos de no controlar su software basado en inteligencia artificial (AI), denominado Grok, cuyo uso ha permitido en las últimas semanas, la proliferación de imágenes manipuladas (deep fakes) sexualizadas.
De hecho, uno de los problemas más recurrentes con este tipo de chatbots, es justamente la creación por IA de audios, videos e imágenes, generalmente en tiempo real que imitan la apariencia y la voz de las personas con gran precisión y cuyo objetivo es engañar a las personas e incluso a los algoritmos, conllevando a usos indebidos y a riesgos graves.
Estos deepfakes son considerados peligrosos, porque pueden emplearse para cometer fraudes, desinformación, extorsiones y pornografía por venganza. Un estudio realizado en 2019 mostró que el 96% de los deepfakes detectados eran pronográficos y que afectaron principalmente a mujeres, así como explotaron a menores con contenidos específicos.
Otro uso perturbador de las deepfakes se da en el campo de la política, donde se manipula la opinión pública y se socava la democracia, hay registros de procesos electorales definidos por el empleo de deepfakes. Su utilización está cada vez más presente y afecta la seguridad digital, comprometiendo los sistemas biométricos como el reconocimiento facial y de voz.
El gobierno federal continúa usando la red a pesar de la controversia
Según Evan Solomon, ministro de Inteligencia Artificial, por ahora, el gobierno no está considerando prohibir la plataforma X, dijo que están analizando la controversial situación y que comparten las preocupaciones del primer ministro británico, Kier Starmer, al respecto.
La polémica se inició el año pasado, cuando el generador de imágenes con IA, denominado Grok Imagine de la plataforma X, permitió a sus usuarios crear videos e imágenes con textos en su conocido “modo picante” que puede generar contenidos para adultos.
Su uso indiscriminado ha provocado abusos y reclamaciones, al punto de X haber impuesto algunas restricciones de generación de imágenes de Grok, limitándolas a los clientes que pagan. No obstante, las quejas han llegado a los gobiernos que están tomando medidas.
El gobierno del Reino Unido ha estado reuniendo apoyo internacional para hacer frente a esta situación y esperaba que el gobierno canadiense compartiera las mismas preocupaciones del primer ministro británico. Por ahora, no ha obtenido respuesta.
Sin embargo, Solomon ha expresado que están dialogando con gobiernos aliados, en la búsqueda de respuestas. Reconoce que el abuso sexual mediante deepfakes es violencia y que el gobierno debe proteger a los canadienses de la explotación, especialmente a las mujeres y a los jóvenes. Dijo también, que se presentó a finales de año, un proyecto de ley que penalizará los deepfakes sexuales. El ministro de Inteligencia Artificial, añadió que las plataformas y los desarrolladores de IA tienen la obligación legal de prevenir estos daños.
Redacción de: J.Bendezu, LJI Reporte
