La Unión Europea abrió una investigación formal contra la plataforma de redes sociales X tras la difusión de imágenes deepfake sexualizadas no consensuadas generadas por su chatbot de inteligencia artificial Grok. La pesquisa se centra en posibles incumplimientos de las normas digitales del bloque relacionadas con la prevención de contenido ilegal y dañino.
De forma paralela, los reguladores europeos ampliaron una investigación ya en curso sobre los sistemas de recomendación de X, luego de que la plataforma anunciara cambios para permitir que la inteligencia artificial de Grok determine qué publicaciones se muestran a los usuarios. Ambas investigaciones se enmarcan en la aplicación de la Ley de Servicios Digitales (DSA), que regula a las plataformas en línea de gran tamaño.
La atención de Bruselas se intensificó tras la reacción internacional provocada por Grok, que permitió a los usuarios generar y editar imágenes con inteligencia artificial para desnudar digitalmente a personas o representarlas con vestimenta sexualizada. Las autoridades indicaron que algunas de estas imágenes podrían involucrar a menores de edad, lo que elevó el nivel de alerta entre los reguladores.
Evaluación del cumplimiento de la Ley de Servicios Digitales
La Comisión Europea informó que analiza si X ha adoptado medidas suficientes para mitigar los riesgos asociados a la difusión de contenido ilegal, incluidas imágenes sexualmente explícitas manipuladas digitalmente. Según el organismo, estos riesgos ya se han materializado, exponiendo a los ciudadanos europeos a posibles daños graves.
La investigación se limita al funcionamiento de Grok dentro de la plataforma X y no abarca su sitio web ni su aplicación independiente, ya que la DSA solo se aplica a las plataformas en línea de mayor alcance. El proceso no tiene un plazo definido y podría concluir con compromisos de la empresa para modificar sus prácticas o con la imposición de sanciones económicas significativas.
La controversia también ha tenido repercusiones fuera de Europa. A comienzos de este mes, Malasia e Indonesia bloquearon temporalmente el acceso a Grok, convirtiéndose en los primeros países en hacerlo. Posteriormente, las autoridades malasias levantaron la restricción tras la implementación de medidas adicionales de seguridad, aunque indicaron que continuarán supervisando la situación.
En Estados Unidos, X enfrenta una presión similar. Fiscales generales de 35 estados solicitaron recientemente información a la empresa sobre las acciones previstas para impedir la creación de deepfakes sexualizados no consensuados y para eliminar ese tipo de contenido ya existente en la plataforma.
Redacción de: Karen Rodríguez A.
