La plataforma X es ordenada por la UE a conservar todos los datos de Grok. El abuso de IA se convierte en el foco de atención

Las autoridades regulatorias de la Unión Europea han tomado medidas contundentes. Según reporta PANews, la Comisión Europea ha ordenado formalmente a la plataforma X que conserve todos sus registros internos de operaciones y datos de interacción con usuarios relacionados con su asistente de chat AI Grok hasta finales de 2026, siendo esta otra medida obligatoria en la gestión del contenido de la plataforma por parte de la UE.

Las herramientas de IA son mal utilizadas y el contenido falso se propaga sin control

La raíz del problema apunta al uso indebido de Grok. Recientemente, algunos usuarios han aprovechado las funciones de edición de imágenes y creación de videos de esta herramienta de IA para generar en masa contenido falso y de exposición, que luego se difunde libremente en la plataforma X. Las víctimas de este contenido incluyen desde mujeres adultas hasta menores de edad, lo que ha generado una gran preocupación en la UE por las vulnerabilidades en la regulación de las plataformas.

Grok, desarrollado por la empresa xAI de Elon Musk, debería ser una herramienta de diálogo innovadora, pero su potente capacidad de generación de contenido se ha convertido en un riesgo de abuso. El portavoz de la Comisión Europea, Thomas Rénier, afirmó que la UE “mantiene una vigilancia estrecha” sobre este tipo de conductas que vulneran los derechos de los usuarios, y por ello ha decidido extender y profundizar la supervisión de la plataforma X.

Conservación obligatoria de datos para recopilar evidencias en investigaciones regulatorias

La razón principal por la que la UE exige a X que conserve todos los datos de Grok hasta finales de 2026 es sentar las bases para futuras investigaciones profundas y acciones legales. Esta directiva de “retención de datos” ya entró en vigor en 2025 para la plataforma X, y la extensión actual refuerza la cadena de responsabilidad, asegurando que la plataforma no pueda destruir pruebas clave.

Compromiso de X con una mayor gobernanza

Frente a la presión regulatoria, X ha respondido. La plataforma ha declarado que tomará medidas decisivas contra todo contenido ilegal, incluyendo la eliminación de contenido que infrinja las normas, la suspensión permanente de cuentas ilegales y la cooperación activa con las autoridades gubernamentales. Aunque estas acciones muestran la postura de la plataforma, también reflejan que en la era de la IA, la complejidad y los desafíos en la moderación de contenidos superan ampliamente a los métodos tradicionales de las redes sociales.

Las medidas obligatorias de la UE en esencia marcan una línea roja para las aplicaciones de IA: cuando las herramientas innovadoras se usan para causar daño, las plataformas deben asumir la responsabilidad. El caso de X y Grok también advierte a toda la industria: una capacidad eficiente de generación de contenido debe ir acompañada de mecanismos regulatorios del mismo nivel.