Francia registra las oficinas de X mientras Europa investiga a Grok por contenidos sexuales

La presión regulatoria sobre las grandes plataformas tecnológicas vuelve a intensificarse en Europa.

Esta vez, el foco está puesto en X, la red social propiedad de Elon Musk, que afronta investigaciones simultáneas en Francia y Reino Unido relacionadas con el uso de datos, la moderación de contenidos y el papel de su inteligencia artificial.

Registro policial en la sede de X en París

Las oficinas de X en Francia han sido objeto de un registro por parte de la unidad de ciberdelincuencia de la fiscalía de París. La actuación se enmarca en una investigación judicial que analiza posibles delitos graves, entre ellos la extracción ilegal de datos y la complicidad en la posesión o difusión organizada de material de abuso sexual infantil.

Según ha confirmado la fiscalía francesa, tanto Elon Musk como la exdirectora ejecutiva de la compañía, Linda Yaccarino, han sido citados a declarar en audiencias previstas para abril.

Una investigación que se amplía al algoritmo y a la IA

El procedimiento judicial no es nuevo. La investigación se inició en enero de 2025, cuando los fiscales comenzaron a analizar el funcionamiento del algoritmo de recomendación de contenidos de X. En julio del mismo año, el alcance del caso se amplió para incluir al chatbot de inteligencia artificial Grok, desarrollado por la empresa de Musk.

Tras el registro policial, las autoridades francesas han señalado que ahora estudian si la plataforma ha vulnerado la ley en múltiples frentes, entre ellos:

La posesión o distribución organizada de imágenes pornográficas de menores

El uso de deepfakes sexuales que vulneran los derechos de imagen de las personas

La extracción fraudulenta de datos por parte de grupos organizados

Desde X, la investigación francesa ha sido descrita anteriormente como un ataque a la libertad de expresión, negando cualquier manipulación deliberada del algoritmo y calificando las actuaciones como políticamente motivadas. Por el momento, la compañía no ha emitido comentarios oficiales sobre el registro.

Reino Unido investiga a Grok por la creación de deepfakes sexuales

De forma paralela, las autoridades británicas han reforzado su escrutinio sobre Grok, después de que salieran a la luz imágenes y vídeos sexualizados generados por IA, en muchos casos utilizando fotografías reales de mujeres sin su consentimiento.

Estas prácticas provocaron en enero una fuerte reacción por parte de víctimas, organizaciones de seguridad digital y responsables políticos, lo que obligó a la empresa a intervenir para frenar la generación de este tipo de contenidos.

El papel de Ofcom y las limitaciones legales actuales

El regulador británico de las comunicaciones, Ofcom, ha confirmado que mantiene abierta su investigación sobre la plataforma y que trata el asunto como una cuestión urgente.

No obstante, Ofcom ha reconocido que carece de competencias suficientes para investigar directamente a los chatbots, lo que limita su capacidad de actuación en el caso concreto de Grok.

La ICO abre una investigación sobre el uso de datos personales

Poco después del pronunciamiento de Ofcom, la Information Commissioner’s Office (ICO) anunció la apertura de su propia investigación, en coordinación con Ofcom, centrada en el tratamiento de datos personales por parte de Grok.

William Malcolm, director ejecutivo de riesgos regulatorios e innovación del ICO, afirmó que los informes sobre Grok plantean “preguntas profundamente preocupantes” sobre el uso de datos personales para generar imágenes íntimas o sexualizadas sin conocimiento ni consentimiento, así como sobre la existencia —o no— de salvaguardas adecuadas.

La Comisión Europea también entra en escena

A finales de enero, la European Commission anunció una investigación sobre xAI, la empresa matriz responsable del desarrollo de Grok. Bruselas ha confirmado además que mantiene contacto con las autoridades francesas tras el registro de las oficinas de X en París, lo que refuerza la dimensión europea del caso.

Críticas de Pavel Durov a la actuación francesa

La actuación de la justicia francesa ha generado reacciones en el sector tecnológico. Pavel Durov, fundador de Telegram, criticó duramente a las autoridades del país, afirmando que Francia se ha convertido en “el único país del mundo que persigue penalmente a todas las redes sociales que ofrecen cierto grado de libertad”.

Durov añadió que, en su opinión, “no se trata de un país libre”, en referencia al entorno regulatorio francés.

Antecedentes: el caso Telegram en Francia

Las declaraciones de Durov llegan tras su detención en agosto de 2024 en Francia, relacionada con presuntos fallos en la moderación de contenidos de Telegram y la supuesta falta de medidas para frenar actividades delictivas.

El empresario fue autorizado a abandonar el país en marzo de 2025, después de que la plataforma introdujera cambios en su funcionamiento y en sus políticas de control de contenidos.

Un nuevo pulso entre regulación, IA y libertad de expresión

El caso de X y Grok ilustra el creciente choque entre innovación tecnológica, inteligencia artificial y marcos regulatorios europeos. Mientras las autoridades refuerzan la vigilancia sobre el uso de datos y la generación de contenidos ilícitos, las grandes plataformas denuncian un entorno cada vez más restrictivo que, según ellas, pone en riesgo la libertad de expresión y el desarrollo tecnológico.