Grok y X en el punto de mira: Presión para que Apple y Google eliminen la app de sus tiendas

Tres senadores demócratas de Estados Unidos han elevado la presión sobre las grandes tecnológicas tras la polémica generada por Grok, la herramienta de inteligencia artificial de X, que ha sido utilizada para crear y difundir imágenes sexuales no consentidas de personas reales.

La controversia ha reabierto el debate sobre los límites de la moderación en las plataformas digitales y el papel que deben jugar las tiendas de aplicaciones.

Presión política para retirar X y Grok de las tiendas de apps

Los senadores Ron Wyden, Ed Markey y Ben Ray Luján enviaron una carta abierta a los máximos responsables de Apple y Google en la que reclamaban la retirada de las aplicaciones X y Grok de sus respectivas tiendas. En el escrito, dirigido a Tim Cook y Sundar Pichai, los legisladores instan a ambas compañías a hacer cumplir unas condiciones de servicio que, según señalan, prohíben expresamente este tipo de contenido.

La petición llega después de que la IA desarrollada por xAI haya sido utilizada durante días para generar miles de imágenes sexualizadas de personas sin su consentimiento, en muchos casos mujeres y, de forma especialmente grave, también menores.

Cambios limitados en X tras la polémica

Horas después de que trascendiera la carta de los senadores, X introdujo cambios en el funcionamiento del bot de respuestas de Grok dentro de la red social. La generación de imágenes quedó restringida a usuarios de pago y, aparentemente, se limitaron también los tipos de imágenes que el bot puede crear directamente en X.

Sin embargo, estas modificaciones no afectan al conjunto del ecosistema. En la pestaña específica de Grok dentro de X, así como en la aplicación independiente y en su versión web, la herramienta sigue siendo capaz de generar deepfakes sexuales, según diversas comprobaciones realizadas tras los cambios.

Críticas por permitir el abuso previo pago

Ron Wyden fue especialmente contundente al valorar estas medidas. El senador afirmó que los cambios introducidos no resuelven el problema de fondo, ya que Grok sigue inundando las redes sociales con imágenes sexuales no consentidas.

A su juicio, lo único que ha cambiado es que ahora algunos usuarios deben pagar para crear ese tipo de imágenes, mientras la plataforma obtiene beneficios económicos de una práctica que considera abusiva, especialmente cuando involucra a menores.

Las normas de Apple y Google, en el punto de mira

En la carta, los senadores recuerdan que tanto la App Store de Apple como Google Play prohíben explícitamente las aplicaciones que permitan la creación o difusión de imágenes sexuales sin consentimiento. Según su argumentación, mantener X y Grok disponibles en las tiendas contradice las políticas públicas de ambas compañías y debilita su discurso sobre ofrecer un entorno más seguro que la descarga directa de aplicaciones.

No es la primera vez que Apple y Google actúan en este ámbito. En el pasado, ambas empresas han eliminado aplicaciones dedicadas a “desnudar” imágenes de personas reales mediante inteligencia artificial.

Una semana de generación masiva de deepfakes

Durante más de una semana, usuarios de X han utilizado el bot oficial de Grok para modificar imágenes de personas reales, colocándolas en ropa interior, bañadores u otras situaciones sexualizadas. Según los senadores, la tendencia ha llegado a mostrar escenas de humillación, abuso e incluso violencia explícita, todo ello sin el consentimiento de las personas afectadas.

Una revisión independiente de algunas de estas imágenes revela que la mayoría representan a mujeres, aunque también se han detectado casos que involucran a menores, un aspecto que ha elevado aún más la gravedad del caso.

Popularidad de Grok pese a la controversia

A pesar de la polémica, tanto Grok como X mantienen una alta popularidad en las tiendas de aplicaciones. En el momento en que se conocieron las críticas, Grok figuraba entre las aplicaciones más descargadas, situándose en el cuarto puesto de la App Store y en el décimo de Google Play.

Ni Apple ni Google han respondido públicamente a las solicitudes de comentario sobre la carta de los senadores ni a preguntas previas relacionadas con el papel de X en la difusión de imágenes sexuales no consentidas.

El enfoque de Elon Musk sobre la moderación

Elon Musk, propietario tanto de X como de xAI, ha defendido históricamente una moderación mínima en las plataformas digitales, equiparándola en ocasiones a censura. En diciembre, presentó una versión de Grok capaz de manipular imágenes de personas reales, una decisión que ahora vuelve a estar bajo escrutinio.

Aunque X ha reiterado que la creación de contenido ilegal puede conllevar la expulsión de la plataforma, gran parte del material generado por Grok no encaja fácilmente en esa categoría legal, lo que complica la respuesta regulatoria.

Un debate abierto sobre la responsabilidad de las plataformas

El caso de Grok vuelve a poner sobre la mesa la responsabilidad de las plataformas y de las tiendas de aplicaciones frente al uso abusivo de la inteligencia artificial. Para los senadores, no actuar de forma contundente supondría socavar la credibilidad de Apple y Google en materia de seguridad y moderación de contenidos.

Por ahora, no hay indicios de que X o xAI vayan a aplicar un recorte más amplio de las capacidades de Grok en todas sus plataformas, lo que mantiene viva la presión política y social sobre las grandes tecnológicas.