Grok está siendo utilizado para desnudar a cualquiera, incluyendo menores

La última actualización de Grok, el chatbot de inteligencia artificial desarrollado por xAI, ha desatado una fuerte controversia.

La introducción de la función “Edit Image”, disponible para usuarios de X, permite modificar imágenes publicadas por otros usuarios sin solicitar permiso ni notificar al autor original. Esta novedad ha provocado una rápida proliferación de imágenes sexualizadas y deepfakes generados sin consentimiento.

Una herramienta de edición sin apenas barreras

La nueva función de Grok permite editar cualquier imagen visible en X de forma casi instantánea. En la práctica, esto ha supuesto que usuarios puedan alterar la vestimenta de personas reales, eliminar prendas o generar escenas de carácter sexual sin que existan controles efectivos más allá de la prohibición de la desnudez explícita total.

El resultado ha sido una avalancha de imágenes de mujeres y menores representados en situaciones sexualizadas, así como versiones manipuladas de líderes políticos y celebridades, todo ello sin autorización de las personas afectadas.

El origen de la tendencia y su rápida expansión

El fenómeno comenzó cuando creadores de contenido para adultos empezaron a solicitar a Grok versiones más sugerentes de imágenes propias tras el lanzamiento de la nueva función. Sin embargo, la dinámica se extendió rápidamente a fotografías de terceros, principalmente mujeres, que no habían dado ningún tipo de consentimiento.

Aunque Grok ya permitía modificar imágenes cuando era etiquetado en una publicación, la llegada de la herramienta de edición directa ha multiplicado su uso y ha reducido las fricciones para generar este tipo de contenido.

Imágenes manipuladas y posibles implicaciones legales

Entre los casos más graves detectados se encuentran imágenes en las que Grok modificó fotografías de dos niñas para mostrarlas con ropa provocativa y poses sexualizadas. Tras la polémica, estos contenidos fueron eliminados, pero no antes de generar una fuerte reacción en la comunidad.

En intercambios posteriores con usuarios, el propio chatbot llegó a generar mensajes de disculpa automática, reconociendo fallos en las salvaguardas y señalando que el contenido podría vulnerar tanto las políticas internas de xAI como la legislación estadounidense, que prohíbe la creación de imágenes sexualizadas realistas de menores, incluso cuando son generadas por inteligencia artificial.

Es importante destacar que las disculpas emitidas por Grok no representan necesariamente una posición oficial de xAI, sino respuestas generadas por el propio modelo de lenguaje. Cuando varios medios solicitaron explicaciones formales, la reacción de la compañía fue mínima. Ante una consulta de Reuters, xAI se limitó a responder con el mensaje: “Legacy Media Lies”, sin aportar aclaraciones adicionales.

El papel de Elon Musk en la viralización

El propio Elon Musk contribuyó indirectamente a popularizar estas ediciones al pedir públicamente a Grok que sustituyera una imagen viral del actor Ben Affleck por una suya vistiendo un bikini. A partir de ese momento, comenzaron a circular montajes cada vez más extravagantes, incluyendo imágenes manipuladas de figuras políticas como Kim Jong Un o Donald Trump, presentados con trajes de baño.

Incluso fotografías antiguas de políticos europeos, compartidas años atrás con mensajes sexualizados, han sido reutilizadas y transformadas mediante Grok en imágenes de carácter sugerente.

De la sátira al contenido sexualizado extremo

Aunque algunas de las imágenes generadas tenían un tono claramente humorístico, muchas otras estaban diseñadas explícitamente para rozar el contenido pornográfico.

Usuarios dieron instrucciones precisas para eliminar faldas, usar bikinis extremadamente reveladores o modificar la ropa de menores. En los ejemplos observados, Grok evitó mostrar desnudez explícita sin censura, pero sí accedió a peticiones altamente problemáticas desde un punto de vista ético.

La polémica alrededor de Grok se enmarca en un contexto más amplio: el crecimiento acelerado de los deepfakes sexuales no consentidos.

Otras plataformas de generación de vídeo con IA, como Sora, aplican salvaguardas más estrictas para el contenido NSFW, aunque tampoco están exentas de problemas similares.

La postura de Grok ante las acusaciones

Ante las críticas, Grok ha defendido que no está editando fotografías reales sin permiso, argumentando que se trata de “creaciones de IA basadas en solicitudes de los usuarios”. No obstante, esta distinción técnica no disipa el debate sobre el impacto real de estas imágenes en la reputación, la privacidad y la seguridad de las personas afectadas.