Grok, la IA de Elon Musk, ya no podrá desnudar a personas reales en países donde sea ilegal

La herramienta de inteligencia artificial Grok, integrada en la plataforma X, dejará de permitir la edición de fotos de personas reales para mostrarlas con ropa reveladora en aquellos países donde esta práctica sea ilegal.

La decisión llega tras una oleada de críticas y una fuerte presión política y social por la proliferación de deepfakes sexualizados generados por IA, un fenómeno que ha afectado especialmente a mujeres.

X introduce restricciones a Grok tras la polémica

El anuncio se realizó a través de un comunicado publicado en X, en el que la compañía asegura haber implementado medidas técnicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con fines sexualizados en jurisdicciones donde la ley lo prohíbe. La medida supone un giro relevante tras semanas de controversia y denuncias públicas.

Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago.

Para muchas víctimas y organizaciones de defensa de los derechos de las mujeres, la rectificación llega demasiado tarde. Periodistas y usuarias de X denunciaron que sus imágenes fueron manipuladas con Grok para crear contenido sexualizado sin consentimiento, causando un daño que, según afirman, es difícil de revertir.

Presión política y posibles sanciones

La decisión de X se produjo pocas horas después de que el fiscal general de California anunciara una investigación sobre la difusión de deepfakes sexuales generados por IA, incluidos los que afectan a menores. Este contexto internacional ha intensificado la presión sobre la plataforma.

En el Reino Unido, Ofcom ha advertido de que, si X no cumple con la ley, podría solicitar una orden judicial para obligar a los proveedores de Internet a bloquear completamente el acceso a la plataforma en el país.

Geobloqueo y limitaciones técnicas

X ha explicado que aplicará bloqueos geográficos para impedir que los usuarios generen imágenes de personas reales en bikinis, ropa interior u otras prendas similares en territorios donde sea ilegal. Sin embargo, no está claro cómo se implementarán estas restricciones ni si podrán ser eludidas mediante herramientas como las VPN, que permiten simular la conexión desde otro país.

No es la primera vez que el uso de VPN se dispara en el Reino Unido para sortear restricciones online: ya ocurrió cuando los sitios pornográficos empezaron a exigir verificación de edad en cumplimiento de la Online Safety Act.

El papel de Elon Musk y la libertad de expresión

El propietario de X, Elon Musk, había defendido anteriormente a la plataforma, acusando a los críticos de querer “suprimir la libertad de expresión”. Incluso llegó a publicar imágenes generadas por IA del primer ministro británico Keir Starmer en bikini, un gesto que fue duramente criticado y que, según expertos, restó credibilidad a la respuesta de la compañía.

Musk también explicó que, con los ajustes NSFW activados, Grok permite cierta desnudez parcial en personajes adultos ficticios, de acuerdo con estándares similares a los del cine con calificación R, aunque estas normas varían según la legislación de cada país.

Muchas incógnitas aún por resolver

Especialistas en políticas tecnológicas señalan que siguen existiendo dudas importantes: cómo determinará Grok si una imagen corresponde a una persona real, qué sanciones se aplicarán a quienes infrinjan las normas y hasta qué punto estas medidas serán efectivas.

Para los reguladores y activistas, el caso de Grok se ha convertido en un ejemplo claro de los riesgos asociados a la IA generativa y de la necesidad de que las plataformas adopten medidas preventivas, no solo reacciones una vez que el daño ya se ha producido.