Las marcas de agua en imágenes generadas por IA no sirven: Una herramienta las elimina
Un equipo de investigadores de la Universidad de Waterloo ha desarrollado una herramienta capaz de eliminar de forma rápida las marcas de agua que identifican contenido generado por inteligencia artificial.
Su creación, bautizada como UnMarker, pone en entredicho la principal estrategia global para combatir los deepfakes y la desinformación digital.
Marcas de agua: ¿una defensa fallida contra los deepfakes?
Durante los últimos años, tanto la comunidad académica como las grandes empresas tecnológicas han apostado por el uso de marcas de agua como método para distinguir contenido generado por IA. Estas marcas, invisibles al ojo humano pero detectables por sistemas especializados, funcionan como una firma oculta que debería permitir identificar la procedencia artificial del contenido.
Gigantes tecnológicos como OpenAI, Google, Meta y Amazon se comprometieron en 2023, durante un evento en la Casa Blanca, a implementar este tipo de mecanismos para mejorar la transparencia. Sin embargo, el trabajo de la Universidad de Waterloo revela que esta estrategia podría no ser tan segura como se pensaba.
UnMarker: cómo funciona esta herramienta disruptiva
Según el investigador principal del proyecto, Andre Kassis, UnMarker representa un avance notable respecto a estudios previos sobre la eliminación de marcas de agua. A diferencia de otros intentos realizados por instituciones como la Universidad de Maryland o ETH Zürich, esta herramienta no requiere conocer el algoritmo utilizado para incrustar la marca, ni acceder a parámetros internos del sistema o interactuar con el detector original.
UnMarker puede eliminar marcas de agua en menos de dos minutos, produciendo imágenes visualmente idénticas a las originales, pero completamente limpias de cualquier indicio que las identifique como contenido generado por IA.
Resultados preocupantes: más del 50 % de efectividad
Las pruebas realizadas por el equipo de la Universidad de Waterloo demostraron que la herramienta logró eliminar con éxito las marcas de agua en más del 50 % de los casos, aplicándola sobre múltiples modelos de generación de contenido por IA. Esto representa un serio riesgo para los esfuerzos regulatorios y tecnológicos orientados a frenar el uso indebido de la inteligencia artificial.
La Unión Europea ya ha legislado a través de la Ley de IA, exigiendo a los proveedores de sistemas generadores de contenido sintético que implementen métodos de identificación como marcas de agua. En Canadá, el gobierno introdujo en 2023 un código de conducta voluntario que establece como objetivo inmediato el desarrollo de sistemas fiables y de libre acceso para detectar contenido generado por IA, con énfasis en audio y video.
No obstante, herramientas como UnMarker podrían neutralizar estas medidas incluso antes de que lleguen a consolidarse como normas de uso común.
Una llamada a replantear la estrategia contra la desinformación por IA
Kassis subraya que el avance de UnMarker no solo revela una vulnerabilidad técnica, sino que también lanza un mensaje urgente a gobiernos, empresas y desarrolladores: es necesario reconsiderar las estrategias actuales y diversificar los métodos de control.
“El uso de marcas de agua se ha impuesto como el estándar por defecto, pero no tenemos herramientas realmente eficaces para abordar el problema de fondo. Este es un llamado para dar un paso atrás y repensar cómo enfrentamos la amenaza de los deepfakes”, afirma el investigador.
