Google está probando un nuevo servicio de traducción que traduce los vídeos en un nuevo idioma y sincroniza los labios del orador con las palabras que nunca pronunció.
Este servicio podría ser muy útil por muchas razones, pero Google ha sido sincero sobre la posibilidad de abusos y las medidas adoptadas para evitarlos.
Google presentó el «Traductor Universal» en el evento Google I/O como un ejemplo de algo que ha sido posible gracias a los avances en IA, pero que al mismo tiempo presenta graves riesgos con los que hay que contar desde el principio.
El servicio «experimental» toma un vídeo de entrada, en el ejemplo mostrado era una clase de un curso grabada originalmente en inglés, transcribe el discurso, lo traduce, lo regenera (adaptando el estilo y el tono) en ese idioma y, a continuación, edita el vídeo para que los labios del orador se ajusten mejor al nuevo audio.
Así que básicamente es un generador de deepfakes. Por tanto, Google tiene que contar con la posibilidad de que se utilice para crear desinformación u otros peligros imprevistos.
Encontrar el equilibrio puede ser difícil, pero los beneficios — por ejemplo, hacer que un curso esté disponible en 20 idiomas sin subtítulos ni regrabaciones — son innegables.