Facebook ha anunciado que eliminará de su plataforma los vídeos modificados por IA para alterar las caras de las personas, conocidos como deepfakes.
La compañía ha dicho que estos videos distorsionan la realidad y presentan un «desafío significativo» para la industria de la tecnología. Si bien los deepfakes son todavía relativamente poco comunes en Internet, cada vez son más frecuentes.
Los deepfakes crean falsificaciones de personas — a menudo políticos o gente famosa — al fusionar, reemplazar o superponer contenido en un vídeo de manera que lo hace parecer real.
Facebook dijo que eliminará los vídeos si detecta que han sido editados de maneras que no son obvias para una persona o si pretenden engañar al espectador haciéndole creer que una persona en un vídeo ha dicho palabras que en realidad no ha pronunciado. No se verán afectados los vídeos de parodia o sátira.
El personal de Facebook y verificadores de hechos independientes serán utilizados para juzgar la autenticidad de un video. El pasado mes de septiembre, Facebook anunció que contribuirá con 10 millones de dólares a un fondo para mejorar las tecnologías de detección de deepfakes. Otras compañías como Google y Microsoft también están tratando de combatir los deepfakes.