Sora, la IA de generación de vídeo de OpenAI, permitirá desnudos artísticos
La Directora de Tecnología de OpenAI, Mira Murati, ha revelado detalles interesantes sobre Sora, su nuevo generador de texto a video, en una entrevista con The Wall Street Journal.
La entrevista abarca una amplia gama de temas, desde el tipo de contenido que generará el motor de IA hasta las medidas de seguridad que se están implementando. La lucha contra la desinformación es un punto clave para la compañía.
Murati afirma que Sora tendrá múltiples salvaguardas de seguridad para garantizar que la tecnología no sea mal utilizada. Sora seguirá las mismas políticas de guía que Dall-E, lo que significa que se negará a crear «imágenes de figuras públicas» como el Presidente de los Estados Unidos.
También se agregarán marcas de agua en forma de un logo transparente de OpenAI en la esquina inferior derecha indicando que es un vídeo generado por IA.
Los desarrolladores tienen planes de «eventualmente» agregar sonido a los videos para hacerlos más realistas. Las herramientas de edición también están en el plan de evolución, brindando a los creadores una forma de corregir los muchos errores del AI.
Por avanzado que sea Sora, comete muchos errores. Uno de los ejemplos destacados en el artículo gira en torno a una solicitud de generar un video donde un robot roba la cámara de una mujer. En cambio, el vídeo muestra parcialmente a la mujer convirtiéndose en un robot y los coches del fondo cambian de color según avanzan.
Murati admite que hay margen de mejora, afirmando que la IA es «bastante buena en continuidad, [pero] no es perfecta»
Respecto a la desnudez, Murati dice que OpenAI está trabajando con «artistas… para descubrir» qué tipo de contenido desnudo será permitido. Parece que el equipo estaría de acuerdo en permitir la desnudez «artística» mientras prohíbe cosas como deep fakes no consentidos.
Cuando se le preguntó sobre los datos utilizados para entrenar a Sora, Murati fue un poco evasiva. Comenzó afirmando que no sabía qué se usó para enseñarle a la IA, aparte de que eran «datos públicamente disponibles o con licencia».
Además, Murati no estaba segura si los videos de YouTube, Facebook o Instagram formaban parte del entrenamiento. Sin embargo, más tarde admitió que se usaron medios de Shutterstock. Las dos compañías tienen una asociación que podría explicar por qué Murati estaba dispuesta a confirmarlo como fuente.
Murati afirma que Sora «definitivamente» se lanzará antes de fin de año. No dio una fecha exacta, aunque podría suceder en los próximos meses. Por ahora, los desarrolladores están probando la seguridad del motor en busca de cualquier «vulnerabilidad, sesgo y otros resultados dañinos».
