Twitter reconoce que su algoritmo de recorte de fotografías era racista

Twitter añadió el año pasado un algoritmo que recorta de manera inteligente las fotografías muy altas o muy anchas para que se vean correctamente en el timeline de los usuarios.

A finales del año pasado, publicaciones en Twitter que incluían fotos de gran tamaño con una persona blanca y otra negra se hicieron virales cuando los usuarios señalaron que el algoritmo tendía a mostrar solo una vista previa de la persona blanca cuando tenía que recortar la foto.

Un portavoz de Twitter dijo en un tuit en septiembre de 2020 que los comentarios muestran que «está claro que tenemos más análisis que hacer.»

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH

— liz kelley (@lizkelley) September 20, 2020

El gigante de las redes sociales ha publicado ahora los resultados de su investigación sobre el posible sesgo del algoritmo, que encontró que tenía una diferencia del 4% a favor de los individuos blancos en las comparaciones de individuos negros y blancos.

Además, había una diferencia del 7% a favor de las mujeres blancas en las comparaciones con las mujeres negras y una diferencia del 2% a favor de los hombres blancos en las comparaciones con los hombres negros

En las comparaciones entre hombres y mujeres, los investigadores descubrieron que había una diferencia del 8% a favor de las mujeres.

El algoritmo funciona estimando lo que una persona podría querer ver primero dentro de una imagen para poder recortarla a un tamaño fácil de ver, según Twitter. El algoritmo se ha entrenado con datos de seguimiento ocular humano y puntúa todas las regiones de una imagen para luego elegir el punto con la mayor puntuación como centro del recorte.

Como resultado de la investigación, la compañía ha dicho que ha decidido que el recorte de fotos en Twitter es una tarea que se realiza mejor por los seres humanos.

«Consideramos las compensaciones entre la velocidad y la consistencia del recorte automatizado con los riesgos potenciales que vimos en esta investigación«, dijo Rumman Chowdhury, director de ingeniería de software de la compañía, en una entrada de blog. «Una de nuestras conclusiones es que no todo en Twitter es un buen candidato para un algoritmo, y en este caso, cómo recortar una imagen es una decisión que se toma mejor por las personas».

Chowdhury dijo que comenzaron a probar una nueva forma de mostrar las fotos en iOS y Android en marzo, sin el recorte del algoritmo, y finalmente han decidido desplegarlo a todo el mundo.

«Esta actualización también incluye una verdadera vista previa de la imagen en el campo de composición del Tweet, para que los autores del Tweet sepan cómo se verán sus Tweets antes de publicarlos», dijo Chowdhury.