El clima en Neuquén

icon
17° Temp
36% Hum
La Mañana Twitter

El algoritmo de Twitter prefiere los rostros más delgados, jóvenes y de piel clara

Bogdan Kulynyc ganó 3.500 dólares en un concurso organizado por Twitter para descubrir los sesgos de su algoritmo de recorte.

A principios de este año, la propia investigación de Twitter descubrió que el algoritmo tenía un sesgo hacia el recorte de rostros negros. Como resultado, la empresa revisó la forma de tratar las imágenes, diciendo que el recorte lo hacían mejor las personas.

El "algoritmo de saliencia" decidía cómo se recortaban las imágenes en las vistas previas de Twitter, antes de hacer clic en ellas para abrirlas a tamaño completo.

Te puede interesar...

Los usuarios descubrieron que, cuando había dos rostros en la misma imagen, el recorte de la vista previa favorecía a los rostros blancos, ocultando los rostros negros hasta que los usuarios hacían clic.

El patrón se mantuvo en las imágenes del ex presidente de EE.UU., Barack Obama, y del senador Mitch McConnnell, así como en las imágenes de stock de hombres de negocios pertenecientes a diferentes etnias.

El propio análisis posterior de Twitter mostró una "diferencia del 4% respecto a la paridad demográfica, a favor de los individuos blancos".

Y el director de ingeniería de software, Rumman Chowdhury, dijo que Twitter había llegado a la conclusión de que "la forma de recortar una imagen es una decisión que deben tomar las personas".

https://twitter.com/TwitterEng/status/1424819778397511680

Estereotipos femeninos

El "concurso de recompensas por sesgo algorítmico" se lanzó en julio -en referencia a la práctica generalizada de las empresas de ofrecer "recompensas por errores" a los investigadores que encuentran fallos en el código- con el objetivo de descubrir otros sesgos perjudiciales.

Kulynyc, estudiante de posgrado del Laboratorio de Ingeniería de Seguridad y Privacidad de la Escuela Politécnica Federal de Lausana, descubrió que la "prominencia" de un rostro en una imagen podía aumentarse -haciendo que fuera menos probable que el algoritmo de recorte lo ocultara- "haciendo que la piel de la persona fuera más clara o más cálida y más suave, y a menudo cambiando la apariencia por la de una persona más joven, más delgada y más estereotipadamente femenina".

Al concederle el primer premio, Twitter dijo que su descubrimiento demostraba que los filtros de belleza podían utilizarse para jugar con el algoritmo y "cómo los modelos algorítmicos amplifican los prejuicios del mundo real y las expectativas sociales de belleza".

El segundo premio fue para Halt AI, una empresa fundada por mujeres de la Universidad de Toronto que, según Twitter, demostró que el algoritmo podía perpetuar la marginación en la forma de recortar las imágenes.

Por ejemplo, "las imágenes de ancianos y discapacitados quedaban aún más marginadas", dijo la empresa.

La fundadora de Taraaz Research, Roya Pakzad, ganó el tercer premio por una propuesta que demostraba que el algoritmo era más propenso a recortar el texto en árabe que en inglés en los memes.

Lo más leído

Leé más

Noticias relacionadas

Dejá tu comentario