Repudiaron a Twitter por un algoritmo racista

Luego de que un estudiante doctorado descubrió que el algoritmo de la aplicación es "racista" y prioriza los rostros blancos sobre los de color en las fotografías, Twitter pidió disculpas y prometió realizar más análisis en las operaciones sistemáticas para corregir el grave error. Cientos de usuarios hicieron la prueba en la plataforma y confirmaron la falla.

Desde hace tiempo, una herramienta interna de la app del pajarito examina la imagen posteada, destaca algunos elementos por sobre todos y centra la miniatura en ellos. Ahora, se reveló que el mecanismo tiene un gravísimo desatino: suele poner las imágenes de las personas o personajes blancos antes que las morenas.

El fallo fue hallado el pasado fin de semana por el estudiante de doctorado Colin Madland, quien compartió en Twitter una imagen de una conferencia en Zoom donde aparecía uno de sus compañeros, de piel negra. La plataforma recortó automáticamente la foto y mostró solo a Madland, que es blanco. Otros internautas comenzaron a experimentar publicando fotos con una gran separación vertical entre dos personajes: uno blanco y otro moreno.

twitter.jpg

El ingeniero de criptografía e infraestructura Tony Arcieri mostró que tras recortar una fotografía del senador estadounidense Mitch McConnell y del ex presidente Barack Obama, el algoritmo oculta sistemáticamente al ex mandatario.

Un portavoz de Twitter aseguró en un comunicado que la compañía realizó "pruebas de sesgo antes de lanzar el algoritmo y no encontró evidencia de sesgo racial o de género en las pruebas". "A partir de esto, tenemos que realizar más análisis. Continuaremos compartiendo lo que aprendemos y las acciones que tomamos", indicó.

Cientos de usuarios hicieron la prueba y comprobaron la grave falla.