Instagram admite un error de moderación por comentarios racistas

El CEO de Instagram, Adam Mosseri, dijo que el contenido había sido identificado "por error" como dentro de las directrices en lugar de ser remitido a los moderadores humanos. El problema ya se ha solucionado, dijo.

"Tenemos tecnología para tratar de priorizar los reportes y estábamos marcando erróneamente algunos de estos como comentarios benignos, lo cual no es en absoluto", agregó.

El lunes pasado, BBC News informó de un comentario que contenía varios emojis de orangutanes en el Instagram de Saka.

A los pocos minutos, se recibió una notificación diciendo que la tecnología de la plataforma "encontró que este comentario probablemente no va en contra de nuestras directrices". Este jueves, el propio Saka respondió al abuso.

"A las plataformas de medios sociales... No quiero que ningún niño o adulto tenga que recibir los mensajes odiosos e hirientes que yo, Marcus y Jadon hemos recibido esta semana", escribió.

"Supe al instante el tipo de odio que iba a recibir y es una triste realidad que las poderosas plataformas no están haciendo lo suficiente para detener estos mensajes".

El miércoles por la noche se denunciaron varios comentarios y emojis racistas más, pero no se recibió ninguna notificación de los resultados de ninguna revisión.

En la cuenta de Saka aparecen muchos más comentarios racistas que aún no han sido denunciados ni eliminados.

"No está en absoluto bien enviar emojis racistas, o cualquier tipo de discurso de odio, en Instagram", añadió Mosseri en una serie de tuits. "Insinuar lo contrario es ser deliberadamente engañoso y sensacionalista. "Los emojis son difíciles, al igual que las palabras cuyo significado cambia en función del contexto. "Los insultos también evolucionan, así que el trabajo nunca está hecho".

Emojis de monos

El racismo en Instagram es un problema que viene hace años con una gran cantidad de contenidos que hay que moderar.

En abril, el Liverpool Football Club criticó a la plataforma después de que algunos de sus jugadores recibieran emojis de monos racistas.

Instagram ha consultado previamente con grupos antidiscriminación y antiacoso para elaborar una lista de términos, frases y emojis ofensivos.

Los usuarios también pueden filtrar palabras o emojis específicos en sus cuentas, cambiando la herramienta Palabras Ocultas en la configuración.

Sin embargo, Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio (CCDH), dijo que era "increíble" que los abusos racistas siguieran eludiendo los filtros de Instagram.

"De las 105 cuentas que identificamos que habían abusado racialmente de los futbolistas ingleses, 88 siguen funcionando", dijo, añadiendo que estaba "muy lejos" de la solución prometida por la red social.

"Desde su incapacidad para identificar los emojis de monos como racistas, hasta su negativa rotunda a emitir prohibiciones de por vida a los racistas, Instagram -y su empresa matriz Facebook- no han actuado", dijo.

"Ya hemos oído suficiente palabrería. Es hora de que el Gobierno del Reino Unido siga el ejemplo de Alemania y apruebe leyes e imponga serias sanciones económicas a las empresas que den un megáfono al racismo y al extremismo."