El clima en Neuquén

icon
32° Temp
33% Hum
La Mañana Instagram

Instagram bloqueará el contenido con tendencias suicidas en la UE

Facebook e Instagram llevan adelante un trabajo silencioso para sacar de las redes sociales contenidos sobre suicidios, autolesiones y contenido que vaya contra las reglas de las plataformas.

Adam Mosseri, CEO de Instagram, cuenta en un blog de Facebook que entre abril junio de este año, el 90% (casi el 94%) de contenido de autolesiones sobre el que actuaron fue detectado por la tecnología sin que nadie informara. Equivalen a unas 275.000 piezas de contenido. Sin embargo, a la vez que destacan esos hitos, desde la empresa afirman que estos logros se obtuvieron en países de todo el mundo salvo por la Unión Europea donde gracias a un cambio de legislación reciente ahora será posible incorporarla dentro de la búsqueda.

A partir de noviembre Facebook e Instagram podrán encontrar más contenido sobre suicidios y lesiones y hacerlo menos visible. Afirma Mosseri que "ahora podemos buscar publicaciones que probablemente rompan nuestras reglas sobre el suicidio y las autolesiones y hacerlas menos visibles al eliminarlas automáticamente de lugares como Explorar".

Hasta ahora, sólo hemos podido utilizar esta tecnología para encontrar contenidos de suicidio y autolesiones fuera de la Unión Europea, lo que nos ha dificultado encontrar contenidos de forma proactiva y enviar ayuda a la gente. Me complace compartir que, hoy en la UE, estamos desplegando parte de esta tecnología, que funcionará tanto en Facebook como en Instagram.

Ahora podemos buscar publicaciones que probablemente rompan nuestras reglas sobre el suicidio y el daño autoinfligido y hacerlas menos visibles al eliminarlas automáticamente de lugares como Explore. Y cuando nuestra tecnología está realmente segura de que un post rompe nuestras reglas, ahora podemos eliminarlo automáticamente.

Es decir, que lo que funciona tiene que ejecutarse de forma automática, y para que se elimine, la tecnología que usan debe estar muy segura. El problema es que, con la regulación actual, el sistema automático no es capaz de transmitir los contenidos a los revisores humanos, algo fundamental en este proceso para poder aplicar los protocolos necesarios de seguimiento para notificar a las autoridades y tratar de evitar que la situación llegue a un final trágico o de gravedad para el usuario.

Tara Hopkins, jefa de política de Instagram para Europa y Oriente Medio, afirmó "ahora se discutiendo una propuesta de compromiso con la Comisión de Protección de Datos de Irlanda (DPC)". Desde el DPC, han declarado que "Facebook se ha acercado recientemente al DPC proponiendo un uso mucho más limitado de esta herramienta para la eliminación de contenidos que contravengan [las reglas]", y afirman estar revisando la regulación para dar una respuesta.

Te puede interesar...

Lo más leído

Leé más

Noticias relacionadas

Dejá tu comentario