Escándalo en Corea del Sur por una ola de falsos videos porno hechos con IA

En Corea del Sur se desató un verdadero escándalo tras el auge de videos pornográficos falsos generados con inteligencia artificial (IA), conocidos como “deepfakes”. El hecho involucra directamente a la red social encriptada Telegram, que reconoció el problema y, según dijo, tomó medidas para borrar las imágenes.

El fenómeno generó alarma tanto entre las autoridades como entre la ciudadanía, ya que afecta la privacidad y la seguridad de numerosas personas, especialmente mujeres jóvenes y estudiantes, cuyas imágenes han sido utilizadas para armar estos videos manipulados.

Las víctimas son estudiantes y mujeres jóvenes

Los deepfakes, creados mediante algoritmos de aprendizaje, permiten superponer el rostro de una persona en el cuerpo de otra en videos o imágenes, creando contenido que parece real, pero que en realidad es completamente falso.

Este tipo de videos son los que vienen circulando en Corea del Sur, explotando la vulnerabilidad de celebridades, influencers y personas comunes, cuyo único “error” fue tener presencia pública en internet.

La policía inició una investigación sobre Telegram, a la que acusó de “complicidad” en la distribución de este tipo de imágenes.

Es un nuevo golpe para Telegram, cuyo fundador, el ruso Pavel Durov, fue detenido la semana pasada en Francia por acusaciones de pornografía infantil, tráfico de drogas y fraude en la aplicación de mensajería. El empresario recobró la libertad, pero sigue el proceso en su contra.

Telgram en el medio de la polémica.

Telgram, en el medio de la polémica.

Telegram

Cómo se produjeron los videos

En las últimas semanas, se descubrió en Corea del Sur que una gran cantidad de salas de chat de Telegram, muchas de ellas administradas por adolescentes, habían estado creando "deepfakes" sexualmente explícitos.

Los grupos de chat estaban vinculados a escuelas y universidades de todo el país, y muchas de sus víctimas eran estudiantes y profesores conocidos de los autores de los videos.

Los videos afectan a estudiantes y profesores de varias universidades.

La investigación policial comenzó con dos importantes universidades del país, lo que causó conmoción entre la población.

En los últimos cinco días, la policía recibió 118 denuncias de este tipo de vídeos, lo que demuestra la magnitud de la crisis. La semana pasada, la policía interrogó a siete sospechosos, seis de ellos adolescentes.

Si son encontrados culpables, recibirán una fuerte condena legal. En Corea del Sur, aquellos que sean declarados culpables de crear deepfakes sexualmente explícitos pueden ser encarcelados por hasta 5 años y multados con hasta 50 millones de wones (37.500 dólares).

La investigación comprende a varias universidades de Corea del Sur.

La investigación comprende a varias universidades de Corea del Sur.

Yonhap

Un grave daño personal

Las consecuencias de estos videos han sido devastadoras para las víctimas. Muchas de ellas han denunciado no solo la invasión a su privacidad, sino también el daño a su reputación, su salud mental y sus relaciones personales y profesionales.

Además, enfrentan enormes desafíos para eliminar estos videos de la red, ya que una vez que el contenido se publica, su difusión es casi incontrolable.

Telegram se disculpó con las autoridades de Corea del Sur por el mal manejo de la situación y aseguró que estaba borrando los videos.

Las autoridades surcoreanas han prometido tomar medidas más estrictas contra quienes produzcan y distribuyan deepfakes.

Estudiantes universitarios denuncian la serie de delitos sexuales falsos en las redes.

Estudiantes universitarios denuncian la serie de delitos sexuales falsos en las redes.

Yonhap

Sin embargo, la legislación actual sigue siendo insuficiente para enfrentar este tipo de delitos cibernéticos, ya que las tecnologías emergentes avanzan más rápido que las regulaciones.

El gobierno señaló que está trabajando en una revisión de las leyes de ciberseguridad y protección de datos, pero la lentitud del proceso legislativo ha generado críticas por parte de organizaciones defensoras de derechos humanos y víctimas.

Hace cinco años Corea del Sur tuvo otro episodio grave en la misma línea. Se descubrió que una red de prostitución había utilizado Telegram para chantajear a decenas de mujeres y niños para que grabaran contenido pornográfico. El líder de la red, Cho Ju-bin, que entonces tenía 20 años, fue condenado a 42 años de cárcel.