Se trata de un mecanismo de detección temprana que incluye evaluación humana antes de informar posibles situaciones de riesgo.
Meta anunció una nueva herramienta de seguridad que avisará a padres y madres cuando un adolescente mantenga conversaciones sobre suicidio o autolesiones con Meta AI.
La función estará disponible para quienes utilicen las herramientas de supervisión de Instagram e incorpora un sistema de detección temprana con revisión humana antes de enviar la alerta.
Esta nueva advertencia busca facilitar la intervención de un adulto cuando una conversación presenta señales de riesgo. Además de enviar el aviso, la plataforma ofrecerá materiales elaborados por especialistas para ayudar a las familias a abordar el tema con los jóvenes.
En la actualidad, Meta AI ya muestra líneas de ayuda y recomienda que el adolescente se comunique con un padre, un consejero u otro adulto de confianza cuando identifica referencias vinculadas con el suicidio o las autolesiones, pero el nuevo sistema suma una notificación directa a los responsables de la cuenta supervisada.
Meta informó que desarrolló un sistema específico de inteligencia artificial para identificar referencias directas o sutiles relacionadas con la posibilidad de hacerse daño. Las señales fuerondefinidas junto con profesionales especializados en salud mental adolescente.
Antes de enviar una alerta, las conversaciones clasificadas como sensibles serán revisadas manualmente. El objetivo de esa instancia es analizar el contexto y reducir los errores de interpretación del sistema automatizado.
La empresa aclaró que los padres podrían recibir una advertencia cuando la intención del adolescente resulte ambigua. Ese criterio puede generar notificaciones frente a conversaciones que finalmente no representen un riesgo real. La detección será ajustada a partir de la experiencia de uso y las observaciones de especialistas y familias.
El mecanismo amplía una protección que Instagram ya aplica cuando un adolescente busca repetidamente términos vinculados con el suicidio o las autolesiones durante un período breve.
La empresa creada por Mark Zuckerberg comunicó que también tiene en desarrollo una función destinada a contactar a los servicios de emergencia cuando una conversación con Meta AI indique que una persona corre un riesgo inminente de quitarse la vida.
El proyecto se apoya en los sistemas que Facebook e Instagram utilizan para detectar publicaciones que podrían indicar un peligro creíble. Durante 2025, esas plataformas enviaron más de 19.000 avisos a organismos de emergencia de distintos países, según los datos difundidos por la compañía.
Más de 75 profesionales clínicos especializados en salud mental adolescente revisaron cientos de respuestas generadas por Meta AI ante preguntas relacionadas con suicidio y autolesiones.
Los especialistas analizaron si las contestaciones eran adecuadas para la edad de los usuarios, si reconocían correctamente las emociones expresadas y si ofrecían una orientación acorde con el nivel de riesgo.
Las observaciones serán utilizadas para mejorar la forma en que el asistente acompaña estas conversaciones. Entre los cambios previstos se encuentra el reconocimiento explícito de los sentimientos del adolescente antes de recomendar recursos de apoyo o el contacto con un adulto.