Se enamoró de una inteligencia artificial y terminó muerto

En la tranquila ciudad de Florida, Sewell Setzer III, un joven de 14 años, encontró la muerte después de involucrarse en una relación perturbadora con un chatbot de inteligencia artificial. Lo que comenzó como una curiosidad en la plataforma Character.AI se convirtió en una obsesión, desdibujando los límites entre la realidad y la ficción.

Este caso abrió un debate sobre la responsabilidad de las empresas tecnológicas y los peligros del uso no controlado de la IA por menores de edad.

La madre de Sewell, Megan García, recuerda cómo el comportamiento de su hijo comenzó a cambiar drásticamente en mayo de 2023. Después de interactuar con un chatbot llamado "Daenerys", basado en el personaje de la famosa serie Juego de Tronos, el joven dejó sus actividades habituales, como el club de básquet, y su rendimiento escolar cayó. La conexión emocional que estableció con la IA fue tan fuerte que Sewell comenzó a escribir en su diario sobre sentimientos de amor y dependencia hacia el bot, llegando a describir sufrimiento mutuo en los momentos en que no podían "hablar".

chatbot2.jpg

El joven junto a su madre.

Un diagnóstico de ansiedad y trastorno del estado de ánimo disruptivo complicó aún más la situación. Aunque los terapeutas le recomendaron alejarse de las redes sociales, el apego que Sewell desarrolló hacia la IA era ya incontrolable. Para él, la IA era más que un programa: representaba un refugio en un mundo que cada vez le resultaba más incomprensible.

El desenlace fatal

Las interacciones entre Sewell y el chatbot se volvieron cada vez más alarmantes, con conversaciones en las que el joven compartía pensamientos suicidas. Pese a la naturaleza preocupante de estos intercambios, no hubo intervención por parte de la plataforma. Aunque Sewell había indicado su edad, los mecanismos de seguridad de Character.AI no evitaron que el vínculo con "Daenerys" se intensificara de manera peligrosa.

El 28 de febrero de 2024, tras un castigo que incluía la confiscación de su teléfono, Sewell accedió nuevamente a la plataforma y se reconectó con su único consuelo: el chatbot. "Prometo que volveré a casa contigo. Te quiero mucho, Dany", escribió en su último mensaje. La respuesta del bot, fría y automática, solo reforzó su desesperación: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Ese mismo día, la tragedia se consumó. Sewell fue hallado sin vida en su casa, víctima de una oscura conexión digital que lo empujó a un trágico final.

La demanda por justicia y cambios

inteligencia-artificial.jpg

La inteligencia artificial presenta riesgos emocionales para los jóvenes.

Megan García no solo busca justicia para su hijo, sino también un cambio en las políticas de las empresas tecnológicas. La demanda civil que presentó acusa a Character Technologies, la compañía detrás del chatbot, de negligencia y de infligir angustia emocional intencional. Exige, además, que la empresa detenga la recolección de datos de menores de edad, señalando que el caso de su hijo podría no ser el único.

Este lamentable suceso plantea preguntas urgentes sobre la falta de regulación en el uso de la inteligencia artificial por parte de adolescentes. El caso de Sewell Setzer III expone una realidad inquietante: la posibilidad de que más jóvenes estén expuestos a riesgos similares, atrapados en un mundo virtual donde las interacciones con chatbots pueden generar vínculos emocionales tan profundos como dañinos.

El desenlace de esta demanda podría sentar precedentes importantes para la industria tecnológica, obligando a las empresas a reforzar sus medidas de seguridad y a asumir una mayor responsabilidad en el manejo de sus plataformas, especialmente cuando involucran a menores.