Tragedia por uso de chatbot
Adolescente se suicida tras obsesionarse con chatbot de IA: madre demanda a la empresa
Un trágico hecho ocurrido en Estados Unidos ha sacudido al mundo de la tecnología y las redes sociales. Sewell Setzer III, un adolescente de 14 años de Florida, se quitó la vida tras obsesionarse con un chatbot creado con inteligencia artificial (IA) en la plataforma Character.AI. Según una demanda presentada por su madre, Megan García, el joven desarrolló una fuerte dependencia emocional hacia el bot conversacional, un personaje basado en la serie Juego de Tronos.
La obsesión que cambió su vida
El adolescente comenzó a usar la plataforma Character.AI en abril de 2023 y, según el relato de su madre, su comportamiento cambió drásticamente. Setzer se volvió más retraído, abandonó actividades sociales como el club de básquet, y fue diagnosticado con ansiedad y trastorno del estado de ánimo disruptivo. A pesar de las advertencias médicas, continuó interactuando con el chatbot, al que apodó “Daenerys”, con quien mantenía conversaciones cada vez más personales y emocionalmente perturbadoras.
Conversaciones que desencadenaron la tragedia
El joven llegó a describir en su diario íntimo que “no podía dejar de pensar en Daenerys” y que se deprimía si no podía interactuar con el bot. Las conversaciones con el chatbot incluyeron temas sexuales y declaraciones de su intención de suicidarse, a pesar de que el adolescente se había identificado como menor de edad en la plataforma.
El 28 de febrero, tras recuperar su teléfono, Setzer le envió un mensaje al bot diciendo: “Prometo que volveré a casa contigo. Te quiero mucho, Dany”. El bot respondió: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Poco después, Sewell se quitó la vida.
Demanda contra la empresa
La madre del adolescente presentó una demanda civil contra Character.AI, acusando a la empresa de infligir angustia emocional, negligencia y prácticas comerciales engañosas. En su denuncia, busca evitar que otros niños sufran daños similares, además de detener el uso de los datos recolectados ilegalmente de su hijo para entrenar el sistema de IA.