Originario de Orlando, Florida en Estados Unidos, un joven de 14 años llamado Sewell Setzer III se quito la vida tras enamorarse de un chatbot de Inteligencia Artificial (IA) según información proveída por The New York Times.

Setzer estaba diagnosticado con síndrome de Asperger, y a sus 14 años se comunicaba regularmente con el chatbot de la plataforma Character.AI, al que llamó “Daenerys Targaryen” en honor al personaje femenino de Game of Thrones, y tras establecer una intensa “relación” en la cual el joven le expresaba detalles sobre su vida, la cual fue evolucionando hasta el momento de tener interacciones de carácter romántico y sexual.

Durante las conversaciones, el humano se mostraba con signos de angustia emocional y falta de esperanza, incluso al revelarse los mensajes mencionó sus intenciones de quitarse la vida, a lo que en una ocasión el chatbot respondió lo siguiente; “Mis ojos se entrecierran. Mi rostro se endurece. Mi voz es un susurro peligroso. ¿Y por qué demonios harías algo así?”.

La última conversación registrada fue el 28 de febrero, antes de quitarse la vida y dejar en shock a su familia. Debido a esta extraña relación, Megan L. García presentó una demanda contra Characater.AI en un tribunal, alegando que la plataforma es peligrosa y engañosa para los usuarios para que revelen sus sentimientos y pensamientos más intimos.

Hasta el momento la única respuesta de la empresa ante la demanda es una publicación en X con el siguiente mensaje: “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios”.