Character.AI y Google han resuelto varias demandas presentadas contra ambas empresas por padres de niños que se suicidaron tras largas conversaciones con chatbots en la plataforma Character.AI. Sus intercambios supuestamente incluyeron discusiones sobre la salud psychological y el bienestar de los adolescentes.
Character.AI dijo que no podía hacer más comentarios sobre el acuerdo, cuyos detalles aún deben ser ultimados por el tribunal, según el guardián. Los representantes de los demandantes no respondieron de inmediato a una solicitud de comentarios de Mashable.
El caso más destacado involucró la muerte en 2024 de Sewell Setzer III, de 14 años, quien se obsesionó en secreto con un chatbot Character.AI basado en el in style Recreation of Thrones personaje Daenerys Targaryen.
‘Depredador perfecto’: cuando los chatbots abusan sexualmente de los niños
La madre de Setzer, Megan García, solo se dio cuenta de su cuenta Character.AI cuando un oficial de policía la alertó después de su muerte, porque la aplicación estaba abierta en su teléfono. García leyó mensajes en los que Setzer se comportaba como si estuviera enamorado del chatbot, que supuestamente simulaba numerosos encuentros sexuales con él. El chatbot utilizó lenguaje gráfico y escenarios, incluido el incesto, según García.
Si un humano adulto hubiera hablado de manera comparable con su hijo, le dijo a Mashable el año pasado, constituiría acoso y abuso sexual.
En octubre de 2024, el Social Media Victims Regulation Heart y Tech Justice Regulation Challenge presentaron una demanda por muerte por negligencia en nombre de García contra Character.AI, buscando responsabilizar a la empresa por la muerte de su hijo, alegando que su producto period peligrosamente defectuoso.
Informe de tendencias combinables
La presentación también nombra como acusados a los ingenieros de Google Noam Shazeer y Daniel De Freitas, cofundadores de Character.AI.
Además, la demanda alegaba que Google conocía los riesgos relacionados con la tecnología que Shazeer y De Freitas habían desarrollado antes de fundar Character.AI. Google contribuyó con “recursos financieros, private y tecnología de inteligencia synthetic” al diseño y desarrollo de Character.AI, según la demanda, y por lo tanto podría ser considerado un cocreador de la plataforma.
Google finalmente llegó a un acuerdo de licencia de 2.700 millones de dólares en 2024 con Character.AI para utilizar su tecnología. Parte de ese acuerdo hizo que Shazeer y De Freitas volvieran a desempeñar funciones de inteligencia synthetic en Google.
En el otoño de 2025, el Centro Authorized para Víctimas de Redes Sociales presentó tres demandas adicionales contra Carácter.AI y Google, que representa a los padres de niños que murieron por suicidio o supuestamente sufrieron abuso sexual mientras usaban la aplicación.
Además, los expertos en seguridad juvenil declararon Carácter.AI inseguro para los adolescentesluego de pruebas que arrojaron cientos de casos de preparación y explotación sexual de cuentas de prueba registradas como menores.
Para octubre de 2025, Character.AI anunció que ya no permitiría menores participar en intercambios abiertos con los chatbots en su plataforma. El director ejecutivo de la compañía, Karandeep Anand, dijo a Mashable que la medida no fue en respuesta a preocupaciones de seguridad específicas relacionadas con la plataforma Character.AI, sino para abordar preguntas pendientes más amplias sobre la participación de los jóvenes con los chatbots de IA.
Si tiene tendencias suicidas o está experimentando una disaster de salud psychological, hable con alguien. Puede llamar o enviar un mensaje de texto a 988 Suicide & Disaster Lifeline al 988, o chatear en 988lifeline.org. Puede comunicarse con Trans Lifeline llamando al 877-565-8860 o a Trevor Challenge al 866-488-7386. Envíe “START” a la línea de texto de disaster al 741-741. Comuníquese con la línea de ayuda de NAMI al 1-800-950-NAMI, de lunes a viernes de 10:00 a. m. a ten:00 p. m., hora del Este, o envíe un correo electrónico [email protected]. Si no te gusta el teléfono, considera usar el 988 Chat de línea de vida de crisis y suicidio. Aquí hay un lista de recursos internacionales.
