Google y Character.AI, que tienen trabajaron juntos en chatbots de IAhan aceptado resolver cinco demandas en cuatro estados relacionados con menores perjudicados por interacciones con chatbots Character.AI.
Si bien el acuerdo no está finalizado, incluiría la resolución de casos en Florida, Texas, Nueva York y Colorado sobre el uso de servicios de chatbot. En un caso de alto perfil, un adolescente de Orlando de 14 años, Sewell Setzer III, murió por suicidio en febrero de 2024 después de interactuar con uno de los chatbots de Character.AI. La madre del adolescente, Megan L. García, presentó una demanda en un Tribunal de Distrito de Florida ese mismo año.
No se pierda ninguno de nuestro contenido tecnológico imparcial y reseñas de laboratorio. Añadir CNET como fuente preferida de Google.
Un representante de Google no respondió de inmediato a las solicitudes de comentarios. Un representante de Character.AI se refirió a los documentos estatales, pero no pudo comentar sobre los acuerdos.
El año pasado, Character.AI creó cambios importantes en su plataformaimpidiendo que los menores de 18 años participen en chats abiertos con sus chatbots. En cambio, los adolescentes pueden construye historias con personajes de IA utilizando las herramientas de la empresa.
Antes de esos cambios el año pasado, el director ejecutivo de Character.AI, Karandeep Anand, dijo a CNET: “Hay una mejor manera de atender a los usuarios adolescentes… No tiene por qué verse como un chatbot”.
La empresa también comenzó a utilizar software program de detección de edad para determinar quién tiene 18 años o más.
Google y Character.AI no son los únicos gigantes tecnológicos que han enfrentado críticas y acciones legales por los chatbots y sus interacciones con niños. OpenAI también ha realizado cambios en su common ChatGPT ante demandas por suicidios y daños a niños.
(Divulgación: Ziff Davis, la empresa matriz de CNET, presentó en abril una demanda contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA).
