Los metalíderes sabían que los compañeros de IA de la empresa, conocidos como personajes de IA, podían participar en interacciones sexuales e inapropiadas y aún así los lanzó sin controles más estrictos, según nuevos documentos internos revelados el lunes (28 de enero) como parte de una demanda contra la empresa por parte del fiscal common de Nuevo México.
Las comunicaciones, enviadas entre los equipos de seguridad de Meta y el liderazgo de la plataforma que no incluía al CEO Mark Zuckerberg, incluyen objeciones a la creación de chatbots complementarios que podrían ser utilizados por adultos y menores para interacciones románticas explícitas. Ravi Sinha, jefe de la política de seguridad infantil de Meta, y la jefa de seguridad world de Meta, Antigone Davis, enviaron mensajes acordando que los compañeros de chatbot deberían tener salvaguardias contra interacciones sexualmente explícitas por parte de usuarios menores de 18 años. Otras comunicaciones alegan que Zuckerberg rechazó las recomendaciones para agregar controles parentales, incluida la opción de desactivar las funciones genAI, antes del lanzamiento de los compañeros de IA poco después.
TikTok llega a un acuerdo mientras Meta y Google se enfrentan a un jurado en una demanda por adicción a las redes sociales
Meta se enfrenta a múltiples demandas relacionadas con sus productos y su impacto en los usuarios menores, incluido un posible juicio con jurado histórico sobre el diseño supuestamente adictivo de sitios como Fb e Instagram. Los competidores de Meta, incluidos YouTube, TikTok y Snapchat, también están bajo un escrutinio authorized más estricto.
Las comunicaciones recientemente publicadas fueron parte del descubrimiento judicial en un caso contra Meta iniciado por el Fiscal Common de Nuevo México, Raúl Torrez. Tórrez primero presentado una demanda civil contra Meta en 2023, alegando que la empresa permitió que sus plataformas se convirtieran en “mercados para depredadores”. Las comunicaciones internas entre los ejecutivos de Meta fueron reveladas y publicadas mientras el caso llega a juicio el próximo mes.
Velocidad de la luz triturable
En noviembre, el escrito de un demandante de una importante demanda multidistrital presentada en el Distrito Norte de California alegaba una política indulgente hacia los usuarios que violaban las reglas de seguridad, incluidos los denunciados por “trata de seres humanos con fines sexuales.” Los documentos también mostraron que los ejecutivos de Meta supuestamente sabían de “millones” de adultos que contactaban a menores a través de sus sitios. “El registro completo mostrará que durante más de una década, hemos escuchado a los padres, investigado los temas más importantes y realizado cambios reales para proteger a los adolescentes”, dijo un portavoz de Meta a TIME.
Después de resolver una demanda, Snapchat agrega nuevos controles parentales para adolescentes
“Este es otro ejemplo más de cómo el Fiscal Common de Nuevo México selecciona cuidadosamente documentos para pintar una imagen errónea e inexacta”, dijo el portavoz de Meta, Andy Stone, en respuesta a los nuevos documentos.
Meta suspendió el uso de sus chatbots por parte de adolescentes en agosto, luego de un informe de Reuters que encontró que las reglas internas de IA de Meta permitían a los chatbots entablar conversaciones de naturaleza “sensual” o “romántica”. Posteriormente, la compañía revisó sus pautas de seguridad, prohibiendo el contenido que “permite, fomenta o respalda” el abuso sexual infantil, los juegos de roles románticos cuando involucran a menores y otros temas delicados. La semana pasada, Meta volvió a bloquear los chatbots de IA para usuarios jóvenes mientras exploraba una nueva versión con controles parentales mejorados.
Torrez ha liderado a otros fiscales generales estatales en la búsqueda de llevar a los tribunales las principales plataformas de redes sociales por preocupaciones sobre la seguridad infantil. En 2024, Torrez demandó a Snapchat, alegando que la plataforma permitía que proliferara la sextorsión y el acoso de menores sin dejar de promocionarse como segura para los usuarios jóvenes.
