A medida que continúa aumentando la preocupación por el impacto de la IA en los jóvenes, OpenAI ha introducido una función de “predicción de edad” en ChatGPT que está diseñada para ayudar a identificar a los menores y poner restricciones de contenido sensatas en sus conversaciones.
OpenAI ha sido fuertemente criticado en los últimos años por los impactos que ChatGPT puede tener en los niños. un número de suicidios de adolescentes se han vinculado al chatbot y, al igual que otros proveedores de inteligencia synthetic, OpenAI también ha sido criticado por permitir que ChatGPT discuta temas sexuales con usuarios jóvenes. En abril pasado, la compañía se vio obligada a solucionar un error que permitía a su chatbot generar contenido erótico para usuarios menores de 18 años.
La compañía ya ha estado trabajando en el problema de los usuarios menores de edad durante algún tiempo, y su nueva función de “predicción de edad” simplemente se suma a las protecciones que ya existen. La nueva función aprovecha un algoritmo de inteligencia synthetic que evalúa las cuentas de los usuarios en busca de “señales de comportamiento y a nivel de cuenta” particulares, en un esfuerzo por identificar a los usuarios jóvenes, dijo OpenAI. en una publicación de blog Martes.
Esas “señales” incluyen cosas como la edad indicada del usuario, el tiempo que ha existido una cuenta y las horas del día en que la cuenta suele estar activa, dijo la compañía. La compañía ya cuenta con filtros de contenido diseñados para eliminar discusiones sobre sexo, violencia y otros temas potencialmente problemáticos para usuarios menores de 18 años. Si el mecanismo de predicción de edad identifica una cuenta como menor de 18 años, esos filtros se aplican automáticamente.
Si un usuario es designado por error como menor de edad, existe una manera de restablecer su cuenta “adulta”. Pueden enviar una selfie al socio de verificación de identidad de OpenAI, Persona, cube OpenAI.
