Google elimina las descripciones generales de IA para determinadas consultas médicas

Siguiente una investigación de The Guardian que encontró que Google AI Overviews ofrecía información engañosa en respuesta a ciertas consultas relacionadas con la salud, la compañía parece haber eliminado AI Overviews para algunas de esas consultas.

Por ejemplo, The Guardian informó inicialmente que cuando los usuarios preguntaban “cuál es el rango regular para los análisis de sangre del hígado”, se les presentaban cifras que no tenían en cuenta factores como la nacionalidad, el sexo, la etnia o la edad, lo que potencialmente los llevaba a pensar que sus resultados eran saludables cuando no lo eran.

Ahora, cube The Guardian Se han eliminado las descripciones generales de IA. de los resultados de “cuál es el rango regular para las pruebas de sangre del hígado” y “cuál es el rango regular para las pruebas de función hepática”. Sin embargo, descubrió que las variaciones en esas consultas, como “rango de referencia lft” o “rango de referencia de prueba lft”, aún podrían conducir a resúmenes generados por IA.

Cuando intenté esas consultas esta mañana, varias horas después de que The Guardian publicara su historia, ninguna de ellas resultó en ver resúmenes de IA, aunque Google aún me dio la opción de hacer la misma consulta en modo AI. En varios casos, el resultado principal fue en realidad el artículo del Guardian sobre la eliminación.

Un portavoz de Google dijo a The Guardian que la empresa no “comenta sobre eliminaciones individuales dentro de la Búsqueda”, pero que trabaja para “realizar mejoras generales”. El portavoz también dijo que un equipo interno de médicos revisó las consultas destacadas por The Guardian y encontró que “en muchos casos, la información no period inexacta y también estaba respaldada por sitios internet de alta calidad”.

TechCrunch se ha puesto en contacto con Google para solicitar comentarios adicionales. El año pasado, la compañía anunció nuevas funciones destinadas a mejorar la Búsqueda de Google para casos de uso de atención médica, incluidas descripciones generales mejoradas y modelos de inteligencia synthetic centrados en la salud.

Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Belief, dijo a The Guardian que la eliminación es una “excelente noticia”, pero añadió: “Nuestra mayor preocupación con todo esto es que se trata de seleccionar un solo resultado de búsqueda y Google puede simplemente cerrar las descripciones generales de IA para eso, pero no está abordando el problema más grande de las descripciones generales de IA para la salud”.