Tres cosas que el episodio de Pitt de las 8:00 a. m. acierta sobre la IA en la medicina, y una gran cosa que se equivoca

La gente sigue diciéndome que mire La fosay ahora que el programa aborda la IA generativa en la atención médica, debo hacerlo. Como editor tecnológico de Mashable, respondo muchas preguntas sobre la IA generativa y también paso mucho tiempo hablando con personas que están extremadamente entusiastas de la inteligencia synthetic y personas extremadamente hostil a la IA.

Entonces, ¿qué significa el último episodio de La fosa Temporada 2 acertar con la IA en la medicina, y ¿en qué se equivoca?

Cómo influye la IA La fosa episodio “8:00 a. m.”.

La IA no fue el foco completo del episodio dos de la temporada 2, “8:00 a. m.” También podemos ver a una monja con gonorrea en el ojo, un hombre sin hogar con una colonia de gusanos dentro de su brazo mohoso enyesado y una visión clara de una erección que, por supuesto, ha durado más de cuatro horas.

Sin embargo, una de las tramas se centra en el intento del recién llegado Dr. Baran Al-Hashimi (Sepideh Moafi) de modernizar la sala de emergencias e integrar la IA en la atención al paciente. Presenta una aplicación de inteligencia synthetic que escucha automáticamente las visitas de los pacientes y resume los detalles pertinentes en sus historiales.

Cuando un estudiante emocionado cube: “Dios mío, ¿sabes cuánto tiempo te ahorrará esto?”, el Dr. Al-Hashimi tiene una respuesta: con la nueva aplicación de inteligencia synthetic, los médicos de urgencias dedicarán un 80 por ciento menos de tiempo a realizar registros. Más adelante en el episodio, el buen médico le cube al Dr. Robby (Noah Wyle) que también permitirá a los médicos pasar un 20 por ciento más de tiempo con los pacientes.

Hasta ahora todo bien, pero la aplicación inmediatamente comete un error. Documenta el medicamento incorrecto en el historial del paciente y lo sustituye por un medicamento que suena comparable.

Esto no disminuye en absoluto el entusiasmo del Dr. Al-Hashimi. “La IA generativa tiene actualmente una precisión del 98 por ciento”, afirma. “Siempre hay que revisar y corregir cuidadosamente los errores menores. Es excelente, pero no perfecto”.

Transcripción de IA es realmente bueno (y todavía comete errores).

El Dr. Al-Hashimi afirma que la IA generativa tiene una precisión del 98 por ciento. ¿Pero es esto realmente cierto?

Verificar la afirmación de la Dra. Al-Hashimi es realmente complicado, porque no está del todo claro lo que quiere decir. Si se refiere únicamente a la transcripción de IA, está más cerca de la verdad. Esa es una tarea en la que sobresale la IA generativa.

El año pasado, un grupo de investigadores realizó una revisión sistemática de 29 estudios que midieron la precisión de la transcripción de la IA específicamente en entornos sanitarios. (Puedes consultar la reseña completa, publicada en el BMC Informática Médica y Toma de Decisiones diario.)

Algunos de esos estudios encontraron tasas de precisión del 98 por ciento o más, y algunos encontraron ahorros de tiempo significativos para los médicos. Sin embargo, esos estudios involucraron ambientes controlados y silenciosos. En entornos con varios altavoces y mucha interferencia y jerga médica, como los que se encontrarían en una sala de emergencias abarrotada, las tasas de precisión eran mucho más bajas, a veces tan bajas como el 50 por ciento.

Aún así, los rápidos avances en los modelos de lenguajes grandes están mejorando las transcripciones de IA todo el tiempo. Por lo tanto, podríamos ser generosos y decir que la afirmación del Dr. Al-Hashimi se acerca a la verdad, para los últimos modelos de LLM, en ciertos entornos.

La IA generativa definitivamente no tiene una precisión del 98 por ciento.

Tomemos como ejemplo la última versión de ChatGPT. Cuando se lanzó el modelo GPT-5.2 hace unos meses, Documentación publicada de OpenAI sobre la tendencia del modelo a alucinar y proporcionar información falsa.

Según OpenAI, su modelo de pensamiento GPT-5.2 tiene una tasa promedio de alucinaciones del 10,9 por ciento. Eso es en realidad alto, especialmente considerando que OpenAI quiere que ChatGPT lo ayude con preguntas médicas. (La empresa lanzó recientemente ChatGPT Saluduna “experiencia dedicada en ChatGPT diseñada para la salud y el bienestar”).

Ahora, cuando GPT-5.2 Pondering tiene acceso a Web, su tasa de alucinaciones cae al 5,8 por ciento. Pero, ¿confiaría usted en un médico que se equivoca el 5,8 por ciento de las veces, y sólo cuando puede utilizar Web para comprobar su trabajo? ¿Y le gustaría que su aplicación de atención médica de IA estuviera conectada a Web?

La IA generativa podría algún día tener una precisión del 98 por ciento. Pero aún no hemos llegado a ese punto.

La IA generativa no puede reemplazar a los médicos.

Crédito: Página de Warrick / HBO Max

El Dr. Robby y otros personajes tienen una conversación sobre instintos “instintivos” en este episodio. Eso es algo que la IA generativa no puede replicar, y una de las razones por las que muchas personas no quieren que las herramientas de IA reemplacen por completo a los trabajadores humanos, ya sea en las artes o en la medicina.

El episodio también dedica mucho tiempo a mostrar ejemplos de empatía. Los mejores médicos no sólo tienen un conocimiento enciclopédico de su especialidad. No sólo tienen buenos instintos. Son verdaderos sanadores, que saben que tomar la mano de un paciente en el momento adecuado puede ser tan importante como darle el diagnóstico correcto.

Para ser justos, la mayoría de las herramientas de atención médica de inteligencia synthetic que he visto no intentan reemplazar a los médicos. En cambio, quieren brindarles a los trabajadores de la salud más herramientas de diagnóstico y ahorrarles tiempo. Como cube repetidamente la Dra. Al-Hashimi en el episodio, quiere darles a los médicos más tiempo junto a la cama de sus pacientes.

La IA puede ayudar a ahorrar tiempo a los médicos.

La radiología, o imágenes médicas, es una de las aplicaciones más prometedoras de la IA generativa en entornos sanitarios. Cuando radiólogos de la Universidad Northwestern implementaron una herramienta de IA generativa personalizada para ayudar a analizar rayos X y tomografías computarizadas, su productividad aumentó en un 40 por ciento, y sin comprometer la precisión.

Creo que incluso muchos escépticos de la IA estarían de acuerdo en que es un resultado positivo, para pacientes y médicos.

La fosa Parece estar presentando al Dr. Al-Hashimi como una especie de villano, o, al menos, un contraste para el Dr. Robby, pero la buena medicina y la IA generativa no están necesariamente en conflicto. Como ocurre con cualquier herramienta, puede resultar extraordinariamente útil o extraordinariamente peligrosa.

La fosa La temporada 2 ahora se transmite en HBO Max y se lanzan nuevos episodios todos los jueves a las 9 p.m., hora del Este.

Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó en abril de 2025 una demanda contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA.