Google está realizando ensayos con su plataforma de IA médica Med-PaLM 2, diseñada para responder a preguntas relacionadas con la atención sanitaria en entornos clínicos.
Google ha iniciado recientemente pruebas del sistema con clientes, entre ellos la Clínica Mayo.
Med-PaLM 2La IA puede resumir documentos y estructurar grandes cantidades de datos sanitarios. Además, la IA podría ofrecer asesoramiento de vanguardia en cualquier lugar con conexión a internet, incluso en regiones remotas o donde escasean los médicos.
En un correo electrónico visto por The Wall Street Journal, Google mencionó a sus empleados que un modelo de IA que sirviera de asistente médico de confianza podría ser "de enorme valor en los países que tienen un acceso más limitado a los médicos".
Expertos médicos y expertos en ética advierten de que, aunque la IA puede revolucionar la medicina, la protección y el uso de los datos siguen siendo cuestiones críticas.
Google ya ha sido criticado por la forma en que gestiona datos sanitarios sensibles a través de sus asociaciones con hospitales.
Algunos riesgos sanitarios y éticos siguen sin respuesta
Las herramientas de IA generativa presentan nuevos riesgos, ya que pueden generar respuestas autorizadas a consultas médicas, lo que podría influir en los pacientes de forma no aprobada por los médicos.
Sin embargo, Google aseguró que los clientes de prueba de Med-PaLM 2 mantienen el control sobre sus datos en entornos cifrados, inaccesibles para Google. El programa no absorberá ningún dato del usuario.
Google ya tiene competidores en este ámbito. Por ejemplo, Microsoft se asoció en abril con Epic, una empresa de software sanitario, para desarrollar herramientas que puedan autocomponer mensajes a los pacientes utilizando los algoritmos de ChatGPT.
Greg Corrado, director senior de investigación de Google que trabaja en Med-PaLM 2, declaró que la IA es un trabajo en curso.
"No creo que este tipo de tecnología esté todavía en el punto en el que yo la querría en la asistencia sanitaria de mi familia", afirma Corrado. Sin embargo, Med-PaLM 2 "toma los lugares de la asistencia sanitaria en los que la IA puede ser beneficiosa y los multiplica por diez", afirma.
Médicos y directivos sanitarios creen que programas como Med-PaLM 2 necesitan más desarrollo y pruebas rigurosas antes de que se utilicen para diagnosticar a los pacientes y sugerir tratamientos.
Según un Documento de Google publicado en mayoLos médicos que examinaron 1.000 respuestas proporcionadas por Med-PaLM 2 prefirieron las respuestas del sistema de IA a las de los médicos en 8/9 categorías de evaluación.
Sin embargo, los médicos también descubrieron que Med-PaLM 2 incluía algunos contenidos inexactos o irrelevantes en sus respuestas, lo que indica que podría compartir defectos con otros chatbots, como generar con confianza declaraciones fuera de tema o falsas.
Kellie Owens, especialista en ética médica de la Facultad de Medicina Grossman de la Universidad de Nueva York (NYU), subrayó la necesidad de educar a los pacientes sobre las nuevas formas en que las herramientas de IA utilizan sus datos sanitarios.
Lo ideal sería que "estas conversaciones fueran de persona a persona" entre los pacientes y el personal médico, afirma Owens.
El papel de la IA en la medicina está proliferando. A principios de esta semana, un Un modelo de IA ayudó a los investigadores localizar fármacos antienvejecimiento potencialmente valiosos, y los primeros medicamentos generados por IA son entrar en ensayos clínicos.
