A Google está a realizar ensaios com a sua plataforma de IA médica Med-PaLM 2, concebida para responder a questões relacionadas com os cuidados de saúde em contextos clínicos.
A Google iniciou recentemente testes do sistema com clientes, incluindo a Clínica Mayo.
Med-PaLM 2vão para além da resposta a questões de saúde - a IA pode resumir documentos e estruturar grandes quantidades de dados de saúde. Além disso, a IA pode fornecer conselhos de ponta em qualquer lugar com uma ligação à Internet, incluindo regiões remotas ou onde os médicos são escassos.
Numa mensagem de correio eletrónico visto pelo The Wall Street JournalA Google referiu aos seus funcionários que um modelo de IA que funcionasse como assistente médico de confiança poderia ser "de enorme valor em países que têm um acesso mais limitado aos médicos".
Especialistas médicos e especialistas em ética avisam que, embora a IA possa revolucionar a medicina, a proteção e a utilização dos dados continuam a ser questões críticas.
A Google já foi criticada pela forma como gere dados de saúde sensíveis através das suas parcerias com hospitais.
Alguns riscos éticos e de saúde permanecem sem resposta
As ferramentas de IA generativa apresentam novos riscos, uma vez que podem gerar respostas que soam a autoridade a questões médicas, influenciando potencialmente os doentes de formas não aprovadas pelos médicos.
No entanto, a Google garantiu que os clientes de teste do Med-PaLM 2 mantêm o controlo sobre os seus dados em configurações encriptadas, inacessíveis à Google. O programa não absorverá quaisquer dados do utilizador.
A Google já tem concorrentes neste sector. Por exemplo, a Microsoft estabeleceu uma parceria com a Epic, uma empresa de software de saúde, em abril, para desenvolver ferramentas que podem compor automaticamente mensagens para os pacientes utilizando os algoritmos do ChatGPT.
Greg Corrado, um diretor de investigação sénior da Google que trabalha no Med-PaLM 2, afirmou que a IA é um trabalho em curso.
"Não sinto que este tipo de tecnologia esteja ainda num ponto em que eu a queira no percurso dos cuidados de saúde da minha família", disse Corrado. No entanto, o Med-PaLM 2 "pega nos locais dos cuidados de saúde onde a IA pode ser benéfica e expande-os em 10 vezes", afirmou.
Os médicos e os executivos do sector da saúde consideram que programas como o Med-PaLM 2 necessitam de mais desenvolvimento e de testes rigorosos antes de serem utilizados para diagnosticar doentes e sugerir tratamentos.
De acordo com um Artigo do Google publicado em maioEm 8/9 categorias de avaliação, os médicos que examinaram 1.000 respostas fornecidas pelo Med-PaLM 2 favoreceram as respostas do sistema de IA em relação às dos médicos.
No entanto, os médicos também descobriram que o Med-PaLM 2 incluía algum conteúdo impreciso ou irrelevante nas suas respostas, o que indica que pode partilhar falhas com outros chatbots, como a geração confiante de declarações falsas ou fora do tópico.
Kellie Owens, especialista em ética médica da Faculdade de Medicina Grossman da Universidade de Nova Iorque, sublinhou a necessidade de os pacientes serem informados sobre as novas formas como as ferramentas de IA utilizam os seus dados de saúde.
Idealmente, "estas conversas têm de ser de pessoa para pessoa" entre os doentes e o pessoal médico, disse Owens.
O papel da IA na medicina está a proliferar. No início desta semana, um O modelo de IA ajudou os investigadores localizar medicamentos anti-envelhecimento potencialmente valiosos, e os primeiros medicamentos gerados por IA são entrar em ensaios clínicos.
