A utilização da inteligência artificial (IA) na área da saúde tem despertado grande interesse e expectativa, oferecendo potenciais benefícios para profissionais médicos, pacientes, pesquisadores e cientistas. No entanto, é crucial que sejam adotadas medidas de cautela e regulamentação para garantir que essas tecnologias sejam utilizadas de forma responsável e segura.

Recentemente, a Organização Mundial da Saúde (OMS) emitiu um alerta sobre os riscos associados às chamadas ferramentas de modelo de linguagem (LLMs) baseadas em IA. Essas plataformas, como ChatGPT, Bard, Bert e outras, têm a capacidade de imitar a comunicação humana, mas também apresentam desafios e preocupações significativas.

Um dos principais pontos destacados pela OMS é a disseminação de orientações incorretas. A IA, por mais avançada que seja, ainda pode cometer erros e oferecer informações imprecisas, o que pode ter consequências graves para a saúde dos pacientes. É fundamental que os profissionais da saúde compreendam as limitações dessas ferramentas e não as utilizem como única fonte de informação clínica.

Outra questão importante é a violação de dados pessoais. O manuseio inadequado e o acesso não autorizado a informações sensíveis dos pacientes podem comprometer a privacidade e a confidencialidade dos dados, além de representar riscos à segurança cibernética. É fundamental estabelecer diretrizes claras para proteger a privacidade dos pacientes e garantir a segurança dos dados de saúde.

Além disso, a disseminação de desinformação também é uma preocupação. As LLMs podem ser alimentadas com dados e informações incorretas, o que pode levar à propagação de informações falsas e prejudicar a tomada de decisões clínicas adequadas. É necessário um processo de validação e verificação rigoroso das informações fornecidas pelas plataformas de IA para evitar a disseminação de conteúdo enganoso.

Diante desses desafios, a OMS ressalta a importância da regulamentação e supervisão adequadas dessas tecnologias. É necessário que as empresas e desenvolvedores de IA sigam princípios éticos, como transparência, inclusão, engajamento público e avaliação rigorosa. Além disso, é essencial promover a educação e a capacitação dos profissionais de saúde no uso responsável da inteligência artificial.

A utilização da IA na saúde pode trazer avanços significativos, mas também traz consigo responsabilidades. A regulamentação adequada e a conscientização dos riscos associados são fundamentais para garantir que essas tecnologias sejam utilizadas de forma ética, segura e benéfica para todos.

Fonte: Academia Médica