Cataclismo ou utopia: qual o rumo do uso da IA Generativa na Saúde?
Neste momento, o Senado está discutindo o projeto de Marco Legal de Inteligência Artificial (PL 21/2021)1 , enquanto o poder executivo desenvolve as bases para a Estratégia Brasileira de IA, publicada em abril de 2021
Compartilhe com seus amigos:
Recentemente, participei de um painel no evento de inovação Einstein Frontiers e me senti especialmente intrigado com uma resposta bastante provocativa do americano Sam Glassenberg, CEO da Level EX, sobre o impacto da evolução da Inteligência Artificial para a Humanidade. Para ele, temos dois cenários possíveis: cataclismo ou utopia.
No primeiro cenário, de cataclismo, a humanidade será exterminada por uma inteligência artificial superior, que ao alcançar a Inteligência Artificial Geral, ou a singularidade, irá se automelhorar em uma velocidade que não conseguiremos alcançar e, assim como descrito em filmes de ficção científica, esta será nossa Skynet. Segundo pesquisa recente com os maiores especialistas no assunto, a estimativa média é que existe uma probabilidade de 5% que isto aconteça até 2100!
No cenário utópico, a evolução desta mesma tecnologia irá proporcionar ganhos de produtividade imensos e avanços científicos impensáveis que, por sua vez, levarão nossa humanidade a um nível de prosperidade e redução de inequidade que permitirá vivermos com uma saúde plena e alcançarmos o nosso potencial máximo. Isto ocorrerá por meio da evolução de nossa espécie, que se integrará com a inteligência artificial.
Sem entrar no mérito de avaliar estas perspectivas extremas, a provocação reforçou minha convicção de que precisamos de regulação efetiva sobre o desenvolvimento da IA Generativa para que nosso futuro esteja mais próximo da utopia e mais distante do cataclismo.
Isto é ainda mais fundamental para aplicação ampla da Inteligência Artificial Generativa na Saúde.
Neste momento, o Senado está discutindo o projeto de Marco Legal de Inteligência Artificial (PL 21/2021)1 , enquanto o poder executivo desenvolve as bases para a Estratégia Brasileira de IA, publicada em abril de 2021. Estas iniciativas terão impactos na aplicação da IA na área da saúde e na adoção de inteligência artificial pelo Sistema Único de Saúde.
Think Tanks, como o Centro de Ensino e Pesquisa em Inovação da FGV Direito, vêm trabalhando em estudos a fim de entender o impacto regulatório para as aplicações de IA na área da saúde. Desta forma, é possível desenvolver propostas para contribuir, de maneira estruturada, com a construção de um novo marco legal que não se converta em barreira de entrada para tecnologias no país, ao mesmo tempo em que nos ajude a mapear e a evitar os riscos relacionados à esta tecnologia – em especial, proteger os direitos fundamentais dos pacientes.
Pontos críticos que devem ser debatidos incluem a responsabilização por erro médico resultante de decisões influenciadas por Inteligência Artificial e uma nova visão sobre propriedade intelectual. Por exemplo, quais são as implicações éticas do uso de dados de pacientes, coletados durante o processo assistencial, para treinar algoritmos de IA e como os direitos de propriedade destes dados podem ser tratados? Os direitos de uso destes dados são de quem coletou ou de quem forneceu?
Estamos em um momento em que as entidades setoriais da saúde, em parceria com institutos de pesquisa, podem assumir um papel de protagonismo para ajudar a desenvolver uma regulação que proteja os pacientes e nossas comunidades, ao mesmo tempo que não limite ou dificulte a inovação.
Este também é o momento para organizações de saúde pensarem na governança relacionada à Inteligência Artificial Generativa. Questões importantes devem ser endereçadas, como: estabelecer Comitês de Ética de Inteligência Artificial que cumpririam papel similar ao dos Comitês de Ética de Pesquisa Clínica para garantir o uso adequado da tecnologia nas organizações e definições sobre o uso de dados privados da instituição para treinamentos de modelos de linguagem larga abertos.
Em resumo, o potencial e os riscos do uso de Inteligência Artificial são demasiadamente grandes para deixarmos que seu desenvolvimento ocorra por acaso. É fundamental que as organizações e as entidades líderes da saúde colaborem ativamente com institutos de pesquisas, congresso e governo para desenvolvermos uma regulação efetiva do uso de Inteligência Artificial para saúde em nosso país. É crítico, também, que as instituições criem uma governança interna para gerenciar o uso de IA em suas organizações e, em especial, provedores de saúde estabeleçam comitês de ética para projetos em IA com o objetivo de avaliar casos de uso em suas linhas de cuidado e processos administrativos.
