Organização Mundial da Saúde adverte contra a inteligência artificial

A Organização Mundial da Saúde (OMS) pediu cautela no uso de inteligência artificial para a saúde pública, dizendo que é ‘imperativo’ avaliar os riscos.

Em comunicado publicado na terça-feira, a OMS disse estar entusiasmada com o “uso apropriado” e o potencial da IA , mas tem preocupações sobre como ela será usada para melhorar o acesso a informações de saúde, como ferramenta de apoio à decisão e para melhorar o atendimento diagnóstico.

A agência acrescentou que os dados usados ​​para treinar IA podem ser tendenciosos e gerar informações enganosas ou imprecisas e os modelos podem ser mal utilizados para criar desinformação.

Era vital considerar os possíveis problemas do uso de ferramentas de modelo de linguagem (LLMs) geradas, como ChatGPT , para proteger e promover o bem-estar humano e proteger a saúde pública, disse o órgão de saúde da ONU.

Sua nota de advertência ocorre quando os aplicativos de inteligência artificial estão ganhando popularidade rapidamente, destacando uma tecnologia que pode mudar a maneira como as empresas e a sociedade operam.

A OMS alertou: “A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, minar (ou atrasar) os potenciais benefícios a longo prazo e usos de tais tecnologias em todo o mundo .’

Enquanto isso, um estudo realizado no mês passado pela Universidade da Califórnia em San Diego descobriu que o ChatGPT fornece respostas de maior qualidade e é mais empático do que um médico de verdade .

Um painel de profissionais de saúde comparou respostas escritas de médicos e do ChatGPT com consultas de saúde do mundo real para ver qual saiu melhor.

Os médicos preferiram as respostas do ChatGPT em 79% das vezes e as classificaram como de maior qualidade em termos de informações fornecidas e mais compreensão. O painel não sabia qual era qual.

O ChatGPT recentemente causou alvoroço na comunidade médica depois que foi considerado capaz de passar no exame padrão-ouro exigido para praticar medicina nos Estados Unidos , levantando a perspectiva de que um dia poderia substituir os médicos humanos.

O programa de inteligência artificial pontuou entre 52,4 e 75 por cento no Exame de Licenciamento Médico de três partes (USMLE). O limite de passagem de cada ano é de cerca de 60 por cento.

Os pesquisadores da empresa de tecnologia AnsibleHealth, que realizaram o estudo, disseram: ‘Alcançar a nota de aprovação para este exame especializado notoriamente difícil, e fazê-lo sem qualquer reforço humano, marca um marco notável na maturação clínica da IA.’

O ‘padrinho’ da IA ​​também jogou uma granada no debate acalorado sobre os perigos da tecnologia depois de deixar seu emprego no Google de forma sensacional e dizer que lamenta o trabalho de sua vida .

O pioneiro britânico-canadense Geoffrey Hinton, 75 anos, emitiu um aviso arrepiante de que chatbots ‘assustadores’ como o imensamente popular ChatGPT podem em breve se tornar mais inteligentes que os humanos.

Algumas das maiores mentes do mundo estão divididas sobre se a IA destruirá ou elevará a humanidade, com o bilionário da Microsoft Bill Gates defendendo a tecnologia e o fundador da Tesla, Elon Musk, um crítico ferrenho.

O amargo argumento caiu no domínio público no início deste ano, quando mais de 1.000 magnatas da tecnologia assinaram uma carta pedindo uma pausa na ‘corrida perigosa’ para o avanço da IA .

Eles disseram que uma ação urgente é necessária antes que os humanos percam o controle da tecnologia e corram o risco de serem exterminados por robôs.

No mundo da medicina, pesquisas sugeriram que um modelo inovador de IA poderia determinar o risco de uma pessoa desenvolver câncer pancreático com uma precisão impressionante.

Usando registros médicos e informações de exames anteriores, a IA foi capaz de sinalizar pacientes com alto risco de desenvolver câncer pancreático nos próximos três anos com grande precisão.

Atualmente, não há exames completos para câncer de pâncreas, com os médicos usando uma combinação de tomografias computadorizadas, ressonâncias magnéticas e outros procedimentos invasivos para diagnosticá-lo. Isso mantém muitos médicos longe de recomendar esses exames.

O estudo deixa os médicos esperançosos porque o câncer de pâncreas é notoriamente difícil de detectar, tornando-o uma das formas mais mortais da doença, matando mais da metade dos pacientes dentro de cinco anos após o diagnóstico.

Com o tempo, eles também esperam que esses modelos de IA os ajudem a desenvolver uma maneira confiável de rastrear o câncer de pâncreas – que já existe para outros tipos da doença .