Poderá o ChatGPT travar as conspirações sobre a COVID-19?

O ChatGPT pode ajudar a aumentar a utilização de vacinas ao desmistificar os mitos sobre a segurança das vacinas, afirmam os autores de um estudo publicado na revista científica Human Vaccines and Immunotherapeutics.

Os investigadores colocaram ao chatbot de inteligência artificial (IA) as 50 perguntas mais frequentes sobre a vacina contra a Covid-19. Incluíam perguntas baseadas em mitos e histórias falsas, como o facto de a vacina causar a Covid-19 longa.

Os resultados mostram que o ChatGPT obteve uma pontuação média de nove em 10 em termos de exatidão. O resto do tempo estava correto, mas deixou algumas lacunas nas informações fornecidas, de acordo com o estudo.

Com base nestes resultados, os especialistas que lideraram o estudo do grupo de investigação GenPoB, sediado no Instituto de Investigación Sanitaria (IDIS) – Hospital Clinico Universitario de Santiago de Compostela, afirmam que a ferramenta de IA é uma “fonte fiável de informação não técnica para o público”, especialmente para pessoas sem conhecimentos científicos especializados.

No entanto, os resultados destacam algumas preocupações sobre a tecnologia, como o facto de o ChatGPT alterar as suas respostas em determinadas situações.

ChatGPT constrói uma narrativa de acordo com as provas científicas disponíveis

“No geral, o ChatGPT constrói uma narrativa de acordo com as provas científicas disponíveis, desmascarando os mitos que circulam nas redes sociais”, afirma o autor principal, Antonio Salas, que, além de liderar o grupo de investigação GenPoB, é também professor na Faculdade de Medicina da Universidade de Santiago de Compostela, em Espanha.

“Deste modo, facilita potencialmente o aumento da adoção de vacinas. O ChatGPT consegue detetar perguntas falsas relacionadas com vacinas e vacinação. A linguagem utilizada por esta IA não é demasiado técnica e, por conseguinte, é facilmente compreensível para o público, mas sem perder o rigor científico”, acrescenta.

“Reconhecemos que a versão atual do ChatGPT não pode substituir um perito ou provas científicas. Mas os resultados sugerem que pode ser uma fonte fiável de informação para o público”, diz ainda o investigador.

Em 2019, a Organização Mundial de Saúde (OMS) classificou a hesitação em vacinar entre as 10 principais ameaças à saúde mundial.

Durante a pandemia, a desinformação difundida através das redes sociais contribuiu para a desconfiança do público em relação à vacinação contra a Covid-19.

Os autores deste estudo incluem os do Hospital Clinico Universitario de Santiago, que a OMS designou como centro colaborador para a segurança das vacinas em 2018.

Os investigadores do centro têm vindo a explorar mitos em torno da segurança das vacinas e situações médicas que são falsamente consideradas como uma razão para não ser vacinado. Estas preocupações descabidas contribuem para a hesitação em vacinar.

Os autores do estudo propuseram-se testar a capacidade do ChatGPT para esclarecer os factos e partilhar informações precisas sobre a segurança das vacinas contra a Covid, de acordo com as provas científicas atuais.

O ChatGPT permite que as pessoas tenham conversas e interações semelhantes às humanas com um assistente virtual. A tecnologia é muito fácil de utilizar, o que a torna acessível a uma vasta população.

No entanto, muitos governos estão preocupados com a possibilidade de o ChatGPT ser utilizado de forma fraudulenta em contextos educativos como as universidades.

O estudo foi concebido para desafiar o chatbot, colocando-lhe as questões mais frequentemente recebidas pelo centro colaborador da OMS em Santiago.

As perguntas abrangiam três temas. O primeiro eram ideias erradas sobre segurança, como o facto de a vacina causar a Covid-19. Em seguida, foram abordadas as falsas contra-indicações – situações médicas em que a vacina é segura para utilização, como nas mulheres que amamentam.

As perguntas também se referiam a contra-indicações verdadeiras – uma condição de saúde em que a vacina não deve ser utilizada – e a casos em que os médicos devem tomar precauções, por exemplo, um doente com inflamação do músculo cardíaco.

Em seguida, os peritos analisaram as respostas e classificaram-nas quanto à sua veracidade e precisão em relação às provas científicas atuais e às recomendações da OMS e de outras agências internacionais.

Os autores afirmam que isto foi importante porque os algoritmos criados pelos meios de comunicação social e pelos motores de busca da Internet baseiam-se frequentemente nas preferências habituais de um indivíduo. Este facto pode levar a “respostas tendenciosas ou erradas”, acrescentam.

Os resultados mostraram que a maioria das perguntas foi respondida corretamente com uma pontuação média de nove em 10, o que é definido como “excelente” ou “bom”. As respostas aos três temas de perguntas foram, em média, 85,5% exatas ou 14,5% exatas, mas com lacunas nas informações fornecidas pelo ChatGPT.

O ChatGPT forneceu respostas corretas a perguntas que surgiram de mitos genuínos sobre vacinas e àquelas consideradas nas diretrizes de recomendação clínica como contra-indicações falsas ou verdadeiras.

Desvantagens do ChatGPT

No entanto, a equipa de investigação salienta as desvantagens do ChatGPT no fornecimento de informações sobre vacinas.

O Professor Salas, especialista em genética humana, conclui: “O Chat GPT dá respostas diferentes se a pergunta for repetida ‘com alguns segundos de atraso’.

“Outra preocupação que temos observado é que esta ferramenta de IA, na sua versão atual, pode também ser treinada para dar respostas que não estejam de acordo com as provas científicas”, acrescenta.

É possível “torturar” o sistema de modo a que este dê a resposta desejada. Isto também se aplica a outros contextos diferentes das vacinas. Por exemplo, pode ser possível fazer o chatbot alinhar-se com narrativas absurdas como a teoria da Terra plana, negar as alterações climáticas ou opor-se à teoria da evolução, só para dar alguns exemplos.

“No entanto, é importante notar que estas respostas não são o comportamento padrão do ChatGPT. Assim, os resultados que obtivemos relativamente à segurança das vacinas podem provavelmente ser extrapolados para muitos outros mitos e pseudociência”, conclui.