Recentemente, um estudo da “Revisão de Informações Falsas” da Harvard Kennedy School descobriu que artigos de pesquisa falsos gerados por inteligência artificial estão se infiltrando em mecanismos de busca acadêmicos, como o Google Acadêmico. Isso pode enfraquecer a confiança do público nas descobertas científicas e prejudicar o desenvolvimento de produtos em setores que dependem de pesquisas de ponta.
Os pesquisadores descobriram 139 artigos que pareciam ter sido gerados por ferramentas de inteligência artificial, com mais da metade deles focando em temas como saúde, questões ambientais e tecnologia da computação. Esses artigos de pesquisa falsos podem levar a lançamentos de produtos enganosos e desperdício de recursos, minando a confiança pública na ciência e a confiabilidade das decisões baseadas em evidências.
Sid Rao, CEO e cofundador da empresa de inteligência artificial Positron Networks, disse que os grandes modelos de linguagem geram resultados com base na probabilidade de viés presente nos dados de treinamento do modelo base, o que pode levar a preconceitos no texto que não são relevantes para o método científico usado para conceber o artigo. Esse viés pode produzir resultados imprecisos e gerar conteúdo falso de forma sutil.
Rao alertou que as “alucinações” da inteligência artificial podem produzir resultados imprecisos e gerar conteúdo falso de forma sutil. Por exemplo, um artigo pode apresentar uma conclusão correta, mas ainda assim conter declarações de apoio não citadas ou subjetivas. Mesmo que a taxa de erro ou de alucinação seja de apenas 1%, esses dois problemas podem enfraquecer fundamentalmente a confiança nas pesquisas científicas.
O impacto dos artigos de pesquisa falsos gerados por inteligência artificial no investimento em P&D é significativo. Se os investidores não conseguirem distinguir o que é real do que é “bobagem” de algoritmo, eles começarão a se retirar. A P&D já é arriscada o suficiente; com a incerteza adicional trazida por publicações duvidosas impulsionadas pela inteligência artificial, a situação piora.
Além disso, o impacto de documentos falsificados na regulamentação comercial também pode ser muito grave. Pesquisas não confiáveis confundem os órgãos reguladores; se a base científica por trás de um produto não for confiável, os legisladores ou regulamentarão excessivamente para proteger os consumidores, ou pior, criarão políticas ruins com base em dados falsos.
Os pesquisadores pedem maior regulamentação sobre artigos de pesquisa falsos gerados por inteligência artificial e apelam à comunidade científica e aos órgãos reguladores para que adotem medidas para garantir a confiabilidade e a autenticidade das pesquisas científicas.
