Pesquisadores do Brigham and Women's Hospital avaliaram a presença de viés racial e de gênero no GPT-4 em decisões clínicas. Eles descobriram que o GPT-4 apresenta um viés significativo na geração de casos de pacientes, no desenvolvimento de planos de diagnóstico e tratamento, e na avaliação das características dos pacientes.
O estudo apela para a avaliação de viés em grandes modelos de linguagem para garantir que suas aplicações na medicina não exacerbem as desigualdades sociais. Os resultados da pesquisa foram publicados na revista The Lancet Digital Health.
