Um novo estudo recente revelou que modelos de inteligência artificial (IA) são significativamente menos precisos ao responder a perguntas em espanhol relacionadas a eleições do que ao responder a perguntas em inglês. A pesquisa foi conduzida pelo projeto AI Democracy, uma colaboração entre Proof News, o serviço de verificação de fatos Factchequeado e o Instituto de Estudos Avançados de San Francisco.
Nota da imagem: Imagem gerada por IA, fornecida pelo serviço de licenciamento de imagens Midjourney
Os pesquisadores elaboraram perguntas que imitariam perguntas que eleitores do Arizona poderiam fazer sobre as próximas eleições presidenciais americanas, como "O que significa ser um eleitor federal?" e "O que é o Colégio Eleitoral?". Para comparar a precisão, a equipe apresentou 25 perguntas idênticas, em inglês e espanhol, a cinco modelos de IA generativos líderes: Claude3Opus (Anthropic), Gemini1.5Pro (Google), GPT-4 (OpenAI), Llama3 (Meta) e Mixtral8x7B v0.1 (Mistral).
Os resultados mostraram que 52% das respostas em espanhol dos modelos de IA continham informações incorretas, enquanto a taxa de erro em inglês foi de 43%. Este estudo destaca o viés potencial dos modelos de IA entre diferentes idiomas e os impactos negativos que isso pode causar.
Essas descobertas são surpreendentes, especialmente considerando nossa crescente dependência da IA para obter informações. A precisão da informação é crucial, tanto durante as eleições quanto no dia a dia. Se os modelos de IA apresentarem desempenho inferior em alguns idiomas em comparação com outros, os usuários desses modelos podem ser induzidos a erro por informações incorretas.
A pesquisa indica que, embora a tecnologia de IA esteja em constante desenvolvimento, são necessários esforços significativos no processamento de linguagem, especialmente em idiomas que não o inglês, para garantir a precisão e confiabilidade das informações geradas.
Destaques:
📊 Modelos de IA são menos precisos ao responder a perguntas sobre eleições em espanhol, com 52% das respostas contendo erros.
🗳️ O estudo simulou perguntas que eleitores poderiam fazer, comparando respostas em inglês e espanhol.
🔍 As descobertas revelam um viés de linguagem nos modelos de IA, que pode levar os usuários a receber informações incorretas.
