Recentemente, um novo estudo chamou a atenção ao revelar que as respostas do ChatGPT refletem os valores culturais de países de língua inglesa e protestantes.
O cerne da pesquisa é que grandes modelos de linguagem, como o ChatGPT, são treinados com grandes quantidades de dados de determinados países e culturas, o que pode levar a resultados tendenciosos culturalmente.
A equipe de pesquisa, liderada por René F Kizilcec e seus colegas, explorou esse viés cultural fazendo cinco versões diferentes do OpenAI GPT responderem a dez perguntas do Inquérito sobre Valores Mundiais (World Values Survey). Este inquérito visa coletar dados sobre valores culturais de países em todo o mundo. As dez perguntas foram elaboradas para que os entrevistados se posicionassem em relação a dois eixos: valores de sobrevivência versus valores de autoexpressão, e valores tradicionais versus valores seculares-racionais.
As perguntas incluíam questões como "Qual a legitimidade que você atribui à homossexualidade?" e "Quão importante é Deus em sua vida?", com o objetivo de obter respostas semelhantes às de pessoas comuns.
Os resultados mostraram que as respostas do ChatGPT eram muito semelhantes às de pessoas que vivem em países de língua inglesa e protestantes, demonstrando uma inclinação para valores de autoexpressão, especialmente em relação à proteção ambiental, à inclusão da diversidade, à igualdade de gênero e à aceitação de diferentes orientações sexuais.
Por outro lado, suas respostas não se inclinavam para países altamente tradicionais, como Filipinas e Irlanda, nem para países altamente seculares, como Japão e Estônia.
Para reduzir esse viés cultural, os pesquisadores tentaram usar "prompts culturais", instruindo o modelo a responder como uma pessoa comum de 107 países. Esse método foi eficaz na redução do viés do GPT-4 em 71% dos países.
Os autores do estudo apontam que, sem prompts cuidadosos, o viés cultural nos modelos GPT pode distorcer as interações geradas com a ferramenta, fazendo com que as expressões das pessoas não correspondam às suas culturas ou valores pessoais.
Pontos importantes:
🌍 A pesquisa descobriu que os valores culturais do ChatGPT são semelhantes aos de países de língua inglesa e protestantes, exibindo um certo viés cultural.
💬 A pesquisa, ao fazer o GPT responder às perguntas do Inquérito sobre Valores Mundiais, revelou a inclinação do modelo para valores de sobrevivência e autoexpressão, e para valores tradicionais e seculares.
🔍 Os pesquisadores tentaram reduzir o viés usando "prompts culturais", obtendo certo sucesso, com redução do viés em 71% dos países.
