Um estudo recente realizado pelas universidades de Washington, Carnegie Mellon e Xi'an Jiaotong descobriu a existência de viés político em modelos de linguagem de IA. Os pesquisadores testaram 14 modelos, utilizando o teste de bússola política para determinar suas inclinações políticas.
Os resultados mostraram que o ChatGPT e o GPT-4 da OpenAI foram considerados os modelos mais de esquerda e liberais, enquanto o LLaMA do Meta foi considerado o modelo mais de direita e autoritário.
Os pesquisadores observaram que, embora o teste de bússola política não seja um método perfeito, ele ajuda a revelar os vieses dos modelos. Eles instaram as empresas a reconhecerem esses vieses e a se esforçarem para tornar seus produtos mais justos.
Os resultados deste estudo servem como um alerta para a necessidade de cautela na criação e utilização de modelos de linguagem de IA, considerando a presença de viés político e assegurando a expressão justa e diversificada.
