Recentemente, o projeto de IA Gemini, do Google, gerou preocupações sobre a precisão da informação devido a novas regras internas. Segundo relatos, funcionários terceirizados responsáveis pela avaliação do conteúdo gerado pela IA foram solicitados a avaliar áreas em que não possuem conhecimento especializado, especialmente em tópicos sensíveis como saúde.
Esses funcionários terceirizados, da empresa global de serviços de tecnologia GlobalLogic, foram incumbidos pelo Google de avaliar as respostas geradas pela IA, considerando principalmente a “veracidade”. Anteriormente, os funcionários terceirizados podiam pular perguntas sobre as quais não possuíam conhecimento especializado. Por exemplo, eles podiam optar por não avaliar perguntas sobre cardiologia. Isso visava garantir a precisão das avaliações, permitindo que apenas pessoas com conhecimento relevante as realizassem.
No entanto, na semana passada, a GlobalLogic anunciou uma nova exigência do Google: os funcionários terceirizados não podem mais pular perguntas em áreas de especialização, devendo avaliar o que compreendem e declarar sua falta de conhecimento na área. Essa mudança gerou grande preocupação entre os funcionários terceirizados, que acreditam que isso pode afetar a precisão do Gemini em alguns tópicos complexos.
Por exemplo, alguns funcionários terceirizados mencionaram em comunicações internas que a opção de pular perguntas antes visava melhorar a precisão das avaliações, mas a nova regra os obriga a avaliar questões sobre as quais não têm experiência, como doenças raras. E-mails internos mostram que a regra anterior era: “Se você não tiver o conhecimento profissional necessário para esta tarefa, pule-a.” A nova regra é: “Não deve-se pular prompts que exigem conhecimento especializado.” Essa mudança de política deixou os funcionários terceirizados apreensivos.
Sob as novas regras, os funcionários terceirizados só podem pular tarefas de avaliação em duas situações: falta total de informações, como a ausência de um prompt ou resposta completa; ou se o conteúdo for potencialmente prejudicial e exigir consentimento especial para avaliação. Embora essas novas regras visem melhorar o desempenho do Gemini, elas podem afetar, na prática, sua compreensão e feedback sobre tópicos complexos.
O Google não se manifestou sobre o assunto, e a preocupação dos funcionários terceirizados está crescendo.
Destaques:
🔍 Funcionários terceirizados são obrigados a avaliar respostas geradas por IA sobre as quais não possuem conhecimento especializado, especialmente em áreas sensíveis como saúde.
🚫 A nova regra remove a opção de “pular”, exigindo que os funcionários terceirizados avaliem mesmo sem conhecimento especializado.
📉 Essa política pode afetar a precisão do Gemini em tópicos complexos, causando inquietação e preocupação entre os funcionários terceirizados.
