Uma nova pesquisa sugere que medidas de segurança bem-intencionadas em modelos de linguagem grandes podem levar a vulnerabilidades inesperadas. Os pesquisadores descobriram que a facilidade com que os modelos são 'evadidos' varia significativamente dependendo da terminologia demográfica usada. O estudo, intitulado "Do LLMs Have Political Correctness?", explora como palavras-chave demográficas influenciam a probabilidade de sucesso em tentativas de evasão. A pesquisa descobriu que prompts usando termos relacionados a grupos marginalizados têm maior probabilidade de gerar respostas indesejadas do que prompts usando termos relacionados a grupos privilegiados.