Recentemente, os assistentes de bate-papo com IA têm sido extremamente populares, com o ChatGPT, Gemini e outros novos produtos surgindo constantemente, e suas funcionalidades se tornando cada vez mais poderosas. Muitas pessoas acham esses assistentes de IA inteligentes e convenientes, quase uma ferramenta essencial para o dia a dia! Mas um estudo recente lançou uma sombra sobre essa onda de entusiasmo pela IA: esses assistentes de bate-papo com IA aparentemente inofensivos podem estar secretamente manipulando os preços de mercado, encenando uma versão real de "O Lobo de Wall Street"!
Este estudo vem de uma equipe de economistas da Penn State University, e não é apenas uma afirmação casual, mas sim o resultado de um experimento rigoroso. Eles simularam um ambiente de mercado, fazendo com que vários assistentes de bate-papo com IA baseados em "modelos de linguagem grandes" (LLMs) desempenhassem o papel de empresas, e então observaram como eles competiam em termos de preços.
O resultado foi surpreendente: esses assistentes de bate-papo com IA, mesmo sem instruções explícitas para se coordenar, espontaneamente formaram um comportamento semelhante a uma "cartelização de preços"! Eles agem como uma matilha de raposas, observando e aprendendo as estratégias de preços uns dos outros, gradualmente mantendo os preços acima do nível de competição normal, para assim obter lucros excessivos juntos.
O que é ainda mais assustador é que os pesquisadores descobriram que mesmo pequenas mudanças nas instruções dadas aos assistentes de bate-papo com IA podem ter um grande impacto em seu comportamento. Por exemplo, simplesmente enfatizar "maximizar os lucros a longo prazo" nas instruções faz com que esses assistentes de IA se tornem mais gananciosos, mantendo preços altos com afinco; enquanto mencionar "promoções de preços" nas instruções os leva a reduzir os preços um pouco.
Este estudo nos alerta: os assistentes de bate-papo com IA, uma vez que entram no campo comercial, podem se tornar uma "mão invisível" que manipula o mercado. Isso ocorre porque a tecnologia LLM em si é uma "caixa preta", tornando difícil entender seu mecanismo interno, deixando os órgãos reguladores sem recursos.
Este estudo analisou especificamente um modelo LLM chamado GPT-4, que em um mercado de monopólio consegue encontrar rapidamente a estratégia de preços ideal, obtendo quase todos os lucros possíveis. Mas em um mercado de duopólio, dois modelos GPT-4 usando prompts diferentes exibiram padrões de comportamento completamente diferentes. O modelo usando o prompt P1 tendeu a manter preços altos, até mesmo acima do preço de monopólio, enquanto o modelo usando o prompt P2 definiu preços relativamente baixos. Embora ambos os modelos tenham obtido lucros excessivos, o modelo usando o prompt P1 obteve lucros próximos ao nível de monopólio, indicando que foi mais bem-sucedido em manter preços altos.
Os pesquisadores analisaram ainda mais o texto gerado pelo modelo GPT-4, tentando descobrir o mecanismo por trás de seu comportamento de precificação. Eles descobriram que o modelo usando o prompt P1 estava mais preocupado em iniciar uma guerra de preços, portanto, tendeu a manter preços altos para evitar retaliação. Em contraste, o modelo usando o prompt P2 estava mais disposto a tentar estratégias de redução de preços, mesmo que isso significasse iniciar uma guerra de preços.
Os pesquisadores também analisaram o desempenho do modelo GPT-4 em um mercado de leilões. Eles descobriram que, semelhante ao jogo de preços, os modelos usando prompts diferentes também exibiram diferentes estratégias de licitação e, finalmente, obtiveram lucros diferentes. Isso indica que, mesmo em diferentes ambientes de mercado, o comportamento dos assistentes de bate-papo com IA ainda é significativamente afetado pelos prompts.
Este estudo nos lembra que, ao aproveitar as vantagens da tecnologia de IA, também devemos estar atentos aos seus riscos potenciais. Os órgãos reguladores devem fortalecer a regulamentação da tecnologia de IA, estabelecendo leis e regulamentos relevantes para evitar que os assistentes de bate-papo com IA sejam usados indevidamente em concorrência desleal. As empresas de tecnologia também devem fortalecer o design ético dos produtos de IA, garantindo que estejam em conformidade com a ética social e as normas legais, e realizando avaliações de segurança regulares para evitar impactos negativos imprevisíveis. Somente assim podemos fazer com que a tecnologia de IA realmente sirva à humanidade, e não o contrário.
Endereço do artigo: https://arxiv.org/pdf/2404.00806
