De acordo com a Associated Press, com o surgimento de ferramentas de inteligência artificial (IA) generativa, comerciantes, prestadores de serviços e consumidores estão enfrentando desafios sem precedentes. Essas ferramentas permitem que as pessoas gerem eficientemente avaliações online novas e detalhadas, com quase nenhuma intervenção humana, levando a um problema crescente de avaliações falsas.

O relatório indica que avaliações falsas há muito tempo atormentam plataformas de comércio eletrônico conhecidas como Amazon e Yelp. Essas avaliações geralmente são negociadas em grupos privados de mídia social, entre intermediários de avaliações falsas e comerciantes dispostos a pagar. Às vezes, os comerciantes também incentivam os clientes a escrever avaliações positivas oferecendo recompensas, como cartões-presente.

Robô, Interação Humano-Máquina, Inteligência Artificial

No entanto, a popularização de ferramentas de geração de texto de IA, como o ChatGPT da OpenAI, permite que os golpistas gerem avaliações falsas mais rápida e em maior quantidade. De acordo com especialistas do setor de tecnologia, esse tipo de fraude é ilegal nos EUA e ocorre o ano todo, mas o dano causado pelas avaliações falsas aos consumidores é particularmente grave durante a temporada de compras de fim de ano, pois muitas pessoas dependem das avaliações para ajudá-las a comprar presentes.

Uma empresa de tecnologia e órgão de supervisão chamada Transparency Company afirma que usa software para detectar avaliações falsas e descobriu que as avaliações geradas por IA começaram a aparecer em massa a partir da metade de 2023 e estão aumentando.

A adição de ferramentas de IA tornou a geração de avaliações falsas mais insidiosa e difícil de detectar. Isso não apenas prejudica os consumidores, mas também representa uma séria ameaça à confiança nas plataformas de comércio eletrônico. Como combater eficazmente as avaliações falsas geradas por IA tornou-se um desafio para as plataformas de comércio eletrônico e os órgãos reguladores.