O recurso de geração de imagens do modelo 4o do ChatGPT, recém-lançado, está gerando preocupações de segurança, especialmente os avanços na geração de texto realista que podem fornecer novas ferramentas para fraudadores. Vários usuários já demonstraram nas redes sociais a criação de recibos de restaurantes falsos usando essa função, e esses recibos parecem suficientemente realistas para enganar.
A investidora de risco Deedy Das exibiu no X (antigo Twitter) um recibo falso de um restaurante de carnes de São Francisco gerado pelo 4o, enfatizando: "No mundo real, muitos processos de verificação dependem de 'imagens reais' como prova. Essa era acabou." Outros usuários também conseguiram replicar resultados semelhantes, alguns até adicionando manchas de comida para aumentar o realismo.
Após os testes, descobriu-se que, embora os recibos gerados por IA ainda apresentem falhas óbvias (como o uso de vírgulas em vez de pontos decimais, erros de cálculo etc.), esses problemas podem ser facilmente corrigidos com uma simples edição de fotos ou prompts mais precisos. Essa tecnologia simplifica o processo de falsificação de recibos, criando a possibilidade de fraudes como o reembolso de despesas falsas.
Em resposta, a porta-voz da OpenAI, Taya Christianson, afirmou que todas as imagens geradas pelo ChatGPT contêm metadados que indicam sua origem em IA e disse que a empresa "tomará medidas" contra violações de sua política de uso. Quando questionada sobre por que a geração de recibos falsos é permitida, Christianson explicou que o "objetivo da OpenAI é dar aos usuários a maior liberdade criativa possível", e apontou que os recibos de IA podem ser usados em situações não fraudulentas, como educação financeira, criação artística e publicidade de produtos.
