O modelo de geração de imagens 4o, recentemente lançado pela OpenAI, demonstra uma capacidade surpreendente na geração de texto dentro das imagens, especialmente na criação de documentos falsos, tornando-se um "novo queridinho" para alguns usuários. A proliferação de recibos falsos, receitas médicas falsas e passaportes falsificados é uma preocupação crescente.
Nas redes sociais, Deedy Das, investidor da Menlo Ventures, publicou uma foto de um recibo falso que mostrava uma conta de um jantar luxuoso em um renomado restaurante de carnes em São Francisco. Das escreveu em seu tweet: "Você pode usar o 4o para gerar recibos falsos". Essa afirmação gerou grande atenção, pois muitos processos de verificação no mundo real dependem de "imagens reais" como prova, e agora tudo isso mudou.
À primeira vista, o recibo falso parece muito real, contendo uma lista detalhada de vários pratos, subtotais e gorjetas calculados corretamente. Usuários estão até mesmo editando as imagens geradas pelo modelo, adicionando filtros realistas e manchas de comida, criando uma ferramenta perfeita para fraudes de despesas.
Com o avanço da tecnologia, a capacidade de geração de imagens da OpenAI melhorou significativamente. Modelos anteriores frequentemente apresentavam erros e frases engraçadas ao reproduzir letras, mas o 4o praticamente eliminou esses problemas. Os usuários não só podem gerar recibos falsos de jantares luxuosos, mas também receitas médicas falsas para medicamentos controlados, como o Zolpidem.
Esse fenômeno gerou preocupações generalizadas sobre a geração de documentos falsos por IA. A capacidade de criar documentos falsos facilita uma série de atividades ilegais, incluindo a falsificação de declarações de imposto de renda, cheques bancários, carteiras de identidade e certidões de nascimento. Diante dessa tendência, ainda é incerto se os métodos atuais de detecção de documentos são eficazes.
Embora algumas empresas de IA estejam tentando usar metadados adicionais ou marcas d'água para identificar imagens geradas, essas medidas de proteção parecem ser insuficientes para impedir completamente a ocorrência de fraudes. De acordo com uma pesquisa de 2015, 85% dos entrevistados admitiram ter mentido para obter mais reembolso. Esses casos de fraude muitas vezes não são detectados devido à falta de controle interno e a processos de contas a pagar com falhas. Em outras palavras, nesta era, você quase não pode acreditar em nada que vê online.
Destaques:
📄 O novo modelo de geração de imagens 4o da OpenAI pode facilmente criar recibos e receitas médicas falsas, causando preocupação.
💻 Modelos de geração de imagens anteriores tinham dificuldades em gerar texto, mas a capacidade do 4o melhorou significativamente.
🛡️ A capacidade de criar documentos falsos levanta dúvidas sobre a eficácia dos métodos de detecção existentes.
