Recentemente, a OpenAI tem se envolvido em debates internos sobre a tecnologia de marca d'água. De acordo com o Wall Street Journal, a empresa já desenvolveu uma tecnologia de marca d'água para identificar textos gerados pelo ChatGPT e também uma ferramenta de detecção. No entanto, há divergências internas sobre o lançamento dessa tecnologia no mercado.
De certa forma, o lançamento da tecnologia de marca d'água parece ser uma atitude responsável. Essa tecnologia consegue criar um padrão detectável ao ajustar as palavras e frases previstas pelo modelo. Embora isso soe um pouco complexo, o objetivo é claro: ajudar professores a evitar que alunos copiem trabalhos gerados por IA. O relatório indica que essa marca d'água não afeta a qualidade do texto do chatbot. Além disso, a OpenAI descobriu em uma pesquisa que, globalmente, o número de pessoas que apoiam ferramentas de detecção de IA é quatro vezes maior do que o número de pessoas que se opõem a elas.
No entanto, a implementação da tecnologia de marca d'água não é tão simples. A atualização do blog da OpenAI confirmou que a empresa desenvolveu a tecnologia de marca d'água e afirmou que o método tem uma precisão muito alta, alegando ser "99,9% eficaz". Além disso, essa marca d'água tem certa resistência a "alterações", como simples paráfrases. No entanto, a OpenAI também apontou que usar outros modelos para paráfrase pode facilmente contornar essa marca d'água, o que os preocupa.
Além disso, a OpenAI também considera que a marca d'água pode fazer com que alguns usuários se sintam estigmatizados, especialmente para falantes não nativos. Portanto, embora alguns funcionários considerem a marca d'água eficaz, pesquisas mostram que quase 30% dos usuários do ChatGPT disseram que poderiam reduzir o uso se a marca d'água fosse implementada. Portanto, alguns funcionários sugeriram explorar métodos "relativamente menos controversos", embora a eficácia desses métodos ainda não tenha sido verificada.
Na atualização do blog de hoje, a OpenAI mencionou que está explorando métodos de incorporação de metadados em "estágio inicial" e afirmou que ainda é muito cedo para avaliar sua eficácia. No entanto, eles apontaram que, como esses metadados são assinados criptograficamente, é possível evitar erros de julgamento.
Destaques:
✅ Há divergências internas na OpenAI sobre o lançamento da tecnologia de marca d'água; ainda se discute se ela será lançada.
📊 Pesquisas mostram que a maioria das pessoas em todo o mundo apoia ferramentas de detecção de IA, mas os usuários temem que a marca d'água afete o uso.
🔒 A OpenAI está considerando o uso de métodos de incorporação de metadados, buscando um equilíbrio entre tecnologia e experiência do usuário.