Recentemente, o Wall Street Journal relatou que a empresa de inteligência artificial OpenAI desenvolveu uma ferramenta capaz de identificar com alta precisão textos gerados pelo ChatGPT, mas ainda não a lançou oficialmente. Em resposta, a OpenAI admitiu estar pesquisando a tecnologia de marca d'água de texto, mas afirmou que essa tecnologia ainda enfrenta muitos desafios.
Segundo informações, a OpenAI planeja usar a tecnologia de marca d'água de texto para focar na detecção de textos provenientes do ChatGPT, e não de modelos de outras empresas. Essa tecnologia fará pequenos ajustes na maneira como o ChatGPT escolhe as palavras, criando uma "marca d'água" invisível no texto, que poderá ser detectada posteriormente por uma ferramenta especializada.
A OpenAI afirma que a marca d'água de texto é apenas uma das várias soluções que está explorando, incluindo classificadores e metadados, com o objetivo de determinar a origem do texto. Embora a tecnologia de marca d'água de texto tenha um bom desempenho em alguns casos, sua eficácia diminui quando enfrenta alterações como tradução, paráfrase ou inserção de caracteres especiais. Além disso, a tecnologia pode ter um impacto desproporcional em grupos específicos, como falantes não nativos de inglês.
Considerando esses fatores complexos e seu potencial impacto no ecossistema, a OpenAI afirma que irá avançar com cautela na pesquisa de tecnologias de rastreamento de texto e priorizará o desenvolvimento de ferramentas de autenticação para conteúdo audiovisual.
Essa decisão gerou uma ampla discussão na indústria sobre a identificação e gestão de conteúdo gerado por IA. Com o rápido desenvolvimento da tecnologia de IA, encontrar um equilíbrio entre a proteção da inovação e a prevenção de riscos tornou-se o foco de atenção de todos.