Uma pesquisa realizada pela Purdue University descobriu que o ChatGPT apresenta baixa precisão ao responder perguntas de engenharia de software, com mais da metade das respostas sendo incorretas. Embora as respostas sejam abrangentes, a linguagem complexa e intrincada dificulta a identificação de informações incorretas pelos usuários.
Os resultados do estudo indicam que o ChatGPT é menos confiável que recursos tradicionais como o Stack Overflow para obter respostas em engenharia de software. Portanto, ao buscar ajuda em engenharia de software usando o ChatGPT, recomenda-se priorizar recursos tradicionais como o Stack Overflow.