Uma pesquisa da IBM descobriu que e-mails de phishing gerados pelo ChatGPT são enganosos, embora apresentem uma taxa de cliques ligeiramente inferior à dos e-mails feitos por humanos, sua velocidade de produção é muito maior, levantando preocupações sobre a segurança do e-mail. Hackers da IBM apontam que, embora os humanos estejam atualmente em vantagem nessa disputa, a inteligência artificial está em constante progresso e tem o potencial de superar os humanos.