IBM के शोध से पता चला है कि ChatGPT द्वारा उत्पन्न फिशिंग ईमेल धोखाधड़ी करने वाले होते हैं, हालांकि क्लिक दर मानव ईमेल की तुलना में थोड़ी कम है, लेकिन इसे बनाने की गति मानव की तुलना में बहुत तेज है, जिससे ईमेल सुरक्षा समस्याएँ उत्पन्न हो रही हैं। IBM के हैकरों ने बताया कि हालांकि इस दौड़ में मनुष्य वर्तमान में बढ़त में हैं, लेकिन कृत्रिम बुद्धिमत्ता लगातार प्रगति कर रही है और मनुष्यों को पार करने की उम्मीद है।