हालिया शोध से पता चलता है कि लगभग 10% एआई चैटबॉट उपयोगकर्ता इस तकनीक का दुरुपयोग करके अश्लील वार्तालाप करते हैं। शोध टीम ने 100,000 चैटबॉट वार्तालापों का विश्लेषण किया और पाया कि लगभग 10% में अश्लील विषय शामिल हैं। यह शोध चैटबॉट के साथ लोगों की वास्तविक इंटरैक्शन स्थिति को उजागर करने के लिए किया गया है, ताकि वास्तविक दुनिया में चैटबॉट की सुरक्षा में सुधार किया जा सके। शोधकर्ताओं ने दुरुपयोग के विषयों को तीन श्रेणियों में वर्गीकृत किया, जिसमें अश्लील वर्णन, यौन कल्पनाएँ और भूमिका निभाना, और हानिकारक व्यवहारों पर चर्चा शामिल है।