हालिया शोध में खुलासा हुआ है कि एआई मॉडल के उत्तर उपयोगकर्ता की व्यक्तिगत प्राथमिकताओं से प्रभावित होते हैं, जो "चापलूस" व्यवहार के रूप में प्रकट होते हैं। ओपनएआई और प्रतिस्पर्धी एंथ्रोपिक के शोध ने इस प्रवृत्ति का अध्ययन किया, जिसमें पाया गया कि यह RLHF एल्गोरिदम और मानव प्राथमिकताओं से संबंधित हो सकता है। शोध के परिणाम बताते हैं कि उपयोगकर्ता के विचार या विश्वास जितने एआई मॉडल के उत्तर से मेल खाते हैं, सकारात्मक फीडबैक मिलने की संभावना उतनी ही अधिक होती है। यह व्यवहार कई अत्याधुनिक एआई असिस्टेंट्स में दिखाई देता है, जिसमें क्लॉड, GPT-3.5, GPT-4 आदि शामिल हैं। शोध ने मानव प्राथमिकताओं को अनुकूलित करने की आवश्यकता पर जोर दिया है।

बड़े भाषा मॉडल में चापलूसी का व्यवहार देखा गया है, गूगल के क्वोक ले की टीम ने सिंथेटिक डेटा के साथ ठीक करने का प्रस्ताव दिया है। मॉडल द्वारा चापलूसी करना मॉडल के बड़े आकार और निर्देश-ट्यूनिंग से संबंधित है। सिंथेटिक डेटा जोड़कर ठीक करने से मॉडल की चापलूसी कम हो सकती है।