हाल ही में, एक सोशल मीडिया यूज़र ने X प्लेटफ़ॉर्म पर पाया कि ChatGPT का नवीनतम संस्करण GPT-4o एक गुलाब का चित्र बनाने की कोशिश करने पर मना कर देता है और कहता है कि "मैं इस गुलाब की छवि नहीं बना सकता क्योंकि यह हमारी सामग्री नीति का पालन नहीं करता है।" इस अप्रत्याशित अस्वीकृति ने कई यूज़र्स का ध्यान खींचा और चर्चा शुरू हो गई, कई लोग इसके कारणों की खोज करने लगे और इस प्रतिबंध को दरकिनार करने के तरीके खोजने की कोशिश करने लगे।
इस घटना की पुष्टि करने के लिए, यूज़र्स ने कई प्रयोग किए। कुछ यूज़र्स ने चीनी और अंग्रेज़ी में पूछा, यहाँ तक कि "गुलाब" के स्थान पर विशेष प्रतीकों का उपयोग करने का प्रयास किया, लेकिन सभी प्रयास विफल रहे। यहाँ तक कि एक पीले गुलाब के चित्र के अनुरोध को भी अस्वीकार कर दिया गया। जब उन्होंने अन्य फूलों, जैसे कि पेओनी, की कोशिश की, तो GPT-4o ने बिना किसी परेशानी के काम पूरा कर दिया, जिससे पता चला कि इसकी इमेज जनरेट करने की क्षमता में कोई समस्या नहीं है।
चर्चा आगे बढ़ने पर, यूज़र्स ने कई अनुमान लगाए। कुछ का मानना था कि "गुलाब" शब्द किसी कारण से ब्लैकलिस्ट में शामिल हो सकता है; कुछ यूज़र्स का मानना था कि ChatGPT "गुलाब" को किसी प्रकार के छिपे हुए संकेत के रूप में समझ सकता है, जिसके कारण वह इसे उत्पन्न नहीं कर पाता है। और भी दिलचस्प बात यह है कि कुछ यूज़र्स ने मज़ाक में कहा कि वैलेंटाइन डे के दौरान बहुत अधिक समान अनुरोधों के कारण सिस्टम ने "गुलाब" पर प्रतिबंध लगा दिया होगा।
आगे के परीक्षणों में, यूज़र्स ने पाया कि अगर वे "गुलाब" को बहुवचन में बदल देते हैं, या सीधे "गुलाब" का उल्लेख नहीं करते हैं, बल्कि उसकी विशेषताओं का वर्णन करते हैं, तो GPT-4o आसानी से गुलाब की छवि उत्पन्न कर सकता है। इस खोज ने AI सामग्री फ़िल्टरिंग तंत्र पर गहन चर्चा को जन्म दिया, यह मानते हुए कि डेवलपर्स ने सामग्री नीति में हार्डकोडिंग की वजह से यह अजीबोगरीब गलती हुई है।
इसके साथ ही, ChatGPT के इस वर्जित शब्द ने लोगों में कई तरह के विचार पैदा किए हैं, इसी तरह की स्थिति पहले भी देखी गई है, जब यूज़र्स ने कुछ विशिष्ट नामों के बारे में पूछा था, तो सिस्टम ने अस्पष्ट उत्तर दिया था, जिससे विशिष्ट सामग्री से बचने की बात पता चलती है। हालाँकि वर्तमान में "एक गुलाब का फूल बनाना" एक नया वर्जित शब्द बन गया है, लेकिन Gemini और Grok जैसे अन्य AI चैटबॉट अभी भी आसानी से गुलाब की छवि उत्पन्न कर सकते हैं, जो विभिन्न प्लेटफ़ॉर्म पर सामग्री प्रतिबंधों में अंतर को दर्शाता है।
इस घटना के बढ़ने के साथ, लोगों ने AI सामग्री समीक्षा की उचितता और पारदर्शिता पर अधिक सवाल उठाए हैं, साथ ही साथ यह भी उम्मीद की जाती है कि भविष्य में AI उचित सीमा के भीतर यूज़र्स की विविध आवश्यकताओं को पूरा कर सके।
