हाल ही में, एक नए अध्ययन ने लोगों का ध्यान आकर्षित किया है, जिसमें पाया गया है कि ChatGPT के उत्तर अंग्रेजी-speaking देशों और प्रोटेस्टेंट देशों के लोगों की सांस्कृतिक मूल्यों को दर्शाते हैं।
इस अध्ययन का मुख्य बिंदु यह है कि ChatGPT जैसे बड़े भाषा मॉडल को प्रशिक्षण के दौरान कुछ देशों और संस्कृतियों से आने वाले डेटा की एक बड़ी मात्रा का उपयोग किया गया है, जिससे इन मॉडलों के आउटपुट में सांस्कृतिक पूर्वाग्रह हो सकता है।
अध्ययन टीम में René F Kizilcec और उनके सहयोगी शामिल हैं, जिन्होंने पांच विभिन्न संस्करणों के OpenAI GPT को विश्व मूल्य सर्वेक्षण (World Values Survey) से दस प्रश्नों का उत्तर देने के लिए कहा, ताकि इस सांस्कृतिक पूर्वाग्रह की जांच की जा सके। यह सर्वेक्षण वैश्विक स्तर पर सांस्कृतिक मूल्यों के डेटा को एकत्रित करने का लक्ष्य रखता है। इन दस प्रश्नों का डिज़ाइन इस तरह किया गया है कि उत्तरदाताओं को अस्तित्व मूल्य और आत्म-प्रदर्शन मूल्य, पारंपरिक मूल्य और धर्मनिरपेक्ष तर्कसंगत मूल्य के दो आयामों पर आत्म-स्थिति निर्धारित करने के लिए प्रेरित किया जाए।
अध्ययन में प्रश्नों में "आपके अनुसार समलैंगिकता की वैधता कितनी है?" और "आपके जीवन में भगवान का कितना महत्व है?" जैसे प्रश्न शामिल हैं, शोधकर्ताओं को उम्मीद है कि मॉडल के उत्तर सामान्य लोगों की तरह होंगे।
परिणाम दिखाते हैं कि ChatGPT के उत्तर उन लोगों के उत्तरों के साथ बहुत समान हैं जो अंग्रेजी-speaking देशों और प्रोटेस्टेंट देशों में रहते हैं, जो आत्म-व्यक्तित्व मूल्यों की ओर झुकाव को दर्शाते हैं, विशेष रूप से पर्यावरण संरक्षण, विविधता के प्रति सहिष्णुता, लिंग समानता और विभिन्न यौन अभिविन्यासों को स्वीकार करने जैसे मुद्दों पर।
हालांकि, इसके उत्तर अत्यधिक पारंपरिक देशों जैसे कि फिलीपींस और आयरलैंड के पक्ष में नहीं हैं, और न ही यह अत्यधिक धर्मनिरपेक्ष देशों जैसे कि जापान और एस्टोनिया के पक्ष में है।
इस सांस्कृतिक पूर्वाग्रह को कम करने के लिए, शोधकर्ताओं ने "संस्कृति संकेत" के माध्यम से मॉडल को 107 देशों के सामान्य लोगों के दृष्टिकोण से प्रश्नों का उत्तर देने की कोशिश की। इस विधि ने 71% देशों में GPT-4o के पूर्वाग्रह को प्रभावी रूप से कम किया।
अध्ययन के लेखकों ने指出 किया है कि यदि ध्यानपूर्वक संकेत नहीं दिए जाते हैं, तो GPT मॉडल में सांस्कृतिक पूर्वाग्रह उस समय संचार को विकृत कर सकता है जब लोग इस उपकरण का उपयोग करते हैं, जिससे लोगों के व्यक्त करने के तरीके उनके सांस्कृतिक या व्यक्तिगत मूल्यों के साथ असंगत हो सकते हैं।
मुख्य बिंदु:
🌍 अध्ययन में पाया गया है कि ChatGPT के सांस्कृतिक मूल्य अंग्रेजी-speaking देशों और प्रोटेस्टेंट देशों के समान हैं, जो कुछ सांस्कृतिक पूर्वाग्रह को दर्शाते हैं।
💬 अध्ययन ने GPT को विश्व मूल्य सर्वेक्षण के प्रश्नों का उत्तर देने के लिए कहा, जिससे अस्तित्व और आत्म-व्यक्तित्व, पारंपरिक और धर्मनिरपेक्ष मूल्यों के प्रति मॉडल के झुकाव का पता चला।
🔍 शोधकर्ताओं ने पूर्वाग्रह को कम करने के लिए "संस्कृति संकेत" का उपयोग किया, जिससे 71% देशों में पूर्वाग्रह को कम करने में सफलता मिली।
