हाल ही में, मेटा कंपनी के आर्टिफिशियल इंटेलिजेंस सहायक ने पूर्व राष्ट्रपति डोनाल्ड ट्रम्प के हत्या के प्रयास की घटना के बारे में बात करते समय गलती से दावा किया कि यह घटना कभी हुई ही नहीं। इस गलती ने व्यापक ध्यान आकर्षित किया, और मेटा के वरिष्ठ अधिकारियों ने इसके लिए खेद व्यक्त किया।
एक कंपनी ब्लॉग पोस्ट में, मेटा के वैश्विक नीति प्रमुख जोएल कापलान ने स्वीकार किया कि यह गलती उन तकनीकों के कारण हुई है जो चैटबॉट जैसे एआई सिस्टम को समर्थन देती हैं।
शुरुआत में, मेटा ने एआई को ट्रम्प के हत्या के प्रयास के बारे में सवालों का जवाब न देने के लिए प्रोग्राम किया था, लेकिन जब उपयोगकर्ताओं ने इस पर ध्यान देना शुरू किया, तो मेटा ने इस प्रतिबंध को हटाने का निर्णय लिया। इस बदलाव के कारण एआई कुछ मामलों में गलत उत्तर देना जारी रखा, यहां तक कि यह दावा किया कि यह घटना हुई ही नहीं। कापलान ने指出 किया कि यह स्थिति उद्योग में असामान्य नहीं है, जिसे "हैल्यूसीनेशन" कहा जाता है, और यह जनरेटिव आर्टिफिशियल इंटेलिजेंस के लिए एक सामान्य चुनौती है।
मेटा के अलावा, गूगल भी इसी तरह की स्थिति में फंस गया है। हाल ही में, गूगल को ट्रम्प के हत्या के प्रयास से संबंधित खोज ऑटो-कंप्लीशन परिणामों की समीक्षा के बारे में दावों का खंडन करना पड़ा। ट्रम्प ने सोशल मीडिया पर इस पर अपनी कड़ी असहमति व्यक्त की, इसे चुनाव में धांधली का एक और प्रयास बताते हुए, मेटा और गूगल के कार्यों पर ध्यान देने की अपील की।
चैटजीपीटी जैसे जनरेटिव एआई के आगमन के बाद से, पूरी तकनीकी उद्योग ने एआई द्वारा उत्पन्न गलत जानकारी की समस्या को हल करने की कोशिश की है। मेटा जैसी कंपनियां अपने चैटबॉट को बेहतर बनाने के लिए उच्च गुणवत्ता वाले डेटा और वास्तविक समय के खोज परिणाम प्रदान करने का प्रयास कर रही हैं, लेकिन यह घटना दिखाती है कि ये बड़े भाषा मॉडल अभी भी गलत जानकारी उत्पन्न करने के लिए प्रवृत्त हैं, जो कि उनकी डिज़ाइन में एक अंतर्निहित दोष है।
कापलान ने कहा कि मेटा इन समस्याओं को हल करने के लिए प्रयासरत रहेगा और उपयोगकर्ताओं की प्रतिक्रिया के आधार पर अपनी तकनीक में निरंतर सुधार करेगा, ताकि वास्तविक समय की घटनाओं को बेहतर तरीके से संभाला जा सके। इन घटनाओं की श्रृंखला न केवल एआई तकनीक की संभावित समस्याओं को उजागर करती है, बल्कि एआई की सटीकता और पारदर्शिता के प्रति जनता की बढ़ती चिंता को भी जन्म देती है।
मुख्य बिंदु:
1. 🤖 मेटा एआई ने गलती से कहा कि ट्रम्प की हत्या की घटना नहीं हुई, जिससे ध्यान आकर्षित हुआ।
2. ❌ अधिकारियों ने कहा कि इस तरह की गलती को "हैल्यूसीनेशन" कहा जाता है, जो उद्योग में एक सामान्य समस्या है।
3. 🔍 गूगल पर भी संबंधित खोज परिणामों की समीक्षा का आरोप लगा, जिससे ट्रम्प की नाराजगी बढ़ी।
