हाल के वर्षों में, दृश्य बड़े मॉडल (Large Vision Language Models, LVLMs) ने चित्रों की समझ और अंतःप्रणाली कार्यों में असाधारण क्षमता दिखाई है, हालाँकि इसके साथ आने वाली '幻觉 समस्या' भी बढ़ती जा रही है। इस चुनौती का सामना करने के लिए, टाओतियान समूह के भविष्य के जीवन प्रयोगशाला टीम ने 'टोकन पसंद अनुकूलन' (Token Preference Optimization, संक्षेप में TPO) नामक एक नई विधि पेश की है और एक स्व-संरेखण विधि को पेश किया है।

हाल ही में, माइक्रोसॉफ्ट ने एक पेटेंट आवेदन प्रस्तुत किया है, जिसका उद्देश्य एक तकनीकी विधि के माध्यम से कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न झूठी जानकारी को कम या समाप्त करना है। इस पेटेंट का नाम है 'बाहरी ज्ञान और फीडबैक के साथ भाषा मॉडल का इंटरएक्टिविज़ेशन', जिसे पिछले वर्ष अमेरिकी पेटेंट और ट्रेडमार्क कार्यालय (USPTO) में दायर किया गया था और 31 अक्टूबर को सार्वजनिक किया गया। इस प्रस्ताव का मुख्य उद्देश्य एआई मॉडल को एक 'प्रतिक्रिया वृद्धि प्रणाली' (RAS) प्रदान करना है, ताकि वह उपयोगकर्ता के प्रश्नों के आधार पर स्वचालित रूप से अधिक जानकारी निकाल सके और अपने उत्तर की 'कारगरता' की जांच कर सके। विशेष रूप से, प्रतिक्रिया वृद्धि प्रणाली

आधुनिक समय में, जब कृत्रिम बुद्धिमत्ता तेजी से विकसित हो रही है, AI '幻觉' की घटनाएं और भी बढ़ गई हैं, जो कई व्यवसायों के लिए समस्याएँ पैदा कर रही हैं। ग्राहक सेवा चैट बॉट्स आत्मविश्वास से ऐसी उत्पादों का वर्णन करते हैं जो अस्तित्व में नहीं हैं, वित्तीय AI बाजार डेटा का निर्माण करता है, और चिकित्सा रोबोट खतरनाक चिकित्सा सलाह प्रदान करते हैं। ये समस्याएँ अब केवल मजेदार घटनाएँ नहीं हैं, बल्कि ये कंपनियों की प्रतिष्ठा और लाभ पर गंभीर प्रभाव डाल रही हैं। इस चुनौती का सामना करने के लिए, सैन फ्रांसिस्को स्थित स्टार्टअप Patronus AI ने एक स्व-सेवा प्लेटफ़ॉर्म लॉन्च करने की घोषणा की है, जिसका उद्देश्य वास्तविक समय में पहचानना और रोकना है।

मेटा कंपनी के कृत्रिम बुद्धिमत्ता सहायक ने पूर्व राष्ट्रपति ट्रंप की हत्या की नाकाम घटना की गलत रिपोर्ट दी, जो वास्तव में हुई ही नहीं। इस गलती ने व्यापक चर्चा का जन्म दिया है, और मेटा के अधिकारियों ने对此 खेद व्यक्त किया है। एआई प्रोग्रामिंग सीमाएँ इस प्रकार के भ्रामक उत्तर का कारण बनी हैं, जिसे शुरू में ट्रंप हत्या से संबंधित प्रश्नों का उत्तर न देने के लिए सेट किया गया था। हालाँकि, सीमाएँ हटा दिए जाने के बाद भी एआई कुछ मामलों में गलत जानकारी प्रदान करता रहा। इस घटना को '幻觉' कहा जाता है, जो जनरेटिव आर्टिफिशियल इंटेलिजेंस का सामान्य चुनौती है। इस प्रकार की समस्याएँ गूगल को भी परेशान कर रही हैं, जिसका खोज स्वचालित पूर्णता कार्यक्षमता को भी ट्रंप की निगरानी करने के लिए आरोपित किया गया था।

हालांकि ChatGPT, Claude और Gemini जैसे बड़े भाषा मॉडल प्रभावशाली हैं, लेकिन उनमें एक सामान्य और बड़ा समस्या है: वे अक्सर幻觉 पैदा करते हैं। यह कृत्रिम बुद्धिमत्ता के क्षेत्र में एक गंभीर समस्या है, यहां तक कि Apple ने भी भविष्य की Apple Intelligence द्वारा幻觉 को संभालने के तरीके के बारे में चिंता व्यक्त की है। शुक्र है, शोधकर्ताओं के एक समूह ने अब एक AI幻觉 डिटेक्टर विकसित किया है जो यह判断 कर सकता है कि AI ने किसी सामग्री को虚构 किया है या नहीं।

गैलीलियो लैब ने नई指标推出 की है, जो生成 एआई की सटीकता में सुधार में मदद करती है। ओपनएआई जीपीटी-4基本问答任务中幻觉倾向为23%。गैलीलियो लैब्स के नए指标 में सटीकता और संदर्भ संगतता शामिल है। ये नए उपकरण企业在 एआई कार्यान्वयन中幻觉问题的测试和减轻 में मदद कर सकते हैं。

मेटा के तहत गैलेक्सिका मॉडल के लॉन्च के केवल तीन दिन बाद幻觉问题 के कारण इसे ऑफ़लाइन किया गया, LeCun ने खेद व्यक्त किया। गैलेक्सिका को बड़े भाषा मॉडल के प्रारंभिक प्रयासों में से एक माना गया है, जो मेटा की भविष्य की परियोजनों पर सकारात्मक प्रभाव डाल सकता है। मॉडल के मुख्य लेखक रॉस टेलर ने स्वीकार किया कि रिलीज के समय मूल मॉडल की पूरी तरह से जांच नहीं की गई थी, लेकिन उन्होंने फिर भी शोध के मूल्य पर जोर दिया। मेटा कंपनी के AI अनुसंधान उपाध्यक्ष जोएले पाइनौ ने जोर दिया कि गैलेक्सिका एक अनुसंधान परियोजना है, उत्पाद नहीं। गैलेक्सिका का ऑफ़लाइन होना चर्चा का विषय बन गया।

अमेरिकी AI स्टार्टअप गैलिलियो ने नया उपकरण लॉन्च किया है, जो उपयोगकर्ताओं को AI बड़े मॉडल की幻觉现象 को समझने में मदद करता है। गैलिलियो स्टूडियो में रियल-टाइम मॉनिटरिंग फीचर है, जो LLMs के प्रदर्शन को अनुकूलित करता है। गैलिलियो ने नए मानकों और सुरक्षा उपायों को पेश किया है, जो मॉडल के आउटपुट की वास्तविकता का मूल्यांकन करते हैं,幻觉问题 को हल करते हैं और सुनिश्चित करते हैं कि LLMs सही और अनुपालन वाला आउटपुट देते हैं।