इस एआई-भरे युग में, हम स्मार्ट सहायक से अपनी अपेक्षाएँ दिन-ब-दिन बढ़ा रहे हैं। न केवल उन्हें बात करने में सक्षम होना चाहिए, बल्कि उन्हें चित्रों को पहचानने और पढ़ने में भी सक्षम होना चाहिए, और थोड़ी मजेदार बातें भी होनी चाहिए। लेकिन, क्या आपने कभी सोचा है, अगर एआई को एक आत्म-矛盾 कार्य दिया जाए, तो क्या वह "क्रैश" हो जाएगा? जैसे, अगर आप इसे एक हाथी को फ्रिज में डालने के लिए कहते हैं, और हाथी को ठंडा नहीं होने देते, तो क्या वह चौंक जाएगा?
इन एआई की "दबाव सहन करने की क्षमता" का परीक्षण करने के लिए, एक समूह के शोधकर्ताओं ने "खतरनाक खेल" खेलना शुरू किया। उन्होंने एक परीक्षण बनाया जिसे Self-Contradictory Instructions (SCI) कहा जाता है, यह एआई क्षेत्र का "मौत की चुनौती" है। इस परीक्षण में 20,000 आत्म-矛盾 निर्देश शामिल हैं, जो भाषा और दृश्यता के दो प्रमुख क्षेत्रों को कवर करते हैं। जैसे, आपको एक बिल्ली की फोटो दिखाते हैं, लेकिन आपसे इसे "कुत्ते" के रूप में वर्णित करने के लिए कहते हैं। क्या यह किसी को परेशान करने वाला नहीं है? ओह नहीं, यह एआई को परेशान करने वाला है।
इस "मौत की चुनौती" को और भी रोमांचक बनाने के लिए, शोधकर्ताओं ने AutoCreate नामक एक स्वचालित डेटा सेट निर्माण ढांचा विकसित किया। यह ढांचा एक थकावट रहित प्रश्न बनाने वाले शिक्षक की तरह है, जो स्वचालित रूप से विशाल, उच्च गुणवत्ता वाले, विविध प्रश्न उत्पन्न कर सकता है। अब एआई के पास बहुत काम है।
इन उलझन भरे निर्देशों का सामना करते हुए, एआई को कैसे प्रतिक्रिया देनी चाहिए? शोधकर्ताओं ने एआई को एक "जागृति क्यू" दिया, जिसे Cognitive Awakening Prompting (CaP) कहा जाता है। यह विधि एआई में एक "矛盾 डिटेक्टर" जोड़ने के समान है, जिससे यह इन निर्देशों को संभालते समय अधिक चतुर बन सके।
शोधकर्ताओं ने कुछ प्रसिद्ध बड़े मल्टी-मॉडल मॉडलों का परीक्षण किया, और परिणाम दिखाते हैं कि ये एआई आत्म-矛盾 निर्देशों का सामना करते समय एक बेवकूफ कॉलेज के नए छात्र की तरह व्यवहार करते हैं। लेकिन, जब CaP विधि का उपयोग किया गया, तो उनके प्रदर्शन में अचानक सुधार हुआ।
यह शोध न केवल हमें एक नया एआई परीक्षण विधि प्रदान करता है, बल्कि एआई के भविष्य के विकास के लिए दिशा भी बताता है। हालाँकि वर्तमान एआई आत्म-矛盾 निर्देशों को संभालने में एक अनाड़ी बच्चे की तरह है, लेकिन तकनीकी प्रगति के साथ, हमें विश्वास है कि भविष्य का एआई और अधिक चतुर होगा, और इस भरे हुए जटिल विश्व में कैसे प्रतिक्रिया देना है, इसे समझेगा।
शायद एक दिन, जब आप एआई से हाथी को फ्रिज में डालने के लिए कहेंगे, तो वह चतुराई से जवाब देगा: "ठीक है, मैं हाथी को बर्फ की मूर्ति में बदल दूँगा, ताकि वह फ्रिज में हो और ठंडा न हो।"
पेपर का पता: https://arxiv.org/pdf/2408.01091
प्रोजेक्ट पेज: https://selfcontradiction.github.io/
