हाल ही में, हार्वर्ड केनेडी स्कूल के "गलत जानकारी की समीक्षा" अध्ययन ने पाया कि कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न फर्जी शोध पत्र गूगल स्कॉलर जैसे शैक्षणिक खोज इंजनों में प्रवेश कर रहे हैं। यह विज्ञान के खोजों पर जनता के विश्वास को कमजोर कर सकता है और उच्च तकनीकी अनुसंधान पर निर्भर उद्योगों के उत्पाद विकास को नुकसान पहुंचा सकता है।
शोधकर्ताओं ने 139 संदिग्ध पत्रों की पहचान की है जो संभवतः कृत्रिम बुद्धिमत्ता उपकरणों द्वारा उत्पन्न किए गए हैं, जिनमें से आधे से अधिक पत्र स्वास्थ्य, पर्यावरण मुद्दों और कंप्यूटिंग तकनीक जैसे विषयों पर केंद्रित हैं। ये फर्जी शोध पत्र भ्रामक उत्पाद रिलीज और संसाधनों की बर्बादी का कारण बन सकते हैं, जिससे विज्ञान पर जनता के विश्वास और साक्ष्य-आधारित निर्णयों की विश्वसनीयता को नुकसान पहुंचता है।
कृत्रिम बुद्धिमत्ता कंपनी पॉज़िट्रॉन नेटवर्क्स के CEO और सह-संस्थापक सिड राओ ने कहा कि बड़े भाषा मॉडल मूल मॉडल के प्रशिक्षण डेटा के साथ भिन्नता के आधार पर परिणाम उत्पन्न करते हैं, जिससे पाठ में विचाराधीन पत्र के लिए वैज्ञानिक विधि से संबंधित पूर्वाग्रह उत्पन्न हो सकता है। यह पूर्वाग्रह असंगत परिणाम उत्पन्न कर सकता है और गलत सामग्री को चतुराई से उत्पन्न कर सकता है।
राओ ने चेतावनी दी कि कृत्रिम बुद्धिमत्ता के भ्रम असंगत परिणाम उत्पन्न कर सकते हैं और गलत सामग्री को चतुराई से उत्पन्न कर सकते हैं। उदाहरण के लिए, एक पत्र सही निष्कर्ष प्रस्तुत कर सकता है, लेकिन फिर भी इसमें उद्धृत या विषयगत समर्थन वाले कथन शामिल हो सकते हैं। भले ही गलती दर या भ्रम दर केवल 1% हो, ये दोनों समस्याएँ वैज्ञानिक अनुसंधान पर विश्वास को मौलिक रूप से कमजोर कर सकती हैं।
कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न फर्जी शोध पत्रों का अनुसंधान और विकास निवेश पर महत्वपूर्ण प्रभाव है। निवेशक यह नहीं पहचान सकते कि क्या वास्तविक है और क्या एल्गोरिदम की बकवास है, जिससे वे वापस हटने लगते हैं। अनुसंधान और विकास पहले से ही काफी जोखिम भरा है, और संदेहास्पद कृत्रिम बुद्धिमत्ता द्वारा संचालित प्रकाशनों से उत्पन्न अनिश्चितता स्थिति को और भी खराब कर देती है।
इसके अलावा, जाली दस्तावेजों का व्यावसायिक नियमों पर प्रभाव भी बहुत गंभीर हो सकता है। अविश्वसनीय शोध नियामक संस्थाओं को भ्रमित कर देता है; यदि उत्पाद के पीछे का वैज्ञानिक आधार अविश्वसनीय है, तो कानून निर्माता या तो उपभोक्ताओं की रक्षा के लिए अत्यधिक नियमों को लागू करेंगे या इससे भी बदतर, वे फर्जी डेटा के आधार पर खराब नीतियाँ बनाएंगे।
शोधकर्ताओं ने कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न फर्जी शोध पत्रों के नियमन को मजबूत करने का आह्वान किया है और वैज्ञानिक समुदाय और नियामक संस्थाओं से विज्ञान अनुसंधान की विश्वसनीयता और वास्तविकता सुनिश्चित करने के लिए कदम उठाने का अनुरोध किया है।
