हाल ही में, टिकटॉक सुरक्षा केंद्र ने एक सूचना जारी की है जिसमें कहा गया है कि वह प्लेटफ़ॉर्म पर शेयर निवेश से जुड़ी सामग्री की निगरानी को और मज़बूत करेगा ताकि एक स्वस्थ ऑनलाइन माहौल बनाया जा सके। प्लेटफ़ॉर्म वित्तीय और प्रतिभूति विशेषज्ञों को वास्तविक और विश्वसनीय शेयर जानकारी साझा करने के लिए प्रोत्साहित करता है, और अफवाहों को फैलाने या झूठी जानकारी देने से बचने की सलाह देता है ताकि मिलकर उद्योग के विकास को आगे बढ़ाया जा सके। हालाँकि, टिकटॉक ने पाया है कि कुछ खातों ने बिना किसी प्रमाणपत्र के तथाकथित AI उपकरणों का उपयोग करके गलत जानकारी प्रकाशित की है, उपयोगकर्ताओं का ध्यान आकर्षित किया है, और यहाँ तक कि धोखाधड़ी भी की है। ये खाते अक्सर कुशल AI स्टॉक चयन उपकरणों की सिफारिश करके...

ली लियांग ने बताया कि एक लेख जिसका शीर्षक है 'बाइट एआई टीम में बड़े बदलाव', में कई जगह गलत जानकारी दी गई है। लेख में उल्लेख किया गया तकनीकी उपाध्यक्ष यांग झेन जल्द रिटायर होंगे, फोंग जिया टाइम छोड़कर उद्यमिता करेंगे, आदि सभी गलत स्रोतों के कारण है। इसके अलावा, झांग यिमिंग द्वारा वांडूजिया के संस्थापक वांग जुनयु एवं शंघाई मोसू स्पेस स्टार्टअप कंपनी की यात्रा के बारे में रिपोर्ट भी तथ्यों के अनुरूप नहीं है।

आर्टिफिशियल इंटेलिजेंस प्रौद्योगिकी के तेजी से विकास के साथ, AI द्वारा उत्पन्न पाठ, चित्र और वीडियो विभिन्न क्षेत्रों में अधिक परिपक्वता प्राप्त कर रहे हैं। हालाँकि, इसके साथ विश्वास संकट भी सामने आया है, और गलत जानकारी का प्रसार समाज के लिए संभावित खतरा बन गया है। इस चुनौती का सामना करने के लिए, Tencent ने हाल ही में एक नई AI जनित कंटेंट पहचान उपकरण पेश किया है, जिसका उद्देश्य AI प्रौद्योगिकी के माध्यम से “AI की जाँच करना” है। यह उपकरण Tencent के ज़ुह फेन प्रयोगशाला द्वारा विकसित किया गया है, जिसमें AI जनित पाठ पहचान और AI जनित चित्र पहचान के लिए दो सिस्टम शामिल हैं। Tencent ने आधिकारिक तौर पर उल्लेख किया है

एप्पल कंपनी ने हाल ही में एआई समाचार सारांश नामक एक नई सुविधा पेश की है, लेकिन इस सुविधा ने त्वरित समाचारों का सारांश देते समय बार-बार गंभीर गलतियां की हैं, जिसके परिणामस्वरूप उपयोगकर्ताओं को बहुत सारा गलत जानकारी प्राप्त हो रही है। इस सुविधा के लॉन्च होने के बाद से, कई समाचार संगठनों और उपयोगकर्ताओं ने इस पर कड़ी असंतोष व्यक्त किया है, यह मानते हुए कि एप्पल की तकनीक अभी成熟 नहीं है, और सही जानकारी प्रदान करने में प्रभावी नहीं है। रिपोर्ट्स के अनुसार, वाशिंगटन पोस्ट के तकनीक स्तंभकार ज्योफ्री फॉव्लर ने सोशल मीडिया पर एक पोस्ट में बताया कि एप्पल एआई ने एक समाचार सारांश में सही

अमेरिकी राष्ट्रपति चुनाव के दौरान, X का चैटबॉट Grok गलत जानकारी फैलाते हुए पाया गया। TechCrunch की टेस्टिंग के अनुसार, Grok चुनाव परिणामों के बारे में पूछे गए सवालों के जवाब देते समय अक्सर गलत होता है, यहाँ तक कि उसने महत्वपूर्ण युद्ध क्षेत्र के राज्यों में ट्रम्प को विजेता घोषित कर दिया, हालाँकि इन राज्यों की मतगणना और रिपोर्टिंग अभी समाप्त नहीं हुई थी। एक साक्षात्कार में, Grok ने कई बार कहा कि ट्रम्प ने 2024 के ओहायो राज्य चुनाव में जीत हासिल की, जबकि तथ्य इसके विपरीत हैं। गलत जानकारी का स्रोत विभिन्न चुनावी वर्षों के ट्वीट और भ्रामक शब्दावली से प्रतीत होता है।

हाल ही में, OpenAI की व्हिस्पर तकनीक से संचालित एक AI ट्रांसक्रिप्शन टूल स्वास्थ्य उद्योग में काफी लोकप्रिय हुआ है। कई डॉक्टर और स्वास्थ्य संस्थान इस टूल का उपयोग रोगियों की मुलाकातों को दर्ज करने और संक्षेपित करने के लिए कर रहे हैं। ABC समाचार की रिपोर्ट के अनुसार, शोधकर्ताओं ने पाया कि यह टूल कुछ मामलों में 'हेनियुइशन' संकेत करता है, कभी-कभी तो यह पूरी तरह से सामग्री गढ़ देता है। यह ट्रांसक्रिप्शन टूल, जिसे नैब्ला नामक कंपनी ने विकसित किया है, ने 70 लाख से अधिक चिकित्सा संवादों का सफलतापूर्वक ट्रांसक्रिप्शन किया है, वर्तमान में 30,000 से अधिक

मस्क के सोशल मीडिया प्लेटफॉर्म X (पूर्व Twitter) ने 2024 के राष्ट्रपति चुनावों में गलत जानकारी के मुद्दे को संबोधित करते हुए समायोजन किया, विशेष रूप से इसके एआई सिस्टम ग्रोक के साथ, ताकि उपयोगकर्ताओं को आधिकारिक सूचना स्रोतों जैसे vote.gov पर मार्गदर्शन कर सके, जिससे नवीनतम चुनाव जानकारी प्राप्त हो सके। कई अमेरिकी सचिवों ने ग्रोक की चुनाव से संबंधित मुद्दों को संभालने में हुई गलतियों पर चिंता व्यक्त की है, यह बताते हुए कि इससे सूचना की उलझन पैदा हो सकती है, और इसे सुधारने का आग्रह किया। ग्रोक ने राष्ट्रपति बाइडेन के चुनावी दौड़ से बाहर निकलने की घोषणा के बाद, गलत घोषणा की कि कुछ राज्यों में मतपत्रों की अंतिम तिथि समाप्त हो चुकी है, जिससे व्यापक चिंता का प्रसार हुआ।

हाल की रिपोर्टों में खुलासा किया गया है कि प्रमुख और वित्तीय समर्थन प्राप्त AI सर्च टूल Perplexity उच्च गुणवत्ता के बजाय अविश्वसनीय ब्लॉग और LinkedIn पोस्ट से कम गुणवत्ता वाले और यहां तक कि गलत AI-जनित बकवास जानकारी का हवाला दे रहा है।

SEC की जांच का फोकस OpenAI और CEO सैम आल्टमैन द्वारा निवेशकों के लिए जारी किए गए बयान पर है, क्या वो भ्रामक थे। जांच न्यूयॉर्क में चल रही है, और उच्च अधिकारियों से आंतरिक दस्तावेज़ रखने के लिए कहा गया है। आल्टमैन को पहले हटा दिया गया था, लेकिन फिर से नियुक्त किया गया, जिससे कंपनी में उथल-पुथल मची है।

अनुसंधान से पता चला है कि ChatGPT जैसे बड़े भाषा मॉडल अक्सर साजिशों, हानिकारक पूर्वाग्रहों आदि की गलत जानकारी को दोहराते हैं। उन्होंने पाया कि GPT-3 अक्सर गलतियाँ करता है, एक बार के उत्तर के दौरान आत्म-矛盾 होता है, और हानिकारक गलत जानकारी को दोहराता है। शोधकर्ताओं ने चार विभिन्न सर्वेक्षण टेम्पलेट्स का उपयोग किया, जो छह श्रेणियों के तथ्य और गलत जानकारी को शामिल करते हैं।