संवादात्मक AI तकनीक के तेजी से विकास के साथ, AI वॉइस एजेंट धीरे-धीरे अधिक से अधिक फोन संचार का अधिग्रहण कर रहे हैं। हालाँकि, इन AI वॉइस एजेंटों की विश्वसनीयता सुनिश्चित करना उद्योग के सामने एक बड़ी चुनौती बन गई है। हाल ही में, AI वॉइस एजेंट की विश्वसनीयता पर ध्यान केंद्रित करने वाले प्लेटफार्म Hamming.ai ने $3.8 मिलियन की सीड राउंड फंडिंग पूरी करने की घोषणा की, जिसमें Mischief ने अगुवाई की, Y Combinator, AI Grant जैसी संस्थाएँ और कई एंजेल निवेशक शामिल हुए। Hamming.ai का उदय इस उद्देश्य के लिए हुआ है,

हाल के एक श्रृंखलाबद्ध थ्रेड्स पोस्ट में, इंस्टाग्राम के प्रमुख एдам मोसेरी ने सोशल मीडिया उपयोगकर्ताओं को AI द्वारा生成 की गई सामग्री की बढ़ती मात्रा के प्रति सजग रहने का महत्व बताया। उन्होंने कहा कि उपयोगकर्ताओं द्वारा ऑनलाइन देखे जाने वाले चित्र और जानकारी वास्तव में सच्चे नहीं हो सकते हैं, क्योंकि AI तकनीक अब वास्तविकता के बहुत समान सामग्री को生成 करने में सक्षम हो गई है। उपयोगकर्ताओं को जानकारी की सत्यता को बेहतर तरीके से समझने में मदद करने के लिए, मोसेरी ने सुझाव दिया कि उपयोगकर्ताओं को सामग्री के स्रोत पर विचार करना चाहिए, और सोशल प्लेटफ़ॉर्म की भी जिम्मेदारी है।

हाल ही में, एक अध्ययन जो 'नेचर' जर्नल में प्रकाशित हुआ, ने कृत्रिम बुद्धिमत्ता के विकास में एक चिंतनशील घटना का खुलासा किया: जैसे-जैसे बड़े भाषा मॉडल (LLMs) का निरंतर उन्नयन होता है, वे प्रश्नों के उत्तर देते समय越来越 आत्मविश्वास से भरे होकर उत्तर देने की ओर प्रवृत्त होते हैं, भले ही ये उत्तर गलत हो सकते हैं। यह घटना एआई की विश्वसनीयता और उपयोग के जोखिम पर व्यापक चर्चा को उत्पन्न करती है। शोध टीम में स्पेन के वालेंसिया में कृत्रिम बुद्धिमत्ता अनुसंधान संस्थान के जोस हर्नांडेज़-ओरलो और उनकी सहयोगी शामिल हैं। उन्होंने एआई मॉडल का गहराई से विश्लेषण किया।

OpenAI ने अपनी सुरक्षा प्रणाली टीम के उपायों की घोषणा की, जो AI बड़े मॉडल की सुरक्षा और विश्वसनीयता सुनिश्चित करने के लिए समर्पित है। इसमें सुरक्षा इंजीनियरिंग, मॉडल सुरक्षा अनुसंधान, सुरक्षा तर्क अनुसंधान और मानव-मशीन इंटरएक्शन जैसे कई समूह शामिल हैं, जो कृत्रिम बुद्धिमत्ता सुरक्षा समस्याओं का समाधान करते हैं। यह सुनिश्चित किया जाता है कि मॉडल के व्यवहार मानव मूल्यों के अनुरूप हों। मॉडल के व्यवहार की संगतता पर केंद्रित अनुसंधान प्राथमिकता है।

इंटरनेट मुख्य सूचना स्रोत के रूप में उभर रहा है, एआई और मानव द्वारा निर्मित ऑनलाइन सामग्री को विश्वसनीयता के मामले में समान माना जाता है। एआई आधारित प्रणाली द्वारा स्वायत्त रूप से उत्पन्न की गई सामग्री, हालाँकि इसमें गलतियाँ हो सकती हैं, लेकिन उपयोगकर्ता इंटरफ़ेस में समान रूप से विश्वसनीय के रूप में रेट की गई है। उपयोगकर्ता कृत्रिम बुद्धिमत्ता अनुप्रयोगों की सुविधाओं का आनंद लेते समय सिस्टम की सीमाओं और अंतर्निर्मित पूर्वाग्रहों के प्रति जागरूक रहना चाहिए। वैज्ञानिक संचार और सामाजिक-राजनीतिक जिम्मेदारी को उपयोगकर्ताओं को एआई द्वारा निर्मित सामग्री के जिम्मेदार उपयोग के प्रति जागरूक करने की आवश्यकता है।

विकिपीडिया के संस्थापक जिमी वेल्स ने वेब समिट में चैटजीपीटी की विश्वसनीयता पर चिंता व्यक्त की। उनका मानना है कि चैटजीपीटी से गलत जानकारी डिजिटल उत्पादों में शामिल हो सकती है, जिससे इसके उपयोग पर सवाल उठता है। वेल्स ने डेवलपर्स से कदम उठाने की अपील की है, और कहा है कि ओपनएआई और माइक्रोसॉफ्ट के सहयोग से गूगल को समस्या हो सकती है।

लंदन की एक AI कंपनी के शोध से यह पता चला है कि SIDE प्रणाली के माध्यम से, AI विकिपीडिया की विश्वसनीयता को बढ़ाने की उम्मीद करता है। SIDE प्रणाली जानकारी के स्रोतों की जांच करके और उद्धरणों की रैंकिंग को मान्य करके विश्वसनीयता सुझाव प्रदान करती है। उपयोगकर्ता 70% मामलों में SIDE प्रणाली के सुझावों को स्वीकार करते हैं, जिससे जानकारी की सटीकता में सुधार होता है। शोध टीम विकिपीडिया पर अन्य प्रकार के उद्धरणों को संभालने में AI के उपयोग की खोज जारी रखेगी।

OpenAI का GPT-4 विश्वसनीयता में GPT-3.5 से बेहतर है। अनुसंधान से पता चलता है कि उपयोगकर्ता GPT-4 को धोखा दे सकते हैं, जिससे पूर्वाग्रहित परिणामों और व्यक्तिगत जानकारी के खुलासे का कारण बनता है। उपभोक्ताओं के लिए GPT-4 उत्पादों में ये समस्याएँ नहीं हैं।