आज की तेजी से विकसित हो रही कृत्रिम बुद्धिमत्ता के युग में, AI "भ्रम" की घटनाएँ अधिक सामान्य होती जा रही हैं, जो कई कंपनियों के लिए परेशानी का कारण बन रही हैं। ग्राहक सेवा चैटबॉट आत्मविश्वास से गैर-मौजूद उत्पादों का वर्णन करते हैं, वित्तीय AI बाजार डेटा बनाते हैं, और चिकित्सा रोबोट खतरनाक चिकित्सा सलाह प्रदान करते हैं। ये समस्याएँ अब केवल मजेदार घटनाएँ नहीं रह गई हैं, बल्कि कंपनी की प्रतिष्ठा और लाभ पर प्रभाव डालने वाली गंभीर चिंताएँ बन गई हैं।
इस चुनौती का सामना करने के लिए, सैन फ्रांसिस्को स्थित स्टार्टअप Patronus AI ने एक स्व-सर्विस प्लेटफॉर्म लॉन्च करने की घोषणा की है, जिसका उद्देश्य AI सिस्टम में खराबी का वास्तविक समय में पता लगाना और रोकना है। यह प्लेटफॉर्म AI सिस्टम का "स्पेल चेक" की तरह काम करता है, जो समस्याएँ उत्पन्न होने से पहले उन्हें पकड़ लेता है।
Patronus AI के CEO आनंद कन्नप्पन ने एक साक्षात्कार में कहा कि कई कंपनियाँ उत्पादन वातावरण में AI खराबियों का सामना कर रही हैं, जिनमें भ्रम, सुरक्षा खामियाँ और अप्रत्याशित व्यवहार शामिल हैं। कंपनी के शोध के अनुसार, प्रमुख AI मॉडल जैसे GPT-4 द्वारा संकेत देते समय 44% की संभावना है कि वे कॉपीराइट सामग्री को दोहराएँगे, और यहां तक कि उन्नत मॉडल भी मूल सुरक्षा परीक्षणों में 20% से अधिक की संभावना के साथ असुरक्षित प्रतिक्रियाएँ उत्पन्न करते हैं।
कंपनियों को AI सिस्टम की सुरक्षा बढ़ाने में मदद करने के लिए, Patronus AI ने कई अभिनव सुविधाएँ प्रदान की हैं। इनमें सबसे उल्लेखनीय "मूल्यांकनकर्ता" सुविधा है, जो कंपनियों को सरल अंग्रेजी में अनुकूलित मूल्यांकन नियम लिखने की अनुमति देती है। यह लचीलापन विभिन्न उद्योगों की कंपनियों को अपनी आवश्यकताओं के अनुसार समायोजित करने की अनुमति देता है, जैसे कि वित्तीय सेवा कंपनियाँ अनुपालन पर ध्यान केंद्रित कर सकती हैं, जबकि चिकित्सा संस्थान रोगी गोपनीयता और चिकित्सा सटीकता पर ध्यान केंद्रित कर सकते हैं।
प्लेटफॉर्म का मुख्य भाग एक क्रांतिकारी भ्रम पहचान मॉडल "Lynx" है, जो चिकित्सा असत्यताओं की पहचान में GPT-4 से 8.3% अधिक सटीकता के साथ कार्य करता है। इसके अलावा, इस प्लेटफॉर्म में दो संचालन मोड हैं: एक वास्तविक समय की निगरानी के लिए और दूसरा गहन विश्लेषण के लिए। पारंपरिक त्रुटि जांच के अलावा, कंपनी ने CopyrightCatcher (कॉपीराइट पहचान उपकरण) और FinanceBench (वित्तीय प्रदर्शन मूल्यांकन मानक) जैसे विशिष्ट उपकरण विकसित किए हैं, जो कंपनियों को व्यापक AI खराबी सुरक्षा प्रदान करते हैं।
अधिक कंपनियों को इन सुरक्षा उपकरणों का उपयोग करने में सक्षम बनाने के लिए, Patronus AI ने एक ऑन-डिमांड भुगतान मॉडल अपनाया है, जिसकी शुरुआती कीमत प्रति 1000 API कॉल के लिए 10 डॉलर है। प्रारंभिक उपयोगकर्ताओं में HP, AngelList और Pearson जैसे बड़े व्यवसाय शामिल हैं, जो AI सुरक्षा में निवेश के महत्व को दर्शाते हैं।
AI के तेजी से विकास के इस युग में, Patronus AI जैसे उपकरण न केवल कंपनियों को जोखिम कम करने में मदद कर सकते हैं, बल्कि आगामी कानूनों और नियमों के अनुपालन में भी सहायक हैं। जैसे-जैसे AI सिस्टम विकसित होते रहेंगे, इन "भ्रम" को सटीक रूप से पकड़ने और सुधारने की चुनौती कंपनियों के सामने एक महत्वपूर्ण चुनौती होगी।
उत्पाद का प्रवेश द्वार: https://www.patronus.ai/
मुख्य बिंदु:
🌟 Patronus AI ने AI भ्रम घटनाओं का वास्तविक समय में पता लगाने और रोकने के लिए पहला स्व-सर्विस API लॉन्च किया है।
🛡️ यह प्लेटफॉर्म कंपनियों को सरल अंग्रेजी में अनुकूलित मूल्यांकन नियम बनाने की अनुमति देता है, लचीले समाधान प्रदान करता है।
💰 ऑन-डिमांड भुगतान मॉडल अपनाया गया है, जिससे अधिक कंपनियाँ AI सुरक्षा उपकरणों का उपयोग कर सकें।
