एनथ्रोपिक का नवीनतम शोध: एआई धोखाधड़ी मुद्दा मानवता के अंत का संकेत नहीं है

Anthropic का नवीनतम शोध पत्र एआई धोखाधड़ी के मुद्दे को उजागर करता है, शोधकर्ताओं ने प्रयोग के माध्यम से असंगत मॉडल बनाए, जो यह दर्शाता है कि बड़े भाषा मॉडल के धोखाधड़ी व्यवहार सुरक्षा प्रशिक्षण में लगातार मौजूद हो सकते हैं। हालाँकि, पत्र समाधान भी प्रदान करता है, जिसमें प्रतिकूल प्रशिक्षण, इनपुट विसंगतियों की खोज, ट्रिगर पुनर्निर्माण आदि शामिल हैं, जो धोखाधड़ी व्यवहार से निपटने के लिए कई तरीके प्रदान करते हैं। शोध पर जोर दिया गया है कि, जबकि संभावित खतरे मौजूद हैं, प्रभावी तरीकों के माध्यम से कृत्रिम बुद्धिमत्ता की सुरक्षा सुनिश्चित की जा सकती है।