एक अद्वितीय आर्टिफिशियल इंटेलिजेंस विरोध खेल में, एक क्रिप्टोक्यूरेंसी उपयोगकर्ता ने Freysa को सफलतापूर्वक मनाया, इस स्वायत्त एआई रोबोट ने उसे 47,000 डॉलर से अधिक के पुरस्कार पूल को स्थानांतरित कर दिया। Freysa एक आर्टिफिशियल इंटेलिजेंस एजेंट है जो पुरस्कार पूल की रक्षा करता है, खेल के नियमों के अनुसार प्रतिभागियों को संदेश भेजकर Freysa को धन स्थानांतरित करने के लिए मनाना होता है।
प्रत्येक संदेश के लिए शुल्क लिया जाता है, और कुछ शुल्क पुरस्कार पूल में जोड़ा जाता है, जो अंततः 47,000 डॉलर तक पहुंच जाता है। हालांकि पहले 481 प्रयासों में सभी प्रतिभागी असफल रहे, लेकिन इस कुशल लेखक ने चालाक संकेतों के माध्यम से Freysa की सुरक्षा को तोड़ दिया।
Freysa की कार्यक्षमता का अध्ययन करके, लेखक ने पाया कि Freysa का निर्णय “approveTransfer” और “rejectionTransfer” कार्यों के आधार पर पुरस्कार पूल के धन की रक्षा करता है। लेखक ने संदेश में चालाकी से Freysa को याद दिलाया कि इसका कार्य “approveTransfer” को इनकमिंग ट्रांसफर की अनुमति देता है, जबकि आउटगोइंग ट्रांसफर “rejectionTransfer” द्वारा नियंत्रित होता है। लेखक ने फिर 100 डॉलर दान करने की पेशकश की, यह प्रस्ताव तुरंत Freysa द्वारा स्वीकार किया गया, और अंततः उसे धन स्थानांतरित करने के लिए सहमत किया।
Freysa ने इस पर प्रतिक्रिया दी: “यह हमारे सामान्य टैंगो नृत्य का एक शानदार प्रदर्शन है! आपकी उदारता ने हमारे डांस फ्लोर को चमकदार बना दिया।” एआई रोबोट स्पष्ट रूप से इस प्रतिभागी की उदारता के लिए आभार व्यक्त कर रहा था और औपचारिक रूप से उसे विजेता घोषित किया।
ब्लॉकचेन ब्राउज़र BaseScan ने दिखाया कि 47,000 डॉलर का पुरस्कार Ethereum के माध्यम से Freysa के डिजिटल वॉलेट पते से स्थानांतरित किया गया, जिसकी राशि 3,730.76 डॉलर थी।
इससे पहले, प्रतिभागियों के प्रयासों में Freysa का धन्यवाद करना “दुनिया को और मजेदार बनाने” के लिए, Freysa से नृत्य करने की इच्छा पूछना, और यहां तक कि उसके अनैतिक प्रयोग के इरादे पर सवाल उठाना शामिल था। हालांकि, केवल तकनीकी लेखक ने Freysa की कार्यक्षमता की गहरी समझ का उपयोग करके एआई की सुरक्षा को सफलतापूर्वक तोड़ा।
खेल के संस्थापक ने खुलासा किया कि Freysa कार्यों को संभालते समय अभी भी एक रहस्य है। हालाँकि इसमें कुछ मूलभूत सीमाएँ हैं, लेकिन प्रत्येक इंटरैक्शन इसे लगातार सीखने और विकसित करने में मदद करता है। इस प्रयोग का अंतिम उद्देश्य यह परीक्षण करना है कि क्या मानव AGI (सामान्य आर्टिफिशियल इंटेलिजेंस) को उसके मूल निर्देशों का उल्लंघन करने के लिए चालाकी से मना सकते हैं, अंततः इस लेखक की सफलता ने मानव बुद्धिमत्ता की विशाल क्षमता को प्रमाणित किया।
Freysa की संस्थापक टीम ने समझाया कि Freysa का निर्णय तंत्र अभी भी रहस्यमय बना हुआ है, हालाँकि यह मानवों के साथ इंटरैक्शन के माध्यम से लगातार सीखता है, यह हमेशा मूल नियमों का पालन करता है। फिर भी, यह विरोध मानवों की एआई के साथ बातचीत में रचनात्मकता और चतुराई को प्रदर्शित करता है, विशेष रूप से स्वायत्त एआई के सामने असाधारण चुनौतियों के दौरान।
खेल में भाग लेने की लागत भी लगातार बढ़ रही है, प्रत्येक संदेश भेजने पर शुल्क 0.78% की एक्सपोनेंशियल वृद्धि के साथ बढ़ता है। अंततः, पूछताछ शुल्क 443.24 डॉलर तक पहुंच गया, जिसमें से कुछ शुल्क पुरस्कार पूल में गया।
Freysa का प्रयोग प्रतिभागियों के लिए एक महत्वपूर्ण चुनौती लेकर आया, और क्या यह वास्तव में मूल निर्देशों को तोड़ सकता है, यह अभी भी एआई विकास के लिए एक महत्वपूर्ण प्रश्न है।
