OpenAI का हाल ही में लॉन्च किया गया इमेज जेनरेटिंग मॉडल 4o, तस्वीरों में टेक्स्ट बनाने में कमाल का है, खासकर नकली दस्तावेज़ बनाने में, जो कुछ यूज़र्स का "नया पसंदीदा" बन गया है। नकली रसीदें, नकली प्रिस्क्रिप्शन और नकली पासपोर्ट जैसी समस्याएँ लगातार बढ़ रही हैं, जिससे चिंता हो रही है।
सोशल मीडिया पर, Menlo Ventures के इन्वेस्टर Deedy Das ने एक नकली रसीद की तस्वीर पोस्ट की, जिसमें सैन फ़्रांसिस्को के एक मशहूर स्टेक हाउस में उनके महँगे खाने का बिल दिखाया गया था। Das ने अपने ट्वीट में लिखा: "आप 4o का इस्तेमाल करके नकली रसीदें बना सकते हैं।" इस बात ने काफी ध्यान खींचा क्योंकि कई असली दुनिया के वेरिफ़िकेशन प्रोसेस "असली इमेज" पर निर्भर करते हैं, और अब सब कुछ बदल गया है।
यह नकली रसीद पहली नज़र में बिलकुल असली लगती है, जिसमें कई तरह के व्यंजनों की डिटेल लिस्ट, सही सबटोटल और टिप की गणना है। यूज़र्स ने इस मॉडल से बनी इमेज में और भी एडिटिंग की है, जैसे कि रियलिस्टिक फ़िल्टर और खाने के दाग जोड़कर, जो इसे धोखाधड़ी के लिए एक परफेक्ट टूल बनाता है।
जैसे-जैसे टेक्नोलॉजी आगे बढ़ रही है, OpenAI की इमेज जेनरेट करने की क्षमता में काफ़ी सुधार हुआ है। पुराने मॉडल अक्षरों को दोबारा बनाने में अक्सर गड़बड़ और मज़ेदार वाक्य बनाते थे, लेकिन 4o की क्षमता ने इन समस्याओं को लगभग ख़त्म कर दिया है। यूज़र्स सिर्फ़ महँगे डिनर की नकली रसीदें ही नहीं, बल्कि ज़ोलोफ़्ट जैसी कंट्रोल वाली दवाओं के नकली प्रिस्क्रिप्शन भी बना सकते हैं।
इस घटना से AI द्वारा नकली दस्तावेज़ बनाने की व्यापक चिंता पैदा हुई है। नकली दस्तावेज़ बनाने की क्षमता कई तरह की गैरकानूनी गतिविधियों को आसान बनाती है, जिसमें नकली टैक्स रिटर्न, बैंक चेक, आईडी कार्ड और जन्म प्रमाण पत्र शामिल हैं। इस ट्रेंड के सामने, मौजूदा दस्तावेज़ डिटेक्शन तरीके कितने असरदार हैं, यह अभी भी पता नहीं है। हालाँकि कुछ AI कंपनियों ने जेनरेट की गई इमेज को पहचानने के लिए अतिरिक्त मेटाडेटा या वॉटरमार्क लगाने की कोशिश शुरू कर दी है, लेकिन लगता है कि ये सुरक्षा उपाय धोखाधड़ी को पूरी तरह से रोकने में कामयाब नहीं हो पा रहे हैं।
2015 के एक सर्वे के मुताबिक़, 85% लोगों ने स्वीकार किया कि उन्होंने ज़्यादा रिइम्बर्समेंट पाने के लिए झूठ बोला है। ये धोखाधड़ी के मामले अक्सर कमज़ोर इंटरनल कंट्रोल और ख़राब अकाउंट्स पेयेबल प्रोसेस की वजह से समय पर पकड़े नहीं जाते। दूसरे शब्दों में कहें तो, इस दौर में आप ऑनलाइन देखी गई किसी भी चीज़ पर भरोसा नहीं कर सकते।
मुख्य बातें:
📄 OpenAI का नया इमेज जेनरेटिंग मॉडल 4o आसानी से नकली रसीदें और प्रिस्क्रिप्शन बना सकता है, जिससे चिंता हो रही है।
💻 पुराने इमेज जेनरेटिंग मॉडल टेक्स्ट नहीं बना पाते थे, लेकिन 4o की क्षमता में काफ़ी सुधार हुआ है।
🛡️ नकली दस्तावेज़ बनाने की क्षमता से मौजूदा डिटेक्शन तरीकों की असरदारता पर सवाल उठ रहे हैं।
