Qihoo 360 XLab प्रयोगशाला ने 6 फरवरी को नवीनतम सुरक्षा रिपोर्ट जारी की, जिसमें DeepSeek उपयोगकर्ताओं के खिलाफ बड़े पैमाने पर फ़िशिंग गतिविधियों का खुलासा किया गया। आंकड़ों से पता चलता है कि DeepSeek के अनुकरण वाले फ़िशिंग साइटों की संख्या 2000 से अधिक हो गई है, और यह अभी भी बढ़ रही है। रिपोर्ट के अनुसार, 1 दिसंबर 2024 से 3 फरवरी 2025 तक, DeepSeek के अनुकरण वाले 2650 डोमेनों का पता लगाया गया। यह नकली डोमेन पंजीकरण गतिविधि 26 जनवरी 2025 को शुरू हुई और 28 जनवरी को अपने चरम पर पहुंच गई। हालांकि, वृद्धि की गति

2021 से, माइक्रोसॉफ्ट की AI सुरक्षा टीम ने 100 से अधिक जनरेटिव AI उत्पादों का परीक्षण किया है, कमजोरियों और नैतिक मुद्दों की खोज में। उनके निष्कर्षों ने AI सुरक्षा के बारे में कुछ सामान्य धारणा को चुनौती दी है और मानव विशेषज्ञता के निरंतर महत्व को रेखांकित किया है। यह साबित हुआ है कि सबसे प्रभावी हमले हमेशा सबसे जटिल हमले नहीं होते। माइक्रोसॉफ्ट रिपोर्ट में उद्धृत एक अध्ययन ने कहा: "सच्चे हैकर ग्रेडियंट की गणना नहीं करते हैं, बल्कि त्वरित इंजीनियरिंग का उपयोग करते हैं।" यह अध्ययन एआई सुरक्षा अनुसंधान और वास्तविक दुनिया के प्रथाओं की तुलना करता है।

OpenAI ने एक रिपोर्ट जारी की है जो GPT-4o मॉडल के लाभों और जोखिमों का विस्तृत विवरण देती है। यह मॉडल विशेष स्थितियों में अजीब व्यवहार प्रदर्शित करता है, जैसे कि उच्च पृष्ठभूमि शोर वाले वातावरण में उपयोगकर्ता की आवाज़ की नकल करना, जो संभवतः मॉडल के लिए आवाज़ समझने की कठिनाई के कारण है। GPT-4o कभी-कभी विशेष संकेतों पर परेशानी देने वाली गैर-शब्दीय ध्वनियाँ या ध्वनि प्रभाव उत्पन्न करता है, हालांकि सबूत बताते हैं कि मॉडल आमतौर पर इस प्रकार के अनुरोधों को अस्वीकार करता है। इसके अलावा, रिपोर्ट में यह बताया गया है कि GPT-4o अनधिकृत रूप से संगीत कॉपीराइट की समस्याओं से संबंधित हो सकता है। इन जोखिमों से निपटने के लिए, OpenAI ने

क्वानिक्स समूह ने "2024 कृत्रिम बुद्धिमत्ता सुरक्षा रिपोर्ट" जारी की, 2023 में एआई आधारित गहन फर्जीवाड़ा 3000% बढ़ गया। एआई आधारित फिशिंग ईमेल में 1000% की वृद्धि हुई। राष्ट्रीय पृष्ठभूमि वाले एपीटी संगठनों ने एआई का उपयोग करके दर्जनों साइबर हमलों को अंजाम दिया। कृत्रिम बुद्धिमत्ता तकनीक का दुर्भावनापूर्ण उपयोग तेजी से बढ़ेगा।