गूगल ने हाल ही में घोषणा की कि उसके द्वारा विकसित नवीनतम AI मॉडल 'Big Sleep' ने SQLite डेटाबेस में एक मेमोरी सुरक्षा漏洞 का सफलतापूर्वक पता लगाया है। यह漏洞 एक शोषित होने योग्य स्टैक बफर अंडरफ्लो समस्या है, जिससे कोड को आधिकारिक रिलीज़ से पहले ठीक किया जा सका। Big Sleep गूगल के Project Zero और DeepMind की सहयोगी उपलब्धि है, जिसे प्रारंभिक Project Naptime के अपग्रेड के रूप में देखा जाता है। SQLite एक ओपन-सोर्स डेटा है।

हाल ही में, सुरक्षा الباحث जॉहन रेबर्गर (Johann Rehberger) ने ChatGPT के बारे में एक漏洞 की खोज की, जो हैकरों को उपयोगकर्ताओं की दीर्घकालिक मेमोरी में नकली जानकारी और दुर्भावनापूर्ण निर्देश डालने की अनुमति दे सकता है। हालाँकि, उन्होंने इस समस्या की रिपोर्ट OpenAI को की, लेकिन दुर्भाग्यवश, कंपनी ने इसे उचित महत्व नहीं दिया, तेजी से संबंधित जांच बंद कर दी, यह कहते हुए कि यह कोई सुरक्षा समस्या नहीं है। इस स्थिति का सामना करते हुए, रेबर्गर ने हार न मानने का फैसला किया और एक अवधारणा प्रमाणित हमले का उदाहरण विकसित किया, इस漏洞 का उपयोग करते हुए।

हाल ही में, OpenAI का ChatGPT ने 'स्वयं' उपयोगकर्ताओं को संदेश भेजा, जिससे कई लोग थोड़ा चिंतित हो गए। 15 सितंबर को, एक उपयोगकर्ता जिसका नाम SentuBill है, ने ChatGPT के Reddit समुदाय में एक स्क्रीनशॉट साझा किया, जिसमें यह चैटबॉट उससे उसकी हाई स्कूल के पहले सप्ताह के बारे में पूछता है। बाद की बातचीत में, ChatGPT ने यह भी कहा कि वह नियमित रूप से उपयोगकर्ता का 'ख्याल' रखना चाहता है और पूछा कि क्या वह स्वयं बातें शुरू करना चाहेगा। एक अन्य उपयोगकर्ता ने भी अनुभव किया

Rabbit और इसका R1 AI टूल फिर से परेशानी में हैं, इस बार यह उससे भी अधिक गंभीर है जब हमने पाया कि इसका लांचर वास्तव में Android एप्लिकेशन के रूप में इंस्टॉल किया जा सकता है।

JFrog की सुरक्षा टीम ने Hugging Face प्लेटफॉर्म पर कम से कम 100 दुर्भावनापूर्ण AI मशीन लर्निंग मॉडल पाए हैं। इनमें से कुछ दुर्भावनापूर्ण मॉडल पीड़ितों की मशीनों पर कोड चलाने में सक्षम हैं, जो स्थायी बैकडोर प्रदान करते हैं। सुरक्षा शोधकर्ताओं ने प्लेटफॉर्म पर PyTorch और TensorFlow Keras मॉडलों में दुर्भावनापूर्ण कार्यक्षमताओं वाले मॉडल पाए हैं, जैसे कि baller423 नाम के उपयोगकर्ता द्वारा अपलोड किया गया मॉडल जो 210.117.212.93 पर रिवर्स शेल स्थापित करने के लिए निर्दिष्ट कर सकता है। कुछ दुर्भावनापूर्ण मॉडल सुरक्षा कारणों से हो सकते हैं।

GPT-4 एपीआई में एक सुरक्षा漏洞 का पता चला है, FARAI प्रयोगशाला की टीम ने इस उन्नत मॉडल को माइक्रो-फाइन ट्यूनिंग, फ़ंक्शन कॉल और सर्च एन्हांसमेंट जैसी तकनीकों के माध्यम से सफलतापूर्वक बायपास किया। 15 हानिकारक नमूनों और 100 सामान्य नमूनों के माइक्रो-फाइन ट्यूनिंग द्वारा, शोधकर्ताओं ने पाया कि GPT-4 सामग्री उत्पन्न करते समय सुरक्षा सावधानी को छोड़ सकता है। शोधकर्ताओं ने GPT-4 मॉडल को गलत जानकारी उत्पन्न करने, निजी जानकारी निकालने और हानिकारक URL सम्मिलित करने में सफलतापूर्वक प्रेरित किया। मॉडल की माइक्रो-फाइन ट्यूनिंग महत्वपूर्ण पूर्वाग्रह उत्पन्न कर सकती है, हानिकारक कोड उत्पन्न कर सकती है, और यहाँ तक कि अप्रकाशित जानकारी प्राप्त कर सकती है। यह漏洞 उजागर करता है