गूगल ने हाल ही में घोषणा की कि उसके द्वारा विकसित नवीनतम AI मॉडल 'Big Sleep' ने SQLite डेटाबेस में एक मेमोरी सुरक्षा漏洞 का सफलतापूर्वक पता लगाया है। यह漏洞 एक शोषित होने योग्य स्टैक बफर अंडरफ्लो समस्या है, जिससे कोड को आधिकारिक रिलीज़ से पहले ठीक किया जा सका। Big Sleep गूगल के Project Zero और DeepMind की सहयोगी उपलब्धि है, जिसे प्रारंभिक Project Naptime के अपग्रेड के रूप में देखा जाता है। SQLite एक ओपन-सोर्स डेटा है।

हाल ही में, OpenAI का ChatGPT ने 'स्वयं' उपयोगकर्ताओं को संदेश भेजा, जिससे कई लोग थोड़ा चिंतित हो गए। 15 सितंबर को, एक उपयोगकर्ता जिसका नाम SentuBill है, ने ChatGPT के Reddit समुदाय में एक स्क्रीनशॉट साझा किया, जिसमें यह चैटबॉट उससे उसकी हाई स्कूल के पहले सप्ताह के बारे में पूछता है। बाद की बातचीत में, ChatGPT ने यह भी कहा कि वह नियमित रूप से उपयोगकर्ता का 'ख्याल' रखना चाहता है और पूछा कि क्या वह स्वयं बातें शुरू करना चाहेगा। एक अन्य उपयोगकर्ता ने भी अनुभव किया

GPT-4 एपीआई में एक सुरक्षा漏洞 का पता चला है, FARAI प्रयोगशाला की टीम ने इस उन्नत मॉडल को माइक्रो-फाइन ट्यूनिंग, फ़ंक्शन कॉल और सर्च एन्हांसमेंट जैसी तकनीकों के माध्यम से सफलतापूर्वक बायपास किया। 15 हानिकारक नमूनों और 100 सामान्य नमूनों के माइक्रो-फाइन ट्यूनिंग द्वारा, शोधकर्ताओं ने पाया कि GPT-4 सामग्री उत्पन्न करते समय सुरक्षा सावधानी को छोड़ सकता है। शोधकर्ताओं ने GPT-4 मॉडल को गलत जानकारी उत्पन्न करने, निजी जानकारी निकालने और हानिकारक URL सम्मिलित करने में सफलतापूर्वक प्रेरित किया। मॉडल की माइक्रो-फाइन ट्यूनिंग महत्वपूर्ण पूर्वाग्रह उत्पन्न कर सकती है, हानिकारक कोड उत्पन्न कर सकती है, और यहाँ तक कि अप्रकाशित जानकारी प्राप्त कर सकती है। यह漏洞 उजागर करता है