मेटा द्वारा प्रकाशित Prompt-Guard-86M मॉडल प्रॉम्प्ट इंजेक्शन हमलों के खिलाफ रक्षा का लक्ष्य रखता है, बड़े भाषा मॉडल के अनुपयुक्त इनपुट को संभालने में सीमित करना, प्रणाली की सुरक्षा की रक्षा करना। हालाँकि, यह मॉडल खुद भी हमले के जोखिम को उजागर करता है। अमन प्रियंशु के शोध में पाया गया है कि, इनपुट में स्पेस जैसे सरल वर्ण विभाजन जोड़ने या विराम चिह्नों को हटाने के माध्यम से, मॉडल पूर्व की सुरक्षा निर्देशों को अनदेखा कर देता है, हमले की सफलता दर लगभग 100% है। यह खोज AI सुरक्षा के महत्व को उजागर करती है, हालाँकि प्रॉम्प्ट