जनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI) के तेजी से उभरने के साथ, PromptLayer, जो न्यूयॉर्क में स्थित एक स्टार्टअप है, प्रांप्ट इंजीनियरिंग के इस उभरते क्षेत्र में तेजी से प्रवेश कर गया है। प्रांप्ट इंजीनियरिंग का अर्थ है AI चैटबॉट्स को सटीक निर्देशा प्रदान करना ताकि उपयोगी आउटपुट प्राप्त किया जा सके। PromptLayer के संस्थापकों जारेड झोनेराइच (Jared Zoneraich) और जोनाथन पेडोएन (Jonathan Pedoeem) ने शुरुआत में एक उपकरण विकसित किया था, जिसका उपयोग वे अपने।

हाल ही में, माइक्रोसॉफ्ट एआई अनुसंधान टीम ने ओपन-सोर्स टूल PromptWizard जारी किया है, जो एक फीडबैक-चालित एआई फ्रेमवर्क है, जिसका उद्देश्य बड़े भाषा मॉडल (LLM) के प्रॉम्प्ट डिजाइन को प्रभावी ढंग से ऑप्टिमाइज़ करना है। प्रॉम्प्ट की गुणवत्ता मॉडल के आउटपुट की गुणवत्ता के लिए अत्यंत महत्वपूर्ण है, लेकिन उच्च गुणवत्ता वाले प्रॉम्प्ट बनाने में अक्सर बहुत सारे समय और मानव संसाधनों की आवश्यकता होती है, विशेष रूप से जटिल या विशिष्ट डोमेन के कार्यों में। पारंपरिक प्रॉम्प्ट ऑप्टिमाइज़ेशन विधियाँ प्रायः मानवीय अनुभव पर निर्भर करती हैं, जो न केवल समय लेने वाला है, बल्कि व्यावहारिक रूप से विस्तारित करना भी कठिन है। मौजूदा ऑप्टिमाइज़ेशन तकनीकें हेतु

सुरक्षा कंपनी PromptArmor ने Slack AI में गंभीर सुरक्षा खामी का खुलासा किया है, जिसमें बताया गया है कि यह दुर्भावनापूर्ण प्रम्प्ट इंजेक्शन हमलों के लिए संवेदनशील है। Slack AI, Salesforce के टीम संचार सेवा का एक अतिरिक्त उपकरण है, जिसका उपयोग संवादों को संक्षिप्त करने, सवालों के जवाब देने और कम देखे जाने वाले चैनलों की जानकारी का सारांश तैयार करने जैसे जनरेटिव कार्यों के लिए किया जाता है। हालांकि, PromptArmor का कहना है कि Slack AI की सुरक्षा उस स्तर पर नहीं है, जिसको यह दावा करता है। मूल खामी इस तथ्य में है कि Slack सार्वजनिक और निजी चैनलों के डेटा से प्रश्न पूछने की अनुमति देता है, जिसमें उपयोगकर्ता की बिना अनुमति शामिल है।

मेटा द्वारा प्रकाशित Prompt-Guard-86M मॉडल प्रॉम्प्ट इंजेक्शन हमलों के खिलाफ रक्षा का लक्ष्य रखता है, बड़े भाषा मॉडल के अनुपयुक्त इनपुट को संभालने में सीमित करना, प्रणाली की सुरक्षा की रक्षा करना। हालाँकि, यह मॉडल खुद भी हमले के जोखिम को उजागर करता है। अमन प्रियंशु के शोध में पाया गया है कि, इनपुट में स्पेस जैसे सरल वर्ण विभाजन जोड़ने या विराम चिह्नों को हटाने के माध्यम से, मॉडल पूर्व की सुरक्षा निर्देशों को अनदेखा कर देता है, हमले की सफलता दर लगभग 100% है। यह खोज AI सुरक्षा के महत्व को उजागर करती है, हालाँकि प्रॉम्प्ट

AI मूल अनुप्रयोग विभिन्न उद्योगों में तेजी से लागू हो रहे हैं, चिकित्सा से लेकर वित्त, कार्यालय से लेकर कानून तक। Baidu 'PROMPT' के माध्यम से हर व्यावसायिक लाइन का पुनर्गठन करेगा, और अधिक AI मूल अनुप्रयोगों को जारी करेगा। संकेत शब्द इंजीनियर भविष्य में एक महत्वपूर्ण पेशा बनने जा रहे हैं, मशीनों और मनुष्यों के बीच की सीमाएँ टूट जाएंगी।