Patronus AI ने SimpleSafetyTests परीक्षण套件 जारी किया, जो ChatGPT जैसे AI सिस्टम में महत्वपूर्ण सुरक्षा खामियों को उजागर करता है। परीक्षण आत्महत्या, बाल शोषण और शारीरिक क्षति जैसे पांच उच्च प्राथमिकता वाले खतरे के क्षेत्रों को शामिल करते हैं, जिससे 11 LLMs में गंभीर कमजोरियों का खुलासा होता है। सुरक्षित सिस्टम सुझावों पर जोर दिया गया है जो असुरक्षित प्रतिक्रियाओं को कम कर सकते हैं, लेकिन परिणाम यह दर्शाते हैं कि उत्पादन प्रणाली को संभावित अतिरिक्त सुरक्षा उपायों की आवश्यकता हो सकती है। परीक्षण के परिणाम बताते हैं कि वास्तविक विश्व अनुप्रयोगों को संभालने से पहले, LLMs को सख्त और कस्टम सुरक्षा समाधानों की आवश्यकता होती है।