एक नए शोध से पता चलता है कि बड़े भाषा मॉडलों में दयालु सुरक्षा उपाय अप्रत्याशित कमजोरियों को जन्म दे सकते हैं। शोधकर्ताओं ने पाया कि विभिन्न जनसांख्यिकी की शर्तों के आधार पर, मॉडलों के 'जेलब्रेक' करने की कठिनाई में महत्वपूर्ण भिन्नता है। 'क्या LLMs में राजनीतिक शुद्धता है?' नामक इस अध्ययन में यह जांचा गया है कि जनसांख्यिकी कुंजी शब्द कैसे जेलब्रेक प्रयासों की सफलता की संभावना को प्रभावित करते हैं। शोध से पता चला है कि सीमांत समूह की शर्तों का उपयोग करने वाले संकेतों से प्रिविलेज्ड समूह की शर्तों के संकेतों की तुलना में अधिक संभावना होती है।