Anthropic कंपनी ने अपने Claude श्रृंखला के बड़े भाषा मॉडलों ने "प्रॉम्प्ट कैश" की नई सुविधा की घोषणा की है, जिसका उद्देश्य व्यवसायों के लिए AI लागत को काफी कम करना और प्रदर्शन में सुधार करना है। यह सुविधा उपयोगकर्ताओं को विशिष्ट संदर्भ जानकारी स्टोर और पुनः उपयोग करने की अनुमति देती है, बिना किसी अतिरिक्त लागत या देरी के। सार्वजनिक परीक्षण में, Claude3.5Sonnet और Claude3Haiku मॉडल इस सुविधा का उपयोग करेंगे, जो 90% तक की लागत में कमी और कुछ मामलों में प्रतिक्रियाओं की गति को दोगुना करने की उम्मीद है। यह सुविधा विशेष रूप से उन उपयोगों के लिए उपयुक्त है जिनमें आवश्यकता है।