AphroditeはPygmalionAIの公式バックエンドエンジンであり、PygmalionAIウェブサイトに推論エンドポイントを提供し、多数のユーザーにPygmalionモデルを非常に高速にサービスすることを目的としています。AphroditeはvLLMのページング・アテンション技術を活用し、連続バッチ処理、効率的なキーバリュー管理、最適化されたCUDAカーネルなどの機能を実現しています。また、様々な量子化スキームをサポートすることで、推論性能の向上を図っています。