Arch ist ein Open-Source-Gateway, das speziell für die Verarbeitung von Prompts entwickelt wurde. Es nutzt schnelle Large Language Models (LLMs) zur Prompt-Verarbeitung und lässt sich nahtlos in Backendsysteme integrieren. Arch basiert auf Envoy, unterstützt alle Programmiersprachen und ermöglicht schnelle Bereitstellung und transparente Upgrades. Es bietet zahlreiche Funktionen, darunter Traffic Management, Frontend-/Edge-Gateway, Monitoring und End-to-End-Tracing, um Entwicklern beim Erstellen schneller, robuster und personalisierter GenAI-Anwendungen zu helfen.