Web LLM 是一个模块化、可定制的 JavaScript 包，可直接将语言模型聊天引入到 Web 浏览器中。一切都在浏览器内部运行，无需服务器支持，并且通过 WebGPU 进行加速。它可以为大家构建 AI 助手提供很多有趣的机会，并在享受 GPU 加速时保护隐私。此项目是 MLC LLM 的附属项目，MLC LLM 可以在 iPhone 和其他本地环境中本地运行 LLM。