MLC Chat允许用户在iPad和iPhone上本地与开源语言模型进行聊天。在将模型下载到应用程序后，一切都在本地运行，无需服务器支持，而且无需互联网连接，不记录任何信息。由于模型在本地运行，它仅适用于具有足够VRAM的设备，具体取决于所使用的模型。MLC Chat是开源项目MLC LLM的一部分，允许在各种硬件后端和本机应用程序上本地部署任何语言模型。MLC Chat是在您的手机上运行不同开源模型架构的运行时。该应用旨在非商业目的。它允许您运行从互联网上下载的开源语言模型。每个模型可能受其各自的许可证约束。