面壁智能开源MiniCPM 3.0端侧AI模型，4B参数性能超越GPT-3.5

小哪吒

面壁智能推出了MiniCPM 3.0，一款端侧AI模型，以4B参数的规模实现了超越GPT-3.5的性能。该模型采用LLMxMapReduce技术，支持无限长文本处理，有效提升了上下文理解能力。MiniCPM 3.0在Function Calling方面表现接近GPT-4o，展现了端侧执行的卓越能力。此外，模型包含RAG三件套，显著提升了中文检索和内容生成的质量。

MiniCPM 3.0经过量化技术处理，模型仅占用2GB内存，适合端侧部署，同时确保数据处理的安全性和隐私性。模型已全面开源，社区可自由使用和进一步开发。在多任务性能上，MiniCPM 3.0在开放域问答、多跳问答、对话系统、事实核查和信息填充等任务上均展现了卓越性能。

技术原理方面，LLMxMapReduce技术使得模型能够处理超出原始内存限制的长文本。量化技术降低了模型的内存需求，使其能在资源受限的端侧设备上运行。RAG技术结合了检索和生成，提升了信息检索和内容生成的效率。面壁智能采用的高效训练方法，提升了模型的“知识密度”，即在保持模型大小不变的情况下提升性能。

MiniCPM 3.0的应用场景广泛，包括智能助手、移动设备应用、智能家居控制、在线客服和内容创作等。模型的开源和端侧优化使其成为AI领域的一颗新星。项目地址已在GitHub和HuggingFace模型库上线，供全球开发者访问和使用。