2024/6/5日,面壁智能与OpenBMB及清华NLP实验室携手,在面壁智能公众号,向全球开源社区郑重宣布:MiniCPM 正式免费开放商业使用。这份对开源的信仰,是技术人对世界纯粹热爱的体现。自今年5月20日诞生以来,MiniCPM-Llama3-V 2.5 作为特别礼物,献给了开源社区。 从今日起,MiniCPM 及其变体MiniCPM-V 的权重将对学术研究完全开放。企业和个人在填写问卷登记后,也将被允许进行商业使用。社区使用MiniCPM 系列模型时,需遵守Apache 2.0许可证和《MiniCPM模型社区许可协议》。
OpenBMB 社区自诞生之初,就以“让大模型飞入千家万户”为愿景。今天,开源合作之歌再次响起,我们拥抱全世界开放、自由、合作的技术群体。我们的决心坚定不移,感谢每一位开源社区的贡献者。
新一代MiniCPM 诞生后,受到了全世界的关注与呵护。8B体量的MiniCPM-Llama3-V 2.5,一经发布便登顶GitHub、HuggingFace、Papers With Code三大平台榜首。下载总量已超24万,GitHub星标超过5.5k。它的优点包括: - 端侧多模态综合性能超越Gemini Pro、GPT-4V;
- OCR能力达到最新水平,180万像素清晰识别;
- 手机端高效运行,量化后仅8G显存,4070显卡轻松推理;
- 图像编码速度提升150倍,端侧系统级多模态加速;
- 支持30多种语言。
我们感激社区的同行,每句赞扬让我们备受鼓舞,每句批评都虚心接受。Gradio连续两条推文庆祝MiniCPM-Llama3-V 2.5取得的优异成绩,为扩展多模态大模型应用边界而高兴。
斯坦福人工智能实验室主任Christopher Manning赞扬了来自中国的优秀开源作品MiniCPM。谷歌DeepMind研究员Lucas Beyer表示,像MiniCPM-Llama3-V 2.5这样优秀的中国开源模型,应得到更高的国际关注。
海外开发者表示,MiniCPM-Llama3-V 2.5 对视障人士非常有帮助,强大的OCR功能帮助他们获得更好的文档阅读体验。Reddit网友也表示,该模型在下游任务中表现出色。
为支持端侧部署,我们不仅适配了MiniCPM-Llama3-V 2.5 和llama.cpp,还带来了更多功能: - llama.cpp:开源16种量化模型,端侧流畅解码;
- Ollama:支持本地部署运行;
- LoRA微调:仅需2张V100显卡,轻松个性化;
- 流式输出:支持Gradio和Streamlit交互demo;
- 手机APK:支持安卓和鸿蒙系统。
感谢开源社区的支持,面壁智能与OpenBMB团队将继续贡献中国大模型的开源力量。我们相信,开源精神将照亮人类文明,加速迈向通用人工智能的征程。 MiniCPM-Llama3-V 2.5开源地址:点击这里
|