|
2024年10月16日，Mistral AI在在 Mistral 7B 发布一周年之际隆重推出两款新型边缘计算模型，Ministral 3B和Ministral 8B。这两款模型标志着在知识、常识推理、功能调用和计算效率等方面的新突破，特别适用于设备端和边缘计算场景。 Ministral 3B与Ministral 8B在小于10B参数的类别中，展现出卓越的性能和灵活性。它们支持高达128k的上下文长度，并且Ministral 8B采用了特殊的交错滑动窗口注意力机制，使得推理速度更快、内存使用更高效。这使得它们在处理复杂任务时表现出色，能够迅速响应用户需求。 这两款新模型应运而生，旨在满足客户对本地、隐私优先推理的迫切需求。无论是无网络环境下的智能助手，还是本地分析和自主机器人应用，Ministral 3B与Ministral 8B均能提供计算高效、延迟低的解决方案。它们不仅适合独立开发者，也能满足全球制造团队的需求。 在多项基准测试中，Ministral 3B和8B的表现均超过同类竞争对手，证明了其在各类任务中的优越性。与Mistral Large等更大型语言模型结合使用时，它们还能高效中介功能调用，支持多步骤的工作流程，处理输入解析、任务路由及用户意图的API调用，确保低延迟和低成本。 目前，Ministral 3B和8B已在Mistral的云平台上上线，定价分别为每百万个输入和输出tokens 0.04美元和0.1美元，适合商业和研究用途。Mistral AI团队表示，期待用户的试用反馈，并将继续推动前沿模型的发展。
| 
