相关团队为 Qwen3 模型更新了 GGUF、AWQ、GPTQ 等不同量化版本,受到开发者广泛欢迎。趁此势头,如今 Qwen3 全系列 32 款 MLX 量化模型正式开源。
MLX 是专为苹果芯片深度适配的开源机器学习框架,能高效训练和部署 AI 大模型,颇受 AI 开发者青睐。
此次推出的基于 MLX 框架深度优化的全部 Qwen3 系列模型,涵盖 4bit、6bit、8bit 和 BF16 等 4 种不同精度的量化版本。从 Mac Pro、Mac Studio 到 Mac mini、MacBook,从 iPad 到内存更小的 iPhone,Qwen3 均能轻松部署,实现全场景覆盖,无论是追求极致性能,还是满足低功耗部署需求,它都能胜任。
目前,Qwen3 的 MLX 模型已在魔搭社区和 Hugging Face 全面开源,期待开发者们前去体验并反馈。
|
声明:
本站所有内容来源于用户上传,用来分享交流。如有资料或者图片不小心侵权,请发邮件(41835170@qq.com)告知!