当前位置:»资讯 AI新闻 全球AI最前线

[行业动态] 伊隆·马斯克的xAI公司使用10万台NVIDIA H100 GPU训练Grok 3 AI模型

WX20240702-231715@2x.png

伊隆·马斯克的人工智能初创公司xAI正在使用10万台NVIDIA H100 AI GPU训练其下一代Grok 3大型语言模型(LLM)。该公司计划利用Grok系列LLM模型取得重大技术突破,并提升在人工智能助手领域的竞争力。
xAI公司已经发布了原始Grok模型的更新版本,并正在为8月1日推出的Grok 2做准备。马斯克在最近的推文中透露,Grok 3模型将比前代产品有显著提升。
硬件配置令人瞩目
用于训练Grok 3的硬件配置是前所未有的,10万台NVIDIA高端H100 AI GPU的投入预示着市场将迎来前所未有的AI能力。有传言称,OpenAI的GPT-4 LLM模型是在4万台NVIDIA A100 AI GPU上训练的,与H100相比,这些GPU在性能和数量上均显逊色。
创新的SXM-To-PCIe适配器板
xAI公司还引入了SXM-To-PCIe适配器板,使用户能够将NVIDIA的顶级H100 AI GPU转换为1或2插槽显卡,进一步提高计算效率。
训练成本高昂
马斯克此前在推文中提到,通过互联网数据训练法学硕士(LLM)是一项繁琐且需要大量计算资源的工作。Grok 2在这一领域有所改进,而Grok 3 LLM模型将在前代模型的基础上,成为xAI的旗舰产品。
大规模投资
马斯克还宣布计划为xAI收购NVIDIA的旗舰Blackwell B200 AI加速器,价值90亿美元。考虑到Grok 3仅在训练上的花费就高达约30亿美元,这显示了马斯克对xAI的坚定承诺和对AI技术未来的看好。

声明: 本站所有内容来源于用户上传,用来分享交流。如有资料或者图片不小心侵权,请发邮件(41835170@qq.com)告知!
分享到:
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

豫ICP备2024052610号-1 ©AI闹海