伊隆·马斯克的人工智能初创公司xAI正在使用10万台NVIDIA H100 AI GPU训练其下一代Grok 3大型语言模型(LLM)。该公司计划利用Grok系列LLM模型取得重大技术突破,并提升在人工智能助手领域的竞争力。
xAI公司已经发布了原始Grok模型的更新版本,并正在为8月1日推出的Grok 2做准备。马斯克在最近的推文中透露,Grok 3模型将比前代产品有显著提升。 硬件配置令人瞩目 用于训练Grok 3的硬件配置是前所未有的,10万台NVIDIA高端H100 AI GPU的投入预示着市场将迎来前所未有的AI能力。有传言称,OpenAI的GPT-4 LLM模型是在4万台NVIDIA A100 AI GPU上训练的,与H100相比,这些GPU在性能和数量上均显逊色。 创新的SXM-To-PCIe适配器板 xAI公司还引入了SXM-To-PCIe适配器板,使用户能够将NVIDIA的顶级H100 AI GPU转换为1或2插槽显卡,进一步提高计算效率。 训练成本高昂 马斯克此前在推文中提到,通过互联网数据训练法学硕士(LLM)是一项繁琐且需要大量计算资源的工作。Grok 2在这一领域有所改进,而Grok 3 LLM模型将在前代模型的基础上,成为xAI的旗舰产品。 大规模投资 马斯克还宣布计划为xAI收购NVIDIA的旗舰Blackwell B200 AI加速器,价值90亿美元。考虑到Grok 3仅在训练上的花费就高达约30亿美元,这显示了马斯克对xAI的坚定承诺和对AI技术未来的看好。
|