在本周二于伦敦举办的一场活动中,Meta 宣布计划在下个月推出 Llama 3——旨在支持生成式 AI 助手的下一代大型语言模型。
Meta 全球事务总裁 Nick Clegg 表示:“我们计划在下个月,实际上可能更早,开始推出新一代的基础型号 Llama 3。”他还提到了该产品的几种不同迭代或版本,并表示:“今年内,我们将迅速推出多款型号,它们将具备不同的功能和多样性。”
Meta 首席产品官 Chris Cox 补充说明,该计划旨在通过 Llama 3 为 Meta 的众多产品提供支持。
Meta 一直在努力追赶 OpenAI 的步伐。OpenAI 一年前推出了 ChatGPT,这款应用迅速流行起来,使得生成式人工智能问答成为了日常的主流体验,这让 Meta 和谷歌等其他大型科技公司措手不及。
尽管 Meta 在 AI 领域采取了谨慎的态度,但公众对此并不买账。先前的 Llama 版本因功能限制而受到批评。(Llama 2 于 2023 年 7 月公开发布,而 Llama 的首个版本虽未对公众发布,却在网上泄露。)
Llama 3 预计将拥有比前几代更广泛的应用范围,以解决上述问题。它不仅能够更准确地回答问题,还能处理更广泛的问题,包括一些可能具有争议性的话题。公司希望这些改进能提高产品的受欢迎程度。
AI Research 副总裁 Joelle Pineau 表示:“我们的目标是让基于 Llama 的 Meta AI 成为世界上最有用的助手。为实现这一目标,我们还有大量的工作要做。”尽管公司尚未透露 Llama 3 使用的具体参数大小,也没有提供演示来阐释其工作原理,但预计 Llama 3 的参数将达到约 1400 亿个,相较于 Llama 2 模型的 700 亿个参数有了显著提升。
特别值得注意的是,Meta 的 Llama 系列是作为开源产品构建的,这代表了一种与更专有模型不同的 AI 技术发展哲学。通过开源,Meta 希望能够吸引比专有模型更多的开发者支持。
然而,Meta 在文本生成以外的其他生成式人工智能领域似乎更为谨慎。Pineau 提到,公司尚未发布其图像生成工具 Emu。
考克斯表示:“延迟、安全性和易用性都至关重要,这样才能生成令人自豪的图像,并确保它们代表你的创作背景。”
具有讽刺意味的是,或者说可以预见的是,正当 Meta 致力于推出 Llama 3 之际,公司内部实际上存在一些重要的生成式人工智能怀疑论者。
Yann LeCun,著名的人工智能学者及 Meta 的首席人工智能科学家,对生成式人工智能的局限性提出了批评,并表示他对生成式人工智能的后续发展持乐观态度。他预测,生成式人工智能的未来将是联合嵌入预测架构(JEPA),这是一种不同于传统方法的训练模型和生成结果的新方法。Meta 一直在使用 JEPA 方法在图像生成领域构建更精确的预测人工智能模型。
LeCun 说:“人工智能的未来在于 JEPA。它超越了生成式人工智能的范畴。我们可能需要重新考虑克里斯的产品部门的命名。”
|