Goodfire 完成 5000 万美元 A 轮融资，助力 AI 可解释性研究

小哪吒

         Goodfire 近日宣布完成了一轮 5000 万美元的 A 轮融资，由 Menlo Ventures 领投，Lightspeed Venture Partners、Anthropic、B Capital、Work-Bench、Wing、South Park Commons 等知名投资机构跟投。这笔融资距离公司成立尚不足一年，资金将用于拓展研究项目，并与客户合作开发其旗舰可解释性平台 Ember。
         尽管人工智能技术取得了显著进步，但神经网络的运作机制仍存在诸多未知，这使得其设计难度大增，容易出现不可预测的故障，且随着系统复杂度的提升，部署风险也日益凸显。Goodfire 联合创始人兼首席执行官 Eric Ho 指出，目前无人真正了解 AI 模型失效的机制，也就无从谈起修复方法。Goodfire 的愿景是构建工具，让神经网络变得易于理解、设计和修复，这对于构建下一代安全且强大的基础模型至关重要。
         为实现这一目标，Goodfire 大力投入机械可解释性研究，致力于逆向工程神经网络，并将其成果转化为一个通用的、与模型无关的平台。其平台 Ember 能够解码 AI 模型内部的神经元，为用户带来直接且可编程的访问方式，从而开启应用、训练和调整 AI 模型的全新途径。用户可以借此发现模型中隐藏的知识，精准塑造模型行为，并提升模型性能。
         Menlo Ventures 投资者 Deedy Das 表示，Goodfire 的团队汇聚了来自 OpenAI 和 Google DeepMind 的顶尖人才，他们正在破解人工智能模型这一“黑匣子”，帮助企业真正理解、引导和控制自身的人工智能系统。Anthropic 首席执行官兼联合创始人 Dario Amodei 也强调，随着人工智能能力的提升，理解这些系统的能力必须同步提升，而机械可解释性是将黑盒神经网络转化为可理解、可操控系统的最佳途径之一，也是负责任地开发强大人工智能的关键基础。
         Goodfire 计划通过与前沿模型开发者合作，加速可解释性研究。其最早的合作方之一 Arc Institute 的联合创始人 Patrick Hsu 表示，Goodfire 的可解释性工具对于从他们的 DNA 基础模型 Evo 2 中获取更深入的洞见至关重要，能够加速科学发现进程。未来，Goodfire 还将发布更多研究预览，涵盖图像处理、高级推理语言模型和科学建模等多个领域的最新可解释性技术，有望揭示新的科学见解，并从根本上重塑人们对 AI 模型交互及利用方式的理解。
         Goodfire 的团队由来自 OpenAI 和 Google DeepMind 等机构的顶尖 AI 可解释性研究人员和经验丰富的初创企业运营者组成。他们帮助创立了机械可解释性领域，撰写了多篇高被引论文，并取得了诸多开创性进展，例如用于特征发现的稀疏自编码器（SAE）、自动解释性框架以及揭示 AI 模型中隐藏知识的研究成果。