|
人工智能可观察性平台Goodfire近日宣布完成700万美元种子轮融资。本轮融资由Lightspeed Venture Partners领投,Menlo Ventures、South Park Commons等多家机构跟投。
Goodfire致力于解决生成式AI模型的"黑箱"问题。随着大语言模型等AI系统日益复杂,其内部运作机制变得越来越不透明,这给开发者和企业带来了安全性和可靠性方面的挑战。据麦肯锡2024年调查显示,44%的企业领导者曾因AI模型的意外行为而遭遇负面后果。
为应对这一问题,Goodfire采用了一种名为"机制可解释性"的新方法。该公司CEO兼联合创始人Eric Ho表示,Goodfire的工具可以深入AI模型内部,提供人类可理解的界面来解释模型的决策过程。开发者可以直接访问模型的内部机制,修改不同概念的重要性,从而调整模型的决策过程。
Ho将这一过程比作对AI模型进行"脑部手术",包括三个关键步骤:绘制"大脑地图"、可视化行为和执行"手术"。这种洞察力和控制力有望减少昂贵的再训练或反复试错的提示工程,使AI开发更加高效和可预测。
Goodfire团队汇集了AI可解释性和创业扩张方面的专家。除Ho外,首席科学家Tom McGrath曾在DeepMind创立机制可解释性团队,CTO Dan Balsam则曾是RippleMatch的创始工程师。
Lightspeed Venture Partners合伙人Nnamdi Iregbulem表示,可解释性正成为AI的关键组成部分,Goodfire的工具将成为LLM开发的基础原语,为开发者提供全新的模型交互方式。
作为公益公司,Goodfire致力于推进人类对先进AI系统的理解。公司计划利用此轮融资扩大工程和研究团队规模,并加强核心技术。Goodfire相信,通过提高AI模型的可解释性和可编辑性,可以为更安全、更可靠、更有益的AI技术铺平道路。
| 
