|
专注于AI应用安全的初创公司Promptfoo近日宣布完成500万美元种子轮融资,由著名风险投资公司Andreessen Horowitz领投。Shopify CEO Tobi Lutke、Discord CTO Stanislav Vishnevskiy和Okta联合创始人兼副董事长Frederic Kerrest等多位科技、安全和金融行业高管也参与了本轮投资。
Promptfoo成立于2023年,致力于帮助开发者发现并修复AI应用中的漏洞。该公司开发了首个专门针对AI应用的渗透测试产品,通过模拟真实世界的威胁和构造恶意输入来检测大语言模型(LLM)的安全隐患。
Promptfoo联合创始人兼CEO Ian Webster表示,随着企业争相采用LLM,他们面临着日益严峻的安全风险、法律不确定性以及潜在的品牌损害。Promptfoo专注于加强应用层安全,这是模型与现实世界交互的关键点。
目前,Promptfoo的开源工具已吸引了超过25,000名软件工程师使用,包括来自Shopify、Amazon和Anthropic等公司的开发者。该工具允许用户系统性地测试、发现和修复LLM故障,尤其关注应用层特有的问题,如上下文污染、工具滥用和用例劫持等。
Promptfoo计划利用此轮融资进一步发展其AI安全技术,打造开源的AI渗透测试和红队评估标准。公司将继续秉持开源理念,致力于为每个开发者提供AI"红队"能力,帮助他们主动发现和修复应用中的漏洞。
随着AI应用日益普及,Promptfoo的工具有望在确保AI系统安全性和可靠性方面发挥重要作用。这轮融资将助力公司完善产品,为AI开发者和企业提供更强大的安全解决方案。
| 
