|
人工智能安全初创公司Vijil AI Inc.近日宣布完成600万美元种子轮融资,由Mayfield LLC旗下AIStart种子基金和Google LLC旗下AI专注种子基金Gradient Ventures共同领投。Vijil同时推出了其首个云端工具,旨在帮助企业构建和部署更可靠的生成式AI代理。
Vijil致力于协助企业部署值得信赖的AI代理,如聊天机器人和虚拟助手,重点确保其符合治理法规。该公司指出,尽管AI代理已成为生成式AI最成功的应用案例之一,但这项技术仍存在诸多问题,可能给采用企业带来严重困扰。
Vijil的云端平台通过一系列可定制的自动化测试来评估AI代理的行为,这些测试可针对特定业务环境进行调整。该平台只需少量客户数据样本,即可创建全面的测试套件,评估模型在几乎任何场景下的表现。随后,平台会对模型的性能、可靠性、隐私、安全性和安全性进行评分。
完成测试后,Vijil会采用"纵深防御"策略,帮助客户缓解评估中发现的风险。首要防御机制能够检测恶意提示和不安全响应,并能自适应学习以提高AI模型的合规性和安全性。
Vijil表示,其平台适用于各种生成式AI系统,包括开源大语言模型、封闭式AI应用程序接口、检索增强生成应用和AI代理。
Google Cloud产品管理总监Manvinder Singh表示,通过将Google负责任的生成式AI工具包适配到各行业企业的需求,Vijil为AI开发者提供了关键功能,以同等严格的标准保护定制模型的隐私、安全性和安全性。
此轮融资将助力Vijil进一步发展其AI安全技术,为企业提供更可靠、更安全的AI代理解决方案。
| 
