|
十多家科技公司联合成立了安全人工智能联盟（CoSAI），旨在提升人工智能应用的安全性。CoSAI在阿斯彭安全论坛上宣布成立，将在非营利组织OASIS的领导下运作，OASIS负责监督多个开源软件项目，专注于简化网络安全任务。
CoSAI的创始成员包括资金雄厚的OpenAI、Anthropic PBC，以及Cohere Inc.、GenLab等竞争对手。此外，云服务巨头如亚马逊网络服务、微软、谷歌，以及Nvidia、英特尔、IBM、思科、PayPal、Wiz和Chainguard等公司也加入了联盟。
CoSAI的主要目标是开发工具和技术指导，帮助组织保护其AI应用，并创建一个共享AI网络安全最佳实践和技术的生态系统。理事会联合主席David LaBianca强调了对知识和进步民主化的需求，并期待与领先公司、专家和学术界的合作。
为实现这些目标，CoSAI启动了三个开源工作流。第一个项目将帮助软件团队扫描机器学习工作负载，发现网络安全风险，并开发解决方案。第二个项目旨在简化减轻AI网络安全风险的任务。第三个项目关注软件供应链风险，特别是由外部来源获取的软件组件引起的漏洞。
CoSAI计划简化开发人员分析AI应用程序外部组件的工作流程，并开发应对第三方人工智能模型网络安全风险的方法。未来，CoSAI将推出更多网络安全举措，由技术指导委员会监督，该委员会由私营部门和学术界的AI专家组成。
| 
