在阿斯彭安全论坛上，一个名为安全人工智能联盟（CoSAI）的新兴行业组织正式亮相。由Google、IBM、Intel、Microsoft、NVIDIA和PayPal等科技巨头作为主要赞助商，Amazon、Anthropic、Cisco、Chainguard、Cohere、GenLab、OpenAI和Wiz也作为创始赞助商加入，共同致力于推动AI安全的发展。
CoSAI的成立旨在通过开源方法、标准化框架和工具，为开发者提供指导，确保从设计初期就将安全性融入人工智能系统中。其核心目标是减少模型盗窃、数据污染、提示注入、规模化滥用和推理攻击等风险，专注于AI系统的安全开发、集成、部署和运行。
为了推进其技术议程，CoSAI将设立项目管理委员会，并组建由学术界与工业界AI专家组成的技术指导委员会，监督各项工作的进展。其初步工作重点包括：
- 强化AI系统软件供应链安全：通过增强组合和来源追踪，保护AI应用免受威胁。
- 适应网络安全环境的变化：解决AI与传统系统在投资和集成方面的挑战。
- 发展AI安全最佳实践与风险评估框架：建立行业标准，促进安全实践的统一。
Google的David LaBianca，作为CoSAI管理董事会的联合主席，强调了CoSAI成立的必要性，他表示：“CoSAI的成立是为了普及人工智能安全整合与部署所需的知识和进步。在OASIS Open的支持下，我们期待与行业领导者、专家和学术界合作，共同推进这项工作。”
CoSAI的使命是创建一种开源的人工智能安全方法，这对于建立行业信任、促进负责任的AI发展至关重要。通过解决安全实践的分散性问题，并提供清晰、标准化的指导，CoSAI将赋能开发者和组织，使他们有能力创建本质上安全的人工智能系统，为AI行业的健康发展奠定坚实基础。（来源）
0条评论