据媒体报道，全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、PayPal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业，于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟（CoSAI）。
该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办，作为一项前瞻性的开源计划，CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台，通过提供详尽的指导手册与高效工具，助力他们设计出更加安全可靠的人工智能系统。这一举措不仅促进了行业内知识与技术的交流共享，还为构建安全的AI生态系统奠定了坚实的基础。
CoSAI聚焦于三大核心目标：
- 推广人工智能安全的最佳实践：
- 通过深入挖掘和推广AI安全的最佳实践，为行业树立标杆，确保技术开发遵循高标准的安全规范。
- 应对人工智能领域的新挑战：
- 积极应对人工智能领域不断涌现的新挑战，确保技术发展的稳健前行，解决在AI应用中出现的新型安全问题。
- 保障人工智能应用的安全性：
- 全面保障人工智能应用的安全性，为用户和社会带来福祉，确保AI技术能够安全、可靠地应用于各个领域。
在具体实施层面，CoSAI的工作范围广泛而深入，涵盖了从人工智能系统的安全构建、无缝集成、高效部署到稳定运行的全过程。联盟将重点聚焦于降低一系列潜在风险，包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等，这些威胁不仅威胁着AI系统的稳定与安全，更可能对社会经济造成不可估量的损失。
通过这样的合作与创新，CoSAI致力于打造一个更加安全的AI生态系统，为全球AI产业的发展提供坚实的保障。
