7 月 19 日,据媒体报道,谷歌、微软、亚马逊、英特尔、英伟达、IBM、思科、PayPal、OpenAI、Anthropic、Cohere、Chainguard、WIZ 和 GenLab 等 14 家领先科技企业在阿斯彭安全论坛上宣布成立安全人工智能联盟 (CoSAI)。
该联盟由全球标准机构 OASIS 支持,旨在通过提供资源共享平台、指导手册和工具,帮助人工智能从业者开发更安全的系统。它促进知识和技术的共享,为安全的 AI 生态系统奠定基础。
CoSAI 专注于三个核心目标:建立人工智能安全最佳实践、应对人工智能领域的挑战和确保人工智能应用的安全。
联盟将涵盖人工智能系统的安全构建、集成、部署和运行各个方面。
值得注意的是,CoSAI 将重点关注降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险,这些风险对 AI 系统和社会经济造成威胁。