行业新闻与博客

2024年7月初，一些全球领先的人工智能公司联合起来创建了安全人工智能联盟（CoSAI）。

在 2024 年美国 Black Hat 大会上与 Infosecurity的对话中，CoSAI 创始成员之一 Anthropic 的 CISO Jason Clinton 解释了新联盟的一些关键目标和该组织的网络安全重点。

CoSAI 由 OASIS 全球标准机构主办，是一项开源计划，旨在为所有从业者和开发人员提供创建安全设计的 AI 系统所需的指导和工具。

CoSAI 的创始赞助商包括 Google、IBM、英特尔、微软、NVIDIA 和 PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

在工作的初始阶段，CoSAI 将重点关注三个工作流：

• 人工智能系统的软件供应链安全：增强组成和来源追踪以保护人工智能应用的安全。
• 为不断变化的网络安全形势做好防御者的准备：解决人工智能和传统系统中的投资和集成挑战。
• 人工智能安全治理：制定人工智能安全的最佳实践和风险评估框架。

随着时间的推移，将会添加更多的工作流。

克林顿解释说：“之所以选择这些领域，是因为我们审视了当前的通信生态系统，以及我们的创始成员与试图采用人工智能的公司之间的对话类型以及他们的担忧。”

关于治理，克林顿指出，目前该领域缺乏分类法和实证测量。

他说，这一领域的目标是让人们更容易地说出什么是严重风险，什么是轻微风险。

“你现在甚至不能这样做，这里就像是狂野的西部，”他说。

关于供应链，他表示，CoSAI 将探索对流经开发流程的每条信息进行签名的方法，以防止数据在生产过程中受到任何形式的泄露。

“这只是我们获得信心的一种方式。如果你将这一原则从制作模型的公司扩展到部署环境，它不仅允许你（客户）让模型提供商证明其内部安全控制有效，而且还允许你拥有可以遵循的签名以断言它没有被篡改，这是一种非常强大的控制，”他解释说。

最后，在谈到防御者的准备时，克林顿表示，人工智能模型现在非常擅长编写代码，并且还能够自动化网络防御者的工作流程。

“未来几年，我们很可能会进入一个漏洞被发现速度更快的环境，那么问题就是你该怎么做？”他说。

即使组织不采用人工智能，它们也会受到软件漏洞快速发现的影响。此外，网络攻击者也越来越狡猾。

克林顿表示，展望未来，CoSAI 已开放新的邀请，并且有很多外国企业对此感兴趣。

他还表示，他们希望鼓励公共部门投入更多资金。

CoSAI 目前正在考虑为这三个工作流分别设立技术委员会。

最后，该联盟将寻求与该领域的其他团体取得联系，例如云安全联盟和前沿模型论坛，以确保工作和研究不会重复。