行業新聞與部落格

2024年7月初，一些全球領先的人工智慧公司聯合起來建立了安全人工智慧聯盟（CoSAI）。

在 2024 年美國 Black Hat 大會上與 Infosecurity的對話中，CoSAI 創始成員之一 Anthropic 的 CISO Jason Clinton 解釋了新聯盟的一些關鍵目標和該組織的網路安全重點。

CoSAI 由 OASIS 全球標準機構主辦，是一項開源計劃，旨在為所有從業者和開發人員提供建立安全設計的 AI 系統所需的指導和工具。

CoSAI 的創始贊助商包括 Google、IBM、英特爾、微軟、NVIDIA 和 PayPal。其他創始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

在工作的初始階段，CoSAI 將重點關注三個工作流：

• 人工智慧系統的軟體供應鏈安全：增強組成和來源追蹤以保護人工智慧應用的安全。
• 為不斷變化的網路安全形勢做好防禦者的準備：解決人工智慧和傳統系統中的投資和整合挑戰。
• 人工智慧安全治理：制定人工智慧安全的最佳實踐和風險評估框架。

隨著時間的推移，將會新增更多的工作流。

克林頓解釋說：“之所以選擇這些領域，是因為我們審視了當前的通訊生態系統，以及我們的創始成員與試圖採用人工智慧的公司之間的對話型別以及他們的擔憂。”

關於治理，克林頓指出，目前該領域缺乏分類法和實證測量。

他說，這一領域的目標是讓人們更容易地說出什麼是嚴重風險，什麼是輕微風險。

“你現在甚至不能這樣做，這裡就像是狂野的西部，”他說。

關於供應鏈，他表示，CoSAI 將探索對流經開發流程的每條資訊進行簽名的方法，以防止資料在生產過程中受到任何形式的洩露。

“這只是我們獲得信心的一種方式。如果你將這一原則從製作模型的公司擴充到部署環境，它不僅允許你（客戶）讓模型提供商證明其內部安全控制有效，而且還允許你擁有可以遵循的簽名以斷言它沒有被篡改，這是一種非常強大的控制，”他解釋說。

最後，在談到防禦者的準備時，克林頓表示，人工智慧模型現在非常擅長編寫程式碼，並且還能夠自動化網路防禦者的工作流程。

“未來幾年，我們很可能會進入一個漏洞被發現速度更快的環境，那麼問題就是你該怎麼做？”他說。

即使組織不採用人工智慧，它們也會受到軟體漏洞快速發現的影響。此外，網路攻擊者也越來越狡猾。

克林頓表示，展望未來，CoSAI 已開放新的邀請，並且有很多外國企業對此感興趣。

他還表示，他們希望鼓勵公共部門投入更多資金。

CoSAI 目前正在考慮為這三個工作流分別設立技術委員會。

最後，該聯盟將尋求與該領域的其他團體取得聯絡，例如雲安全聯盟和前沿模型論壇，以確保工作和研究不會重複。