行業新聞與博客

2024年7月初，一些全球領先的人工智能公司聯合起來創建了安全人工智能聯盟（CoSAI）。

在 2024 年美國 Black Hat 大會上與 Infosecurity的對話中，CoSAI 創始成員之一 Anthropic 的 CISO Jason Clinton 解釋了新聯盟的一些關鍵目標和該組織的網絡安全重點。

CoSAI 由 OASIS 全球標準機構主辦，是一項開源計劃，旨在為所有從業者和開發人員提供創建安全設計的 AI 系統所需的指導和工具。

CoSAI 的創始贊助商包括 Google、IBM、英特爾、微軟、NVIDIA 和 PayPal。其他創始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

在工作的初始階段，CoSAI 將重點關注三個工作流：

• 人工智能系統的軟件供應鏈安全：增強組成和來源追蹤以保護人工智能應用的安全。
• 為不斷變化的網絡安全形勢做好防禦者的準備：解決人工智能和傳統系統中的投資和集成挑戰。
• 人工智能安全治理：制定人工智能安全的最佳實踐和風險評估框架。

隨着時間的推移，將會添加更多的工作流。

克林頓解釋説：“之所以選擇這些領域，是因為我們審視了當前的通信生態系統，以及我們的創始成員與試圖採用人工智能的公司之間的對話類型以及他們的擔憂。”

關於治理，克林頓指出，目前該領域缺乏分類法和實證測量。

他説，這一領域的目標是讓人們更容易地説出什麼是嚴重風險，什麼是輕微風險。

“你現在甚至不能這樣做，這裏就像是狂野的西部，”他説。

關於供應鏈，他表示，CoSAI 將探索對流經開發流程的每條信息進行簽名的方法，以防止數據在生產過程中受到任何形式的泄露。

“這只是我們獲得信心的一種方式。如果你將這一原則從製作模型的公司擴展到部署環境，它不僅允許你（客户）讓模型提供商證明其內部安全控制有效，而且還允許你擁有可以遵循的簽名以斷言它沒有被篡改，這是一種非常強大的控制，”他解釋説。

最後，在談到防禦者的準備時，克林頓表示，人工智能模型現在非常擅長編寫代碼，並且還能夠自動化網絡防禦者的工作流程。

“未來幾年，我們很可能會進入一個漏洞被發現速度更快的環境，那麼問題就是你該怎麼做？”他説。

即使組織不採用人工智能，它們也會受到軟件漏洞快速發現的影響。此外，網絡攻擊者也越來越狡猾。

克林頓表示，展望未來，CoSAI 已開放新的邀請，並且有很多外國企業對此感興趣。

他還表示，他們希望鼓勵公共部門投入更多資金。

CoSAI 目前正在考慮為這三個工作流分別設立技術委員會。

最後，該聯盟將尋求與該領域的其他團體取得聯繫，例如雲安全聯盟和前沿模型論壇，以確保工作和研究不會重複。