行業新聞與博客

Sysdig 威脅研究團隊 (TRT) 最近進行的一項研究揭示了一種名為“LLMjacking”的新型網絡攻擊，該攻擊利用被盜的雲憑據來攻擊雲託管的大語言模型 (LLM) 服務。 

根據 5 月 6 日發佈的一篇博客文章，攻擊者通過 Laravel 的易受攻擊版本 (CVE-2021-3129) 獲取了這些憑證的訪問權限。  

與之前圍繞基於 LLM 的人工智能 (AI) 系統的討論不同，這次攻擊的目的是將LLM 訪問權出售給其他網絡犯罪分子，而合法的雲帳户所有者則承擔費用。

“攻擊者正在尋找比我們最初預期更多的方法來利用人工智能模型。這一發現再次證明攻擊者具有創新性——這證明他們不僅想要你輸入法學碩士的數據，他們還想要訪問 Sysdig 的網絡安全策略師 Crystal Morin 告訴Infosecurity。

在這種情況下，攻擊者竊取了雲憑據以獲取對雲環境的訪問權限，他們的目標是由雲提供商託管的本地 LLM 模型。例如，他們針對的是 Anthropic 的本地 Claude (v2/v3) LLM 模型，如果不被發現，可能會導致受害者每天花費超過 46,000 美元的 LLM 消耗成本。

“LLM 的使用成本高昂。攻擊者可能出於各種原因消耗 LLM 資源（提出問題並接收答案），而這些資源由您承擔。他們可能會提出問題，試圖提取您的敏感數據、開發惡意代碼或查找漏洞在這一點上，選擇是無窮無盡的，”莫林補充道。

研究人員還發現了反向代理被用來訪問受損帳户的證據。此外，攻擊者表現出了跨不同服務訪問 LLM 模型的興趣，利用工具檢查十種不同 AI 服務的憑據，包括 AWS Bedrock、Azure 和 GCP Vertex AI 等。

“攻擊者知道其他人會對法學碩士及其數據感興趣，”莫林總結道。 “如果他們可以出售對數據的訪問權，他們為什麼要費心自己整理所有數據呢？”

為了減輕此類攻擊，Sysdig 建議實施漏洞和秘密管理實踐，以及雲安全態勢管理 (CSPM) 或雲基礎設施授權管理 (CIEM) 解決方案，以最大限度地減少權限並防止未經授權的訪問。