行业新闻与博客

Sysdig 威胁研究团队 (TRT) 最近进行的一项研究揭示了一种名为“LLMjacking”的新型网络攻击，该攻击利用被盗的云凭据来攻击云托管的大语言模型 (LLM) 服务。 

根据 5 月 6 日发布的一篇博客文章，攻击者通过 Laravel 的易受攻击版本 (CVE-2021-3129) 获取了这些凭证的访问权限。  

与之前围绕基于 LLM 的人工智能 (AI) 系统的讨论不同，这次攻击的目的是将LLM 访问权出售给其他网络犯罪分子，而合法的云帐户所有者则承担费用。

“攻击者正在寻找比我们最初预期更多的方法来利用人工智能模型。这一发现再次证明攻击者具有创新性——这证明他们不仅想要你输入法学硕士的数据，他们还想要访问 Sysdig 的网络安全策略师 Crystal Morin 告诉Infosecurity。

在这种情况下，攻击者窃取了云凭据以获取对云环境的访问权限，他们的目标是由云提供商托管的本地 LLM 模型。例如，他们针对的是 Anthropic 的本地 Claude (v2/v3) LLM 模型，如果不被发现，可能会导致受害者每天花费超过 46,000 美元的 LLM 消耗成本。

“LLM 的使用成本高昂。攻击者可能出于各种原因消耗 LLM 资源（提出问题并接收答案），而这些资源由您承担。他们可能会提出问题，试图提取您的敏感数据、开发恶意代码或查找漏洞在这一点上，选择是无穷无尽的，”莫林补充道。

研究人员还发现了反向代理被用来访问受损帐户的证据。此外，攻击者表现出了跨不同服务访问 LLM 模型的兴趣，利用工具检查十种不同 AI 服务的凭据，包括 AWS Bedrock、Azure 和 GCP Vertex AI 等。

“攻击者知道其他人会对法学硕士及其数据感兴趣，”莫林总结道。 “如果他们可以出售对数据的访问权，他们为什么要费心自己整理所有数据呢？”

为了减轻此类攻击，Sysdig 建议实施漏洞和秘密管理实践，以及云安全态势管理 (CSPM) 或云基础设施授权管理 (CIEM) 解决方案，以最大限度地减少权限并防止未经授权的访问。