查看原文
其他

AI Python 包中存在缺陷 “Llama Drama” ,威胁软件供应链

WAQAS 代码卫士 2024-07-14

 聚焦源代码安全,网罗国内外最新资讯!

编译:代码卫士

Checkmarx 公司的安全团队在报告中提到,看似可信的AI模型在安装后门。该漏洞被称为“LIama drama”,影响 llama_cpp_python 包,可能导致攻击者执行任意代码并攻陷数据和操作。


该漏洞影响可信平台如 Hugging Face 上的6000多个AI模型,凸显AI平台和开发人员解决供应链安全挑战的必要性。值得注意的是,该漏洞是由一名网络安全研究员率先发现的。

该漏洞的编号是CVE-2024-34359,是因对 “llama_cpp_python” 包中的 Jinja2 模板引擎滥用导致的严重漏洞。它位于模板数据处理中,后者并未获得正确的安全措施如沙箱等防护措施。尽管 Jinja2 支持沙箱,但本案例并未使用,从而导致攻击者可在主机系统上执行任意代码。

Jinja2 是用于模板渲染和HTML生成的一个 Python 库,但如未得到正确配置,则可能成为安全风险。相反,llama_cpp_python 包轻松集成 Python 易用性和 C++ 性能。它是复杂AI模型处理大量数据的理想工具,不过也可遭模板注入攻击。


风险评估



该漏洞的重要性在于,AI系统会处理敏感数据集。这类漏洞会导致AI系统面临越权操作、数据盗取、系统攻陷和运营中断风险,从而影响个人隐私和组织机构的完整性。

AI系统的安全至关重要,因为它们的供应链依赖于第三方库和框架。鉴于AI系统通过系统集成攻击面得到扩展,因此,单个组件中的漏洞可影响整个系统。不过好在该漏洞已在0.2.72版本中修复,并额外添加了沙箱和输入验证措施。建议组织机构及时更新确保系统安全。

这一事件凸显了不断互联的世界中的风险。很多AI模型都会在AI共享,而如果其中一个模型中存在弱点,则会向病毒一样传播。它提醒开发人员和AI平台警惕软件供应链安全漏洞。烹饪之前要检查食物成分,同样也应确保所用软件是安全的。



代码卫士试用地址:https://codesafe.qianxin.com
开源卫士试用地址:https://oss.qianxin.com








推荐阅读

RSAC 2024观察:软件供应链安全进入AI+时代

R语言中的新漏洞可导致项目易受供应链攻击

CISA:Sisense事件也影响关键基础设施,或引发供应链攻击

供应链攻击滥用 GitHub 特性传播恶意软件

Hugging Face 等AI即服务平台易受严重漏洞影响,遭AI供应链攻击




原文链接

https://www.hackread.com/ai-python-package-flaw-llama-drama-supply-chain/


题图:Pexels License


本文由奇安信编译,不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。




奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错,就点个 “在看” 或 "赞” 吧~

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存