AI Python 包中存在缺陷 “Llama Drama” ，威胁软件供应链
编译：代码卫士
该漏洞影响可信平台如 Hugging Face 上的6000多个AI模型，凸显AI平台和开发人员解决供应链安全挑战的必要性。值得注意的是，该漏洞是由一名网络安全研究员率先发现的。
该漏洞的编号是CVE-2024-34359，是因对 “llama_cpp_python” 包中的 Jinja2 模板引擎滥用导致的严重漏洞。它位于模板数据处理中，后者并未获得正确的安全措施如沙箱等防护措施。尽管 Jinja2 支持沙箱，但本案例并未使用，从而导致攻击者可在主机系统上执行任意代码。
Jinja2 是用于模板渲染和HTML生成的一个 Python 库，但如未得到正确配置，则可能成为安全风险。相反，llama_cpp_python 包轻松集成 Python 易用性和 C++ 性能。它是复杂AI模型处理大量数据的理想工具，不过也可遭模板注入攻击。
该漏洞的重要性在于，AI系统会处理敏感数据集。这类漏洞会导致AI系统面临越权操作、数据盗取、系统攻陷和运营中断风险，从而影响个人隐私和组织机构的完整性。
AI系统的安全至关重要，因为它们的供应链依赖于第三方库和框架。鉴于AI系统通过系统集成攻击面得到扩展，因此，单个组件中的漏洞可影响整个系统。不过好在该漏洞已在0.2.72版本中修复，并额外添加了沙箱和输入验证措施。建议组织机构及时更新确保系统安全。
这一事件凸显了不断互联的世界中的风险。很多AI模型都会在AI共享，而如果其中一个模型中存在弱点，则会向病毒一样传播。它提醒开发人员和AI平台警惕软件供应链安全漏洞。烹饪之前要检查食物成分，同样也应确保所用软件是安全的。
https://www.hackread.com/ai-python-package-flaw-llama-drama-supply-chain/
题图：Pexels License
本文由奇安信编译，不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。
奇安信代码卫士 (codesafe)
国内首个专注于软件开发安全的产品线。