CISO 聚焦 | AI驱动的微软安全防护：安全不仅仅是默认的，也是可以预测的

前言

最近一段时间以来，ChatGPT 比较火爆，也带动了人工智能/机器学习（AI/ML）和人工智能生成内容（AIGC），很多网络安全行业的朋友们也在思考 ChatGPT 能够给网络安全带来什么？其实在目前的网络安全中，AI/ML 技术早就已经得到大规模的使用了，甚至可以毫不夸张的说，现在的网络安全完全依赖于 AI/ML 技术。

微软与 OpenAI 持续合作，在微软全系列的产品中充分集成 OpenAI 领先的 AI/ML 技术。作为合作中的一部分，2023年3月28日，微软公司宣布推出全球首个基于 OpenAI’s GPT-4 生成式AI的下一代网络安全人工智能产品 Microsoft Security Copilot，将这种先进的对话式大型语言模型（LLM）与微软全球领先的网络安全专用 AI/ML 模型相结合，通过易于使用的AI助手，提高安全团队的整体效能。在这篇文章中，我就 AI/ML 技术在微软安全中的应用给大家做个概要性地介绍。

随着企业数字化转型的不断发展，以及移动互联、云计算和物联网等新技术的应用，我们的企业网络环境在不断的进化，复杂化、云化和碎片化是核心的主题。与之伴生的，我们面临的安全威胁攻击技术也是持续高度进化的，针对不同的应用技术场景，也动态发展出不同的攻击技术和威胁。

“网络安全的未来在云端”，这句话是网络安全行业的共识，但不同的人可能有不同的考量。就我自身的解读而言，我认为这句话主要包含两层含义：

01

首先是从被保护的目标来看，目前企业的数字化应用场景，包含移动互联、云计算、物联网，乃至 AI/ML 和大数据等等，基本上都是依赖于云相关技术的。网络安全是与主体紧密关联的，它存在的唯一目标就是为了保护主体的安全性，因此我们需要围绕着云相关技术实现全面而完善的网络安全防护。

02

其次是从网络安全防护技术本身的发展而言，无论攻防两端，均在充分的利用云相关技术进行持续高度进化。云相关技术（例如安全遥测、安全情报、大数据、AI/ML 和自动化等等）实际上已经成为了网络安全的核心基础技术。网络安全做的好不好，核心就是看云相关的先进技术利用和应用的好不好。

“实战是检验网络安全能力的唯一标准”。微软充分的结合领先地云计算、人工智能/机器学习、安全情报、大数据、自动化等技术，持续地研发、提高和改进安全产品和技术能力，实现全场景、全平台、全生命周期的智能、集成的端到端安全，从而帮助企业组织实现更好的安全防护效能。截止到目前为止，微软有6项安全产品位于 Gartner 领导者象限，10项产品位于 Forrester Wave 领导者榜单，这两个数字都是全球第一的，因此可以充分的证明微软安全相关产品和技术全球领先的能力。

从本质上来讲，人工智能/机器学习（AI/ML）的核心是算力、算法和数据的比拼，三者缺一不可。从微软网络安全目前的人工智能/机器学习（AI/ML）核心能力来看：

01

在算力方面，通过全球领先的 Azure 云计算平台，微软拥有充沛的计算能力，并在持续加大投资提高计算能力，能够为微软的客户或者微软自身的服务提供充分的算力支持。

02

在算法方面，微软自身在网络安全方面已经具有多个全球领先的 AI/ML 算法，并已经充分的应用在微软的智能集成安全产品和技术体系中，如后文所示。同时微软充分结合 OpenAI’s GPT 等先进 AI/ML 技术，推出了全球首个基于 OpenAI’s GPT-4 生成式AI的下一代网络安全人工智能产品 Microsoft Security Copilot，将这种先进的对话式大型语言模型（LLM）与微软全球领先的网络安全专用 AI/ML 模型相结合，通过易于使用的AI助手，提高安全团队的整体效能，在后文会详细介绍。

03

在数据方面，微软拥有全球领先的安全情报和安全大数据。微软每天接收到的安全信号数据超过65万亿，服务于全球超过86万企业客户，在2022年 Microsoft Defender for Office 365阻止的邮件威胁数量超过370 亿，Microsoft Defender for Endpoint 阻止的恶意软件数量超过96亿，Azure AD 阻止的身份验证威胁数量超过347亿。

无论是从算力、算法、还是数据层面来看，微软都是全球遥遥领先的，并且也持续地正向反馈、构建并优化全球领先地人工智能/机器学习（AI/ML）能力。

除了在网络安全产品和技术中充分应用 AI/ML 技术，同时我们也需要考虑 AI/ML 自身的安全性。微软也是这方面的先驱，与 MITRE 合作推出了 MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems) 框架，如下图所示，用于帮助企业识别和分析 AI/ML 应用和系统的安全风险，从而进行更好的应对和保护：

2023年3月28日，微软公司宣布推出全球首个基于 OpenAI’s GPT-4 生成式AI的下一代网络安全人工智能产品 Microsoft Security Copilot，将这种先进的对话式大型语言模型（LLM）与微软全球领先的网络安全专用 AI/ML 模型相结合，通过易于使用的AI助手，提高安全团队的整体效能，展现独特的价值，使最新的大型语言模型能力价值最大化。

作为全球首个集成对话式 AI/ML 大型语言模型的安全产品，Microsoft Security Copilot 以微软独特的、每日超过65万亿安全信号的安全情报和大数据为基础，通过全球领先的 AI/ML 技术，在 Azure 的全球超大规模基础设施上运行，并符合企业级的网络安全和隐私合规要求。当 Microsoft Security Copilot 收到网络安全专业人员的查询提示时，它会充分运用安全专用模型的力量，基于微软独特的全球安全情报和大数据，对相关场景和用例进行查询和分析，反馈、增强并赋能安全分析人员的工作（如下图所示，通过对话自动生成相关安全事件的攻击链分析和建议）。

Microsoft Security Copilot 具有独特的能力，能够给企业的网络安全带来以下收益：

化繁为简：在安全领域，时间很重要。通过 Microsoft Security Copilot 这个人工智能助理的协助，企业的网络安全防御团队可以在几分钟内甚至实时对安全事件做出反应，而不是需要几小时或几天。Microsoft Security Copilot 通过基于自然语言的交互体验提供关键的 Step-by-step 指导和背景上下文，从而加速安全事件调查和响应，迅速总结任何过程或事件，并调整报告以适应所需的受众，这种协助能力可以减少防御者的工作负担，使其能够专注于最紧迫的工作。

Detect the undetectable：技艺高超的攻击者隐藏在大量的噪音背后，仅具有微乎其微的攻击信号，很难被网络安全防御团队发现。Microsoft Security Copilot 能够基于企业的网络安全态势，全面监测、分析并评估网络安全威胁和攻击，实时浮现出需要优先考虑的威胁，捕捉别人错过的威胁和攻击信息，并根据微软的全球安全情报大数据持续分析和预测攻击者的下一步行动，从而协助防御者快速拦截和阻断攻击行为，避免进一步的影响。

赋能安全团队：安全团队的总体能力受到团队规模、个人知识技能和工具技术等方面的限制。Microsoft Security Copilot 具备了在安全事件响应、漏洞管理和威胁猎捕等领域的专业知识技能，能够辅助和支持网络安全防御团队的学习和应用，提升团队的安全技能，同时它不断地从用户的互动中学习，从而适应企业的偏好，并建议防御者采取最佳的行动方案，以实现更安全的结果。这使安全团队能够事半功倍，实现更大规模、更成熟的组织和执行能力，并提高企业整体的安全运营效能。

不仅如此，我们的网络安全训练模型自身具有学习系统来持续创建和优化技能，可以持续的提升检测与分析质量、响应速度和安全态势监控等方面的能力。

◉ 点击了解 Microsoft Security Copilot

Microsoft Security Copilot 与微软的端到端安全产品体系集成，并且未来它也会扩展到一个不断增长的、包含第三方和客户的生态系统中。因此，简而言之，Microsoft Security Copilot 不仅仅是一个大型的语言模型，而是一个能够持续自我学习和优化的人工智能系统，使企业能够真正以实时的速度来防御网络安全威胁和攻击。

除此之外，数据隐私保护是网络安全中的核心内容之一，我们在构建 Microsoft Security Copilot 时也充分考虑到了这一点。Microsoft Security Copilot 充分满足企业的网络安全和隐私合规要求：您的数据始终是您的数据，并且在你的控制范围内，它不会被用来进行后续的 AI/ML 训练。同时在保持隐私的同时，每个用户的互动可以很容易地与其他团队成员分享，以加快安全事件响应，从而可以更有效地合作解决复杂问题，并提高团队协作技能。

网络安全就是数字化时代的战争，而且我们面对的可能是世界上智商最高的一类犯罪分子。应对网络安全攻击犹如下棋一样，如何能够提前洞察和预测对方的目标和行为，从而进行相应的判断和应对？2000多年前孙子兵法中的那句“所以动而胜人，成功出于众者，先知也”，就已经充分说明了预先掌握情报的重要性。

我们认为安全不仅仅是默认的，也是可以预测的。通过全球领先的安全遥测、安全情报、大数据、人工智能/机器学习和自动化技术，我们可以预测恶意行为并提前阻断相关威胁。如下图所示，针对一个钓鱼邮件发起的攻击行为，从收到钓鱼邮件到受害者运行恶意软件，可能看起来只有两个操作步骤，但实际上里面可以拆解为跨多个安全域攻击链的7个攻击操作步骤。在不同的攻击阶段，我们均具有完善的安全检测和防护措施，通过领先的技术预测恶意行为并自动化的第一时间阻断相关威胁攻击，实现智能地、集成地深度纵深防御体系。

自2021年开始，微软每年在网络安全产品和技术的研发方面承诺投入超过40亿美元，这是一个全球领先的巨额投入。在微软，我们的数据科学家正在不断研究和设计构建先进的人工智能/机器学习技术，以对抗持续高度进化的网络安全威胁。微软在网络安全产品和技术中已经大量的采用各种先进的 AI/ML 模型和技术，例如在我们全球领先的 EDR 产品 Microsoft Defender for Endpoint 中所采用的相关 AI/ML 技术如下图所示，其中一个核心技术就是基于AI驱动的自适应保护技术（Adaptive Protection ML）。

在保护我们的端点设备时，我们需要拦截并阻断恶意行为。但是如何定义这个恶意行为？以及什么时候去阻断？这却是一个难题。这个问题的答案有时是非常明确的，例如阻断一个安全情报中明确指出的恶意软件；但是有的时候是非常不明确的，例如面对一个全球第一次遇见的白文件时（而且很遗憾，这就是目前我们遭遇到的 APT 攻击中的常态，我们每年会遇到上亿个全新的恶意文件）。如果我们对于恶意软件防护的敏感度比较低，可能会漏杀恶意软件；而如果我们对于恶意软件防护的敏感度比较高，虽然能够获得更高的安全性，但是却可能阻断正常文件的使用和执行，并导致不好的用户体验。如何在安全性和用户体验之间寻求一个合理的平衡？AI驱动的自适应保护技术就是用于解决这个难题。

我们目前所面临的攻击行为，都是成套路、成体系的。MITRE ATT&CK Matrix 就是一个很好的攻击技术框架体系，最新的 Enterprise Techniques v12 版本里面包含了594种真实使用过的网络安全攻击技术。在绝大多数的网络安全攻击事件中（无论是普遍性的攻击行为还是 APT 攻击行为），攻击者通常使用可预测的方法进入设备，并按照可预测的攻击技术套路来进行后续的攻击行为。

为了加强微软安全产品所提供的自动保护，更好地防范各种网络攻击行为，微软研发了这个基于云的、AI驱动的自适应保护系统。端点设备通过与这个系统的交互，可以结合云端安全情报、大数据、 AI/ML 等先进技术，智能地预测和判断它是否处于危险之中，然后结合AI驱动的自适应保护系统的建议，自动调整安全防护的敏感度并执行相适应的保护和阻断操作，以保护设备并挫败攻击者的下一步行动。

该AI驱动的自适应保护系统做出的决定是基于广泛的安全情报、大数据、AI/ML 研究和实验，在不影响用户体验的情况下最大限度地智能提高安全防护能力和入侵阻断效果。由于自适应保护是人工智能驱动的，给设备的风险评分不仅取决于个别指标，也取决于系统通过云端的全球/全局安全情报、大数据来确定攻击是否即将发生或正在发生的攻击的广泛模式和特征。这种能力能够更好的防范各种网络攻击行为，因为即使攻击者使用一个未知的或白文件，甚至是一个合法的文件或进程，系统也能提前预测并阻断该文件或进程的启动，从而避免攻击行为的进一步发展，在攻击的发起早期阶段就阻断了攻击链，使攻击对企业的整体影响大大降低。

AI驱动的自适应保护功能是在现有的强大的云保护之上工作的，它通过不同的下一代技术来防御威胁，更加智能、快速并提高用户体验。当端点设备与其进行交互时，它可以根据实时的机器学习预测和端点设备风险评估，自动提高或降低云交付的安全防护的敏感度，从而更好地主动保护设备。

例如AI驱动的自适应保护的一个案例，在某端点设备上，该系统封锁了某个可执行文件。在设备上出现这个可执行文件之前，在设备上观察到一些可疑的行为，如系统代码注入和创建可疑任务等等。这些安全遥测信号与其他安全大数据一起，都被AI驱动的自适应保护系统的机器学习系统所整合集成考虑，当设备被预测为“有风险”时，云交付的安全操作的敏感性会立即提高。由于敏感性的增加，Microsoft Defender for Endpoint 检测并阻断了这个文件。从技术上讲，第一时间检测和阻断完全全新的恶意软件是比较困难的，所以如果没有AI驱动的自适应保护系统和能力，这个文件可能不会在这个客户的设备上被立即阻断，从而攻击者可以顺利的进行后续的攻击行为。后来，该文件被确定为 Cridex 的一个全新变种，而 Cridex 通常用于凭据窃取和数据泄露，导致这些凭证和数据被网络犯罪分子用于后续的攻击中。

AI驱动的自适应保护系统完全依赖于先进的安全遥测、安全情报、大数据和 AI/ML 技术。为了使此功能按预期执行，我们需要它很好地完成两件事：

首先，我们需要系统准确预测设备是否存在风险；

第二，系统需要根据之前的评估或判断做出反应和调整。

当设备受到攻击时，设备上的活动通常从少量异常或可疑的信号或指标开始，这些信号或指标通常不会单独显示为恶意攻击。但是，当这些信号或指标随时间或组合模式依次或随机出现时，AI 驱动的自适应保护可以在每个新信号到达时评估设备的状态，并可以立即相应地调整设备的风险评分。典型的安全信号数据包括以前的恶意软件遭遇、威胁、用户或系统行为事件和其他相关信息等等。

如果设备在实际上存在安全风险时被错误地认定为没有风险，则攻击者可能继续进行后续的攻击行动并造成更大的威胁和影响，例如，如果攻击者窃取凭据并使用它们横向移动。相反，如果设备实际上没有安全风险但被错误地认定为有风险，那么用户体验就会受到影响。为了取得安全性和用户体验之间的平衡，我们通过持续地研发投入，实现了先进地、智能地人工智能/机器学习模型，可以给出准确的设备风险评估，并持续对其进行优化。

如果给定设备的风险评分超过特定阈值，AI驱动的自适应保护会自动提高安全防护的敏感度，并进行主动的阻断操作。这种级别的阻断操作意味着，如果设备存在风险，某些不会立即被视为恶意的进程或文件也可能被阻断。风险评分阈值和提高敏感度模式都是基于深入研究和实验的数据驱动决策，可在不影响客户体验的情况下最大限度地提高阻断效果。

此外，由于设备的风险是实时评分和刷新的，因此在设备被认为不再有风险后，AI驱动的自适应保护也会立即降低安全防护的敏感度。因此，我们可以确保这种 AI 驱动的自适应保护功能不会造成不必要的误报或破坏客户体验。

AI 驱动的自适应保护是基于设备的实时风险评估进行智能的决策，能够针对端点设备上下文关联提供个性化的保护，使得每台端点设备上的保护体验不同，即使对于相同的文件或用户行为也是如此。从本质上讲，每个端点设备都会获得为其量身定制的保护级别。

例如，可以在风险评分较低的端点设备上允许进程 A，但在风险评分较高的端点设备上可以阻断进程 A 并发出警报。这种基于端点设备的个性化保护有助于提高用户体验，并平衡安全性和用户体验。

AI驱动的自适应保护是一种充分利用 AI/ML 的先进技术，可以帮助企业主动防范各种网络攻击行为，并在攻击发生时给予企业更多的响应时间来进行分析、调查和补救，让企业的安全运营变的更加的有效和高效，同时能够更好地平衡用户体验和安全性。默认情况下，该AI驱动的自适应保护系统已经集成到 Microsoft Defender for Endpoint 中并启用，无需额外的操作步骤。用户可以参考启用云保护的相关步骤确认自己的 MDE 已经启用了相关功能。

除了已经在 Microsoft Defender for Endpoint 中应用这项技术之外，我们也在逐步在往其他场景中推广和应用，目前在 Microsoft Purview 的数据泄露防护（DLP）中也应用了这项技术。它基于内部人员风险管理（Insider Risk Management）的AI/ML和大数据分析，通过持续的用户行为分析来洞察用户如何与数据进行交互，识别可能导致数据泄露的风险用户行为并评估用户的潜在安全风险级别，并自动基于相关用户的潜在风险级别来应用不同级别的 DLP 策略控制，例如高风险级别的用户自动应用更严格的 DLP 策略，而低风险级别的用户自动应用更宽松的 DLP 策略，如下图所示。通过AI驱动的自适应保护，DLP 策略变得更加的动态和用户定制化，能够更好的获得用户体验和安全性之间的平衡，让企业的安全运营变的更加的有效和高效。

网络安全面对的是全世界智商最高的犯罪分子，我们不能低估我们的对手，也不能高估自己的能力。没有绝对的网络安全，也没有永远的网络安全。网络安全无论攻防两端，都是一个动态发展、持续提高的过程。自2021年开始，微软每年在网络安全产品和技术的研发方面投入超过40亿美元，这是一个全球领先的巨额投入。微软未来也会持续地使用包含例如安全情报、大数据、AI/ML 等在内的先进技术来发展和优化微软网络安全产品，Microsoft Security Copilot 只是其中一步而已。

“Protect everything, everyone, everywhere”，这是微软安全的愿景。在数字化时代，网络安全既是挑战，也是机遇。微软的使命是予力全球每一人、每一组织成就不凡，这意味着在网络安全方面我们也要充分地并具有前瞻性地满足企业客户的需求，通过领先地智能集成端到端安全技术能力降低企业的网络安全复杂性和总体拥有成本，完善地保护企业组织的数字资产，协助企业数字化转型又快又好地进行。

张美波

微软（中国）有限公司网络安全

总监兼任网络安全首席架构师

张美波先生现任微软（中国）有限公司网络安全总监，并兼任网络安全首席架构师。他以“展现微软安全价值，守护企业客户安全”为己任，带领微软网络安全团队主要负责微软企业客户的网络安全技术与服务支持，推动微软网络安全产品和技术在中国的高速增长与应用。他曾是微软全球企业服务体系级别最高的技术专家之一，在多个具有全球排名前列的 Top 超大规模环境企业客户担任微软方的基础架构/网络安全架构师和“红军/蓝军”顾问，负责相关的安全架构体系规划设计与部署实施、 APT 攻击相关防范、安全运营及安全响应等。

# CISO 聚焦系列文章

点击即可阅读

# 推荐文献

关于微软AI驱动的自适应保护

请参考：

⇲ 启用云保护

https://learn.microsoft.com/en-us/microsoft-365/security/defender-endpoint/enable-cloud-protection-microsoft-defender-antivirus?view=o365-worldwide

⇲ Microsoft Purview 自适应保护

https://www.microsoft.com/en-us/security/blog/2023/02/06/introducing-adaptive-protection-in-microsoft-purview-people-centric-data-protection-for-a-multiplatform-world/