查看原文
其他

Gartner发布2024年十大战略技术趋势 安全未来方向几何?

安全419 安全419
2024-09-16


安全419关注到,Gartner于今日发布2024年企业机构需要探索的十大战略技术趋势。这份连年更新的报告,是Gartner面向企业业务领导者和技术人员提供的技术清单,分析其在未来三年内如何影响企业的战略,以指导关键岗位决策者尽早了解探索并满足各自的业务需求。



2024年重要战略趋势包括:



全民化的生成式AI

Democratized Generative AI



AI信任、风险和安全管理

AI Trust, Risk and Security Management



AI增强开发

AI-Augmented Development



智能应用

Intelligent Applications



增强型互联员工队伍

Augmented-Connected Workforce



 持续威胁暴露管理

Continuous Threat Exposure Management



机器客户

Machine Customers



可持续技术

Sustainable Technology



平台工程

Platform Engineering



行业云平台

Industry Cloud Platforms


可以看到,与AI相关的技术应用已经占据半壁江山,服务于企业未来战略的技术趋势多围绕着智能化、云化、平台化及可持续性而发展。Gartner的另一项研究表明,94%的企业CEO希望继续或加速推进数字化转型进程,而构建安全的基础是加速数字化转型的底座。我们同样可以看到,多项技术趋势意在支持安全相关的业务战略。在此,我们重点介绍CTEM和TRiSM两项技术趋势,尝试为业界同仁分析网络安全技术未来可能的进化方向。



持续威胁暴露管理

Continuous Threat Exposure Management

持续威胁暴露管理(CTEM)是一种使企业机构能够持续而统一地评估企业数字与物理资产可访问性、暴露情况和可利用性的务实系统性方法。根据威胁载体或业务项目(而非基础设施组件)调整CTEM评估和修复范围不仅能发现漏洞,还能发现无法修补的威胁。


Gartner 预测,到 2026 年,根据 CTEM 计划确定安全投资优先级别的企业机构将减少三分之二的漏洞。


——Gartner《2024年十大战略技术趋势》


随着业务目标和工作流程持续升级,无论是在本地还是在云中,技术环境已经变得越来越复杂和分散,新技术和业务计划(如SaaS应用程序)、产生收入的新方式、OT、IoT、网络物理系统(CPS)和供应链接触点构成了新的威胁,企业必须不断更新其IT架构和安全计划,有效管理不断增长的攻击面成为一大挑战。


安全领导者总是在寻找改进的框架和工具来降低企业的安全风险,这包括从仅用于预防的方法转变为具有检测和响应能力的更成熟的战略增强预防控制。以前管理攻击面的方法已经跟上数字化速度,CTEM 是一种务实且有效的系统方法,Gartner最早在2022年中发布的《实施持续威胁暴露面管理(CTEM)计划》中提出,可不断优化优先级,并不断完善安全态势改进。



其周期包括五个必需的步骤:确定范围、发现识别、优先级、验证和采取行动。构建CTEM计划的企业使用工具对资产和漏洞进行清点和分类,模拟或测试攻击场景和其他形式的态势评估过程和技术,达到成熟阶段,使企业能够持续和一致地评估自身数字和物理资产的可访问性、暴露面及可利用性。


在安全419此前与攻击面管理厂商华云安的访谈中,华云安CEO沈传宝曾表示,如今的安全主题正从威胁扩展到风险管理,CTEM列出了一套集成的迭代程序以满足眼下及可预见的未来的安全目标。下沉到产品和工具层面,CTEM的最佳实践需要以CAASM、EASM、BAS、VPT、TDR等产品作为支撑,站在攻防视角,既可独立提供各自的安全能力,又能编排联动形成全面且完整的整体解决方案,构建一体化攻击面管理安全能力平台。


其进一步解释,云计算、SaaS应用以及远程办公的增长持续扩大攻击面,基于风险的安全管理思维的转变,正是从单点防御、依托合规转向持续地降低总体风险水平。面向未来的安全策略,应该站在整个企业的高度评估重要资产,系统性识别企业面临的威胁并划分优先级,不孤立考量各个安全控制措施,而是更清晰地展现弱点的位置和被攻破的可能性,依此不断优化改进安全机制,从更全面、更长远的角度看清威胁态势,匹配业务目标而持续保持更安全的状态。这正是CTEM方法论的核心思想体现。



AI信任、风险和安全管理

AI Trust, Risk and Security Management

AI的全民化使得对AI信任、风险和安全管理(TRiSM)的需求变得更加迫切和明确。在没有护栏的情况下,AI模型可能会迅速产生脱离控制的多重负面效应,抵消AI所带来的一切正面绩效和社会收益。AI TRiSM提供用于模型运维(ModelOps)、主动数据保护、AI特定安全、模型监控(包括对数据漂移、模型漂移和/或意外结果的监控)以及第三方模型和应用输入与输出风险控制的工具。


Gartner预测,到2026年,采用AI TRiSM控制措施的企业将通过筛除多达80%的错误和非法信息来提高决策的准确性。


——Gartner《2024年十大战略技术趋势》


就在10月12日,Gartner刚公布了一项调查数据,到2026年,超过80%的企业将使用生成式AI API,或部署生成式AI的应用程序,而在2023年初这一比例不到5%。


随着深度学习技术及应用的发展,AI的执行逻辑越来越趋向于黑盒,导致相关能力在许多行业的应用是有障碍的,比如金融风控、网络营销等场景。人类可理解的规则和AI的黑盒执行逻辑如何取长补短,让AI的执行过程更安全、更能让业务理解,可能是AI系统接下来在特定领域需要解决的问题。


国内的AI技术发展同样如火如荼,对AI应用的监管也在逐渐建立并完善。8月15日,由国家网信办等七部委联合发布的《生成式人工智能服务管理暂行办法》正式实施,成为全球首部针对生成式人工智能的法规。多部委联合发布的形式,也凸显了生成式人工智能的跨域复杂性和治理体系化思路。随后颁布的《生成式人工智能服务内容标识方法(征求意见稿)》《生成式人工智能服务 安全基本要求》(征求意见稿)细化落地方针,为相关服务提供者指明合规路径。


因此,对AI技术的安全管理不仅是保证业务战略稳定发挥的必选项,也是市场化应用不可逾越的安全监管要求。


AI TRiSM作为Gartner提出的一个新兴概念,其同样出现在2023年的十大战略技术趋势中。AI TRiSM是实现负责任AI的重要框架,其确保AI模型的治理、可信度、公平性、可靠性、稳健性、有效性和数据保护。AI TRiSM包括模型可解释性、数据和内容异常检测、AI数据保护、模型运营和对抗性攻击抵抗的解决方案和技术,在人工智能的采用率、业务目标实现和用户接受度方面将能够带来更好的成果,预计将在2—5年内成为主流。




实施AI TRiSM的关键行动策略包括:


 成立特别小组或专门的部门来管理企业的AI TRiSM工作;


 实施整体的AI隐私、安全和风险管理,以改善AI的业务成果,而不仅仅是为了满足合规要求;


 作为整体AI TRiSM项目的一部分,在企业内广泛开展工作,有效管理最佳工具集;


 使用能够提供附加价值的开源工具或厂商解决方案,为AI模型注入可解释性;


 借助必要的解决方案为AI模型使用的数据提供保护,针对不同的用例及其组件,使用不同的数据保护方法;


 使用能够确保模型和数据完整性的解决方案,将风险管理纳入模型运行,并不断验证模型运行的可靠性。


相关实践用例显示,丹麦商业管理局开发了一种方法,在AI模型中应用了高层次的道德原则,进而将道德原则与具体行动联系起来,根据公平性测试检查模型的预测结果,并建立了模型监控框架。借助这一方法,丹麦商业管理局快速部署并管理了16个AI模型,这些模型能够监测价值数十亿欧元的金融交易。


其他2024年重要战略趋势简介



全民化的生成式AI

Democratized Generative AI

经过大规模预训练的模型、云计算与开源的融合正在推动生成式AI的全民化。生成式AI应用可以让企业用户访问并使用大量内部和外部信息源,这意味着生成式AI的快速采用将极大地促进企业知识和技能的全民化。大型语言模型使企业能够通过丰富的语义理解,以对话的形式将员工与知识相连接。



AI增强开发

AI-Augmented Development

指使用生成式AI、机器学习等AI技术协助软件工程师进行应用设计、编码和测试。AI辅助软件工程提高了开发人员的生产力,使开发团队能够满足业务运营对软件日益增长的需求,能够减少软件工程师编写代码的时间,使他们开展更具战略意义的活动。



智能应用

Intelligent Applications

所谓“智能”定义为自主做出适当响应的习得性适应能力,其被用于更好地增强工作或提高工作的自动化程度。作为一种基础能力,应用中的智能包含各种基于AI的服务,如机器学习、向量存储和连接数据等。因此,智能应用能够提供不断适应用户的体验。



增强型互联员工队伍

Augmented-Connected Workforce

这是一种优化员工价值的战略,加速并扩大人才规模的需求推动了ACWF的发展趋势。ACWF使用智能应用和员工队伍分析提供助力员工队伍体验、福祉和自身技能发展的日常环境与指导,同时还能为关键的利益相关方带来业务成果和积极影响。



机器客户

Machine Customers

也被称为“客户机器人”,是一种可以自主协商并购买商品和服务以换取报酬的非人类经济行为体。到2028年,将有150亿台联网产品具备成为客户的潜力。在战略上应考虑为这些算法和设备提供便利乃至创造新型客户机器人的机会等。



可持续技术

Sustainable Technology

这是一个数字解决方案框架,以实现能够支持长期生态平衡与人权的环境、社会和治理成果。AI、加密货币、物联网、云计算等技术的使用正在引发人们对相关能源消耗与环境影响的关注,因此提高使用IT时的效率、循环性与可持续性变得更加重要。



平台工程

Platform Engineering

这是构建和运营自助式内部开发平台的一门学科。每个平台都是一个由专门的产品团队创建和维护并通过与工具和流程对接来支持用户需求的层。目标是优化生产力和用户体验并加快业务价值的实现。



行业云平台

Industry Cloud Platforms

ICP通过可组合功能将底层 SaaS、PaaS 和 IaaS 服务整合成全套产品,推动与行业相关的业务成果。这些功能通常包括行业数据编织、打包业务功能库、组合工具和其他平台创新功能。ICP是专为特定行业量身定制的云方案,可进一步满足企业机构的需求。


END

推荐阅读


粉丝福利群开放啦

加安全419好友进群

红包/书籍/礼品等不定期派送

继续滑动看下一个
安全419
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存