AI将改变现有规则 国内安全厂商正加速实践
对于企业CIO而言，主要的网络安全挑战是全球战略上的合规和法律风险，以及产品/服务漏洞带来的业务中断风险和数据泄露风险。另外，在数字化转型过程中，新技术的采用以及技术和人才储备上的能力欠缺是贯穿始终的核心挑战，其中云、人工智能和机器学习程序的广泛采用是其中的突出问题。
对于人工智能而言，2023年是人工智能技术大爆发的一年，其技术价值正在多产业持续释放。从网安产业角度来观察，有安全专家认为AI技术具备的速度、规模、范围优势，被视为近年来最有可能改变现有规则的技术，无论是将其利用在攻守两端，AI都将改变一切，但最终，其更加有利于防守（安全）。
调研机构对AI的看法
根据Forrester的最新预测，对于企业而言，生成式人工智能（GenAI）是自互联网诞生以来最具影响力的技术进步，如果企业现在还没有开始行动，那么你已经落后了。Forrester要传递的信息非常明确，这是一项不需要等待的技术，企业应多角度切入GenAI。
普华永道的一项研究显示（12 Digital Trust Insights），高达90%的受访者认为，生成式人工智能将帮助他们在未来12个月内增加新的业务线。该研究还发现，70%的组织计划在明年使用GenAI进行网络防御。91%的组织认为，员工使用生成人工智能将在未来一年内显著提高生产力。然而，73%的人也并没有忽略由此带来的全新网络安全问题。
麦肯锡《中国金融业CEO季刊》指出，在2023年众多科技趋势和投资热点中，生成式人工智能无疑是年度明星技术。GenAI可以为全球经济每年增加2.6万亿至4.4万亿美元，这相当于在地球上增加一个规模和生产力与英国相当的全新国家。不过值得注意的是，金融机构在应用GenAI时需关注模型幻觉、恶意使用、信息泄露等风险。
Gartner已将人工智能列入2024年十大战略技术趋势的共同主题当中，无论是全民化生成式人工智能（Democratized Generative AI），还是人工智能信任、风险、安全管理（AI Trism），亦或是AI增强开发（AI-Augmented Development），可见人工智能技术多点重要性。另外，Gartner已将“生成式网络安全AI”定义为一项新兴的网络安全运营技术，在Gartner设想当中，这一技术将加速改变现有安全产品的工作流程。
警惕AI带来的安全风险
RSA Conference 2022大会上就有研究人员强调称，当AI能够开始扮演人类角色时，我们必须考虑固有的风险。“作为人类，我们需要决定技术在我们未来的角色应该是什么，这是我们现在需要开始弄清楚的事情，在AI开始接管世界之前。”与我们在科幻大片当中见到过的AI风险不同，AI风险问题是受技术本身发展不断显现的过程。
在当前阶段，最主要的用例在于恶意行为者可以由AI来制作更加令人信服的诈骗脚本，或是更加贴近真实的视频欺诈，语音欺诈等内容，让笔者印象深刻的是以下两个案例：根据外媒披露，针对米高梅和凯撒前一段时间的勒索攻击事件，其背后可能被指向其IT供应商的一种基于语音的网络钓鱼攻击，而这就极有可能出自人工智能之手。
另外前不久据中国新闻网报道，天津某企业经理报警称有诈骗人员冒用上级领导要求资金代转，导致被诈骗30万元。据披露，该案件为AI换脸诈骗又一案例，诈骗人员通过社交工具视频电话“确认身份”，其间使用AI换脸技术制作虚假视频，最终成功骗取了受害者的信任。
世界经济论坛发布的《2022年全球风险报告》就曾关注到了AI欺诈风险，其分享某一案例指出，网络犯罪分子克隆了一名公司董事的声音，授权将3500万美元转移到欺诈账户。
在AI加持下的钓鱼欺诈方面，FIDO联盟（FIDO Alliance）2023年10月16日发布的《在线认证晴雨表》报告总结指出，类似FraudGPT和WormGPT的AI工具已经在暗网上被创建和共享，并明确用于网络犯罪，将推动社会工程攻击变得更加简单和复杂化两极发展。其中深度伪造的语音和视频将令人难以防范。
谷歌最新发布的2024年云安全预测报告根据现有观察同样预测认为，恶意生成式AI将引发大规模网络攻击活动。其也明确将“生成式AI被大规模用于网络钓鱼和虚假信息传播”列为2024年的二十大新安全威胁。其指出，2024年，恶意大语言模型和生成式AI工具的云服务，将被广泛用于协助攻击者实施目标入侵，如网络钓鱼和传播虚假信息。
AI已成安全产业核心关注
RSA Conference 2022时，AI成为重要板块之一，到RSA Conference 2023，AI已成为大会核心热点话题，从广泛的关于AI技术用例与趋势的议题分享，到参展厂商广泛的人工智能驱动的网络安全产品发布，再到RSA创新沙盒大赛冠军最终花落于致力于保护AI模型的初创公司HiddenLayer，AI逐渐成为安全产业共同的核心技术关注。
在国内，安全419全年参与报道或跟踪百余场安全会议，同样能够发现的是各安全会议均已加入了AI相关议题或讨论。
在笔者参加的2023北京科学技术协会院士专家圆桌会议上，安全专家就指出人工智能用例将推动带来全新的安全市场，AI赋能已成为安全厂商未来的重点工作。其核心观点还包括把AI技术应用于传统的安全产品，或是创新的安全产品当中，其最大的优势是在于智能化和自动化水平将大幅提高。另外，网络安全对抗依赖长期积累的专家能力，利用好AI赋能，将实现从过去人-人对抗升级到机-机智能对抗新阶段。
在FCIS 2023网络安全创新大会上，安全专家则分享指出，安全大模型还有一段很长的路要走，尽管可能做了很多的工作后还是达不到预期的效果，但生成式AI值得持续去关注，这一定是未来的重要方向。我们也能从会议上看到安全厂商正在积极投入研发力量，不断激发AI的自主性和扩展性，以达到高效的场景化安全应用。
但多位安全专家都曾向安全419分享，以生成式AI技术为例，其在部分应用场景上表现相对成熟，但限于技术本身仍处早期阶段，除非算法有颠覆性提升，否则基于实践的阶段性调优将是产品化过程的必然。
安全厂商加速AI创新实践
众智维科技：2022年12月14日，众智维科技发布自研智能机器人——AI数字安全员工“RedGuard红色卫士”。“RedGuard红色卫士”诞生于众智维科技丰富的安全运营处置经验，可构建全面的知识图谱安全事件，助力企业客户快速解决网络安全问题，降低运营人力成本，并最终实现高效、有效安全运营。“RedGuard红色卫士”在海量通用数据和安全领域专有数据的基础上使用深度学习框架实现了NLU智能问答，实现了基于1亿+数据量的知识图谱问答，并在支持基础聊天的同时，可以配合运维工程师参与安全事件运营和应急响应。“RedGuard红色卫士”安全大模型是助力众智维科技实现AISecOps智能安全运营战略的重要科技创新，其优势在于聚焦攻防实战中的专业数据积累沉淀，以人机协同的方式高效解决真实场景下的安全问题。
深信服：5月18日，深信服自研“安全GPT”大模型在国内完成了首秀，其实现的能力包括：大幅提升对流量和日志的安全检测能力，用户安全现状自动分析及建议生成，自动化调查、分析、研判提升安全运营效率，自然语言交互提高用户体验降低专业性要求。深信服董事长何朝曦表示，深信服在2015年开始投入AI技术应用到安全领域，AI已经广泛应用于各产品线，未来深信服所有产品都会接入“安全GPT”。
万径安全（原四维创智）：ChatCS是一款基于领域知识增强的网络安全垂直领域大模型，早在今年5月，万径安全在宣布Yak开源时，就曾宣布ChatCS BETA版将率先作为Yakit的Copilot插件上线，在用户的日常网络安全工作中，为用户提供安全知识问答、漏洞情报检索、扫描数据分析等功能。据了解，ChatCS作为国内安全厂商最早的领域大模型实践，其通过使用自主构建、清洗和优化的数据集，以保证模型的响应质量和稳定性，并且后期还引入了领域专家的知识和经验，对模型进行了多次迭代优化。
360：8月9日，360集团进一步在ISC 2023上发布了国内首个可交付的安全行业大模型——“360安全大模型”。360安全大模型是以360自研认知型通用大模型“360智脑”（注.于6月份发布）为基础，结合360过往15年AI安全应用和安全大数据训练出安全行业垂直大模型。据了解，360安全大模型在私有化部署过程中，将匹配“企业安全智控系统”，利用智能中枢调度模型、知识库、专用插件，与企业私域数据相结合，从而实现安全问答专家、安全运营专家两大形式来辅助进行企业安全运营。目前其安全大模型已在360内部和自有产品完成落地应用。
奇安信：8月25日，奇安信集团在京发布了Q-GPT（奇安信大模型）安全机器人和大模型卫士。其中Q-GPT安全机器人是基于奇安信大模型的“虚拟安全专家”，单位时间工作效率为安全专家的16倍，能提供相当于70位安全专家的运营效益，每年每台机器人可为客户产生约2000万元的运营效益。并且随着未来算力的增长，其运营效益将持续提升，后续功能也将继续升级。大模型卫士则针对大模型使用中的安全风险进行管控。两款产品被视为高增潜力型产品，在AI+安全方面构成新的增量市场。奇安信近期表示，目前这些产品已在银行、政府监管部门、非银金融机构、大型民营企业和制造业等领域进行了深度交流和测试，近50多个项目已进入报预算阶段。
安恒信息：8月28日，在安恒信息召开的基于大模型的战略升级发布会上，安恒信息恒脑·安全垂域大模型首次公开亮相。据了解，为加速安全垂域大模型应用落地步伐，安恒信息同时宣布基于安全垂域大模型的安全运营平台已全新升级。安恒安全运营平台是一款结合AI人工智能、机器学习技术与安全编排的产品，不仅提供强大数据整合和分析功能，能够从各种安全工具和数据源中收集、整合和分析信息，还能够与态势感知、资产管理系统、威胁情报平台、漏洞管理系统等集成，从而实现全面的威胁情报分析和事件响应；而且能通过智能编排来提高安全团队的效率和响应能力，帮助安全团队减少手动操作的工作量，从而提高响应速度和准确性。在未来，安恒信息会将全线产品接入恒脑·安全垂域大模型，进行全面应用。
天融信：9月10日，天融信科技集团于网络安全博览会上发布了自研的天问大模型产品。据了解，天问大模型是基于前缀解码器架构，在利用自有积累的高质量安全知识进行预训练和微调后，结合向量库技术构建了适用于网络安全领域的大模型应用，能有效解决传统的安全防护方法需要依赖大量的专业知识和经验的问题，具体包括天问智能客服问答系统、威胁情报查询解读等功能，并计划未来扩展其在加强检测能力、分类分级和保护能力、漏洞挖掘和保护等领域用例。此外，天融信已将AI技术融入到多款创新产品当中，如融入AI技术的防火墙、入侵防御、僵木蠕监测、沙箱、大数据分析、态势感知、EDR、数据防泄漏、智能内网威胁分析等。据介绍，“在AI技术的加持下，天融信在预测、分析、提取、生成和决策等方面都有质的突破。
吉大正元：吉大正元通过将AI智能能力与传统的密码、数字安全能力相结合，已经推出了正元安全专属大模型“昆仑”，正元“昆仑”安全专属大模型采用一站式管理与应用架构，对内通过统一管理后台，实现数据、模型、任务、硬件等内部优化管理功能，对外可定制实现数据模型、互动问答、文档搜索、内容生成等应用功能。该大模型不同之处在于内置了密码、数据安全等正元大安全领域知识的预训练模型，以强化应用场景。据了解，吉大正元已在多款产品上初步落地，未来将逐渐拓展至全线产品。
金睛云华：金睛云华是国内率先发布商用安全大模型的网络安全厂商，其“安心大模型「CyberGPT」”寓意“安全之心，让用户安心！”。“安心大模型「CyberGPT」”具备真正的安全大脑雏形，能够提供更好的事件处置和响应服务，及更丰富的上下文和解释性，将响应和调查的动作标准化和自动化，从而实现7*24H全自动化无人值守的安全运营。如今，“安心大模型「CyberGPT」”已被应用于金睛云华的产品和解决方案当中，已形成攻守兼备的、智能的、闭环的安全运营体系，从而更好地服务于客户。此外，金睛云华已经推出了“安心大模型「CyberGPT」”私有化一体机产品，对于企业应用而言大模型的能力绝对私有、安全、可控。
天际友盟：调研机构认为尽管生成式人工智能给各行业带来了机遇，但担忧其使用的伴生风险是合理的。随着生成式AI的广泛使用，数字安全厂商天际友盟已扩展了其DRP数字风险防护服务的框架模型，新增了生成式AI技术用例的对应防护能力，其能够在企业用户新技术采用下带来数据泄露、知识产权保护和侵权欺诈等风险场景的监测与防护。据了解，该服务主要分为准备、监控和反馈三个阶段，其服务过程基于事前授权原则，以托管服务的方式进行一站式处置，并定期汇报相关风险。
END
✦
推荐阅读
✦
粉丝福利群开放啦
加安全419好友进群
红包/书籍/礼品等不定期派送