绿盟科技出席2023年沈阳市网络安全教育技术产业融合发展论坛

全文共1527字，阅读大约需3分钟。

  //  

9月20日，由沈阳市委网信办主办，绿盟科技提供支持的“2023年沈阳市网络安全教育技术产业融合发展论坛”在浑南区创新天地国际会议厅成功举办。绿盟科技集团首席技术官叶晓虎博士出席论坛并作题为《ChatGPT等生成式人工智能网络安全领域探索》的主题演讲，着重介绍了绿盟科技在安全行业大模型构建和应用方面的实践探索与创新。

叶晓虎

绿盟科技集团首席技术官

叶晓虎表示，人工智能技术在飞速发展中，尤其以 ChatGPT 为代表的生成式人工智能技术开启了AI发展的新纪元。在日益激烈的网络攻防对抗环境下，推动AI技术在网络安全攻防场景中的实际应用和网络安全防御的能力提升，对于网络安全未来的发展具有重要意义。

安全与发展视角下的生成式人工智能监管

针对当前生成式人工智能领域的风险和问题，国家网信办等部委联合发布了《生成式人工智能服务管理暂行办法》。这标志着生成式人工智能作为一个整体，正式被纳入法治化发展与治理的轨道。相关文件明确了“坚持发展和安全并重”的总原则，并提出了以“包容审慎和分类分级”为统领的管理要求框架。

“审慎”贯穿于生成式人工智能服务的全生命周期

对模型训练、数据标注两个关键环节提出数据来源合法、建立标注规则等8项安全要求；提出服务者主体责任、扶助用户、信息保护、产品标识、持续服务、监督和反馈等7项安全要求；提出主管部门依职责开展监督检查和用户投诉举报2种监督机制。

“分类分级”提升安全管理的规范化和科学化水平

不同部门按照各自职责，完善所在行业、领域的生成式人工智能监管规则，建立科学监管方式；对“具有舆论属性或者社会动员能力”的生成式人工智能服务，需要进行安全评估和备案管理；明确对于来自境外的生成式人工智能服务违法时，启动相应技术处置措施的要求。

 “包容”培育和强化生成式人工智能发展要素

鼓励应用创新、拓展应用场景、构建生态体系；建设“人工智能基础设施”、建设“公共训练数据资源平台”；推动创新合作，包括自主创新，国际交流与合作，参与国际规则制定。

AI构建网络安全新范式

基于多年积累的“人工智能+安全”专业经验和高质量数据，绿盟科技推出了安全可信的安全行业大模型风云卫。该模型通过智能化解决攻防实战场景中所面临的复杂安全问题，提供更为专业高效和定制化的威胁应对和安全防御能力。风云卫大模型面向数字化转型，为安全行业量身定制，将安全大模型与大模型安全相结合，构建了一个全新的安全范式。

绿盟科技利用大模型技术提高安全系统的效率和准确性，使绿盟风云卫大模型成为安全人员的“伙伴”，快速融入已有的智能安全运营、威胁情报分析挖掘等日常安全处置工作流中。这样做可以更好地应对不断演变的安全威胁，推动安全行业向智能化和自动化的方向发展。

大模型自身的安全可靠性是推动绿盟风云卫大模型成为安全护航的可信之选的必要条件。为了保障已有大模型自身安全，需要建立完善统一的大模型安全评估框架，探索有效的防御机制，实现大模型安全监管和可控生成，以保护用户隐私和数据安全，防止大模型被滥用，预防新型攻击和未知威胁。

这一创新将为网络安全领域带来重要变革，利用大模型技术的强大能力和深度分析，助力解决网络安全中的复杂挑战。通过引入安全行业大模型，绿盟科技赋予安全防御更高的自主性和智能化，有效提升安全行业的整体安全水平。

一直以来，绿盟科技始终把AI作为基础能力发展，持续思考如何让AI更好地赋能网络安全。作为人工智能新时代的智能引擎，大模型引领的科技创新变革正在快速发展，其在各行各业中的垂直应用也为产业创新和生产力提升注入新动能。共同应对日益复杂的安全挑战，携手促进安全行业大模型生态建设，需要每一位安全行业从业者的共同参与和鼎力合作，绿盟科技一直在路上。