案例说 | 中国信通院华东分院全面推动长三角人工智能可信发展
2024年，世界人工智能大会发布《人工智能全球治理上海宣言》，强调促进人工智能技术发展和应用的同时，要确保安全性、可靠性、可控性和公平性。
中国信息通信研究院（简称“中国信通院”）华东分院长期深耕“人工智能可信”等人工智能前沿方向，立足上海，面向长三角及华东地区，持续在相关部门战略支撑、标准制定、产业研究、可信评估评测方面提供全流程的咨询服务与解决方案，并取得众多亮眼成果。
一、支撑人脸识别等上海市人工智能相关标准文件制定
人脸识别是人工智能应用落地最快最广泛的领域之一，在安防、交通、金融、教育、支付等领域已得到了广泛应用，深入到人们生活的方方面面。2023年，上海市提出规范本市人脸识别技术应用的要求，由中国信通院华东分院牵头的《公共场所人脸识别分级分类应用》地方标准已于2024年4月2日发布，2024年7月1日开始实施。
此外，中国信通院华东分院还支撑了《上海市推动人工智能大模型创新发展若干措施》等多项市、区级重要政策文件编制；同时推进上海市人工智能公共服务平台等人工智能产业平台建设。
二、推动我国生成式人工智能服务合规发展
生成式人工智能服务对网络安全监管提出了新挑战和新问题，我国网信部门推动实施算法备案制度和生成式人工智能服务备案制度，同时加强抽查工作、处罚违规行为等监管措施，保障生成式人工智能服务的合规运行。
为促进人工智能产业安全稳健发展，中国信通院华东分院持续为企业提供全方位、深层次的咨询和测评服务，帮助企业进行数据安全、模型安全、个人信息保护等安全风险评估，并围绕大模型安全性、可靠性、透明性、准确性等指标广泛开展大模型安全测评服务。
三、推进人工智能大模型可信赖应用评测
通过“上海可信AI评测中心”，中国信通院华东分院正在加速建设人工智能大模型可信赖应用评测平台，推动建立大模型可信赖应用评测体系。依托于中国信通院的智库优势及测试认证能力，围绕安全、标准、评测等工作，探索开展垂类应用场景下的可信赖应用评测标杆示范，探索多元化的可信AI落地措施，推动产业健康可持续发展。
同时，上海可信AI评测中心也在积极推动建立人工智能大模型安全应用指标体系，2023年11月，由中国信通院华东分院牵头的《人工智能大模型可信赖应用评价指标体系》地方标准正式立项。
业务联系人
中国信通院
华东分院
常老师
15201912363
马老师
15049229889
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
推荐阅读
专家谈