破除人工智能技术滥用，AI赋能个人信息安全智慧治理

人脸识别、智能家居、无人驾驶汽车……以海量数据为依托的人工智能技术在给我们带来福祉和帮助的同时，也为我们的个人信息保护带来了挑战。

人工智能时代如何加强个人信息保护？

中国互联网协会法工委副秘书长胡钢接受媒体采访时表示：“解决人工智能技术滥用问题是第一步，关键是要利用AI技术赋能个人信息安全智慧监管。”

01警惕：滥用人工智能侵犯个人信息

作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响，但技术滥用问题也给个人信息安全和社会公共治理带来严峻挑战。

人工智能收集个人信息已呈现出精准化、全面化、简便化、隐秘化趋势：

精准化是指人工智能收集的个人信息与信息主体的匹配度极高。全面化是指人工智能全方位收集个人信息，无论生物识别信息还是痕迹信息，都在其范围内。
简便化是指收集个人信息的设备、指令、方式已极为简便，甚至实现了单设备信息采集、分析、处理一体化，并正向进一步的便捷化发展。
隐秘化是指人工智能收集个人信息的方式从公开转向隐秘，悄无声息地收集个人信息变得易如反掌。

初步来看，人工智能技术在个人信息领域的应用，打破了个人信息保护与利用的平衡，用户对个人信息的采集范围、类别、信息处理方式等难以掌控。

例如，“人脸识别”技术作为一种基于人的脸部特征信息进行身份识别的新型人工智能技术，在公共场所、刷脸支付等多个线上线下场景中均得到了广泛应用，但当有关企业无意保护人脸数据资源，导致数据信息被复制、泄露，或被不法分子利用，消费者的人身、财产、名誉安全等将受到威胁。

“人工智能在使用过程中，针对用户个人行为数据信息的采集、处理、处置等都要遵守相关法律法规，否则人工智能不仅不能为互联网生活助力，反倒会损害到用户的隐私权、个人信息权。”中国政法大学传播法研究中心副主任 人民中科研究院首席专家朱巍接受媒体专访时说。

目前，我国个人信息保护的法规制度体系已较为完善。于2021年11月1日起施行的《中华人民共和国个人信息保护法》，作为信息保护的根本大法，明确规定禁止大数据“杀熟”、不得滥用人脸识别、App不得强制推送个性化广告等。对破除人工智能技术滥用，维护个人信息安全奠定了基石。

02治理：人工智能技术赋能个人信息安全智慧治理

破除人工智能技术滥用，是人工智能时代下平衡技术发展和个人信息安全的第一步，而利用人工智能技术赋能个人信息监管则是未来的关键。人工智能技术将成为下一代网络安全技术的核心，“AI+安全”充分发挥作用将提升网络安全防护能力。

保障金融、电力等基础设施安全的量子加密技术，守护公民人身财产安全的大数据反诈系统，揭秘AI换脸、语音变声等深度伪造手段的网络安全科普……在2022年国家网络安全宣传周网络安全博览会上，诸多网络安全新技术、新应用亮相。

胡钢表示：“人工智能是治理工具，有着很强的深度学习和自我学习能力，这将给个人信息监管治理带来技术上的便捷。可以利用AI技术赋能智慧监管，实现个人信息安全的智慧治理。”

他指出：“通过AI技术赋能，可以及时发现安全问题、定位风险来源、智能分析研判，以及给出处置性意见。这将实现全程自动化的高度智能辅助。”

例如在人脸识别深度伪造上，人民中科研究团队针对人脸识别伪造的不同场景和难点，通过机器学习、算法学习和模型训练，在技术能力上，具备基于身份空间约束的身份交换型伪造人脸鉴别和基于噪声一致性的伪造人脸鉴别等多种伪造人脸鉴别技术能力。

“白泽”是人民中科跨模态智能内容搜索引擎，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。

“白泽”搜索引擎主页面

全方位护航数字世界网络安全与治理。基于“白泽”的跨模态监测能力，人民中科开发的内容审核及巡检系统可以实现对跨模态内容数据进行自动识别，人工智能技术将对涉及反动、敏感、违法、低俗信息的内容进行预警标识，随后转交人工审核进行复核，并对复核无误的信息内容予以存档取证，同时还将提供统计查询等基础功能。该系统不仅可以实现对互联网的日常监测，还可以实现对指定APP、指定行业、指定内容、指定地区等专项任务的支持。

作为人工智能时代下安全治理的重要部分，个人信息和隐私保护工作还将从“法治”走向“多方共治”，科技企业、社会组织、广大民众等所有利益相关者需共同联手应对新问题。

延伸阅读

责编：岳青植
监制：李红梅

参考来源：

1.《网络强国丨破除技术滥用 推动人工智能技术赋能个人信息保护》央广网

2.《大数据时代｜人工智能应用对个人信息保护的挑战及其对策》国家保密局

3.《AI浪潮下，更须守护数据安全》光明网

往期回顾

关于人民中科人民中科智能技术有限公司，是人民网与中科院自动化所共同发起设立的“人工智能技术引擎”和科技成果转化平台，拥有世界领先的内容理解技术，核心产品是跨模态智能内容搜索引擎“白泽”，初始应用场景是数字世界的安全，目标是成为全球内容科技领导企业。