CNCC2018技术论坛|AI 作恶，是世界末日还是杞人忧天？
AI 作恶是世界末日还是杞人忧天？为了避免人工智能作恶，是否应该停止相关技术的研究？从立法角度如何看待和防止 AI 作恶？本次论坛将邀请相关领域专家就这些问题进行深入探讨。
◆ ◆ ◆ ◆
中国计算机学会青年计算机科技论坛
CCF Young Computer Scientists & Engineers Forum
CCF YOCSEF
于2018年10月25日(星期四) 13:30-17:30
在杭州国际博览中心会议区二层新闻发布厅举行论坛
◆ ◆ ◆ ◆
程序
13:00 论坛签到
13:30 论坛开始
13:30-13:45 引导发言：谭晓生，360 集团技术总裁、首席安全官
演讲题目：与人性搏斗，AI 的善与恶
13:45-14:00 引导发言：张平，北京大学法学院教授、互联网法律中心主任
演讲题目：AI 作恶的实质是人类在作恶
14:00-14:05 特邀嘉宾：张云泉，中科院计算所研究员，国家超算济南中心主任
观点陈述
14:05-14:10 特邀嘉宾：倪冰冰，上海交通大学电子系特别研究员，青年千人
观点陈述
14:10-17:30 自由思辨
17:30 论坛结束
最近，谷歌、亚马逊、微软分别与美国军方、警方和移民局合作，研究人工智能在军事、警用和移民方面的用途；韩国科学技术院也与军方合作设立实验室，研究人工智能武器。这些研究不仅严重侵犯了人权、自由和隐私，还对人类的安全产生了威胁，是对人类作恶，从而遭到人工智能研究人员的强烈抵制。这也一定程度印证了霍金、马斯克和比尔盖茨等提出的人工智能威胁论，即人工智能会危害并最终毁灭人类。
任何技术都是一把双刃剑，都有可能用于作恶。为什么人工智能作恶能引起这么大的反响？AI 作恶是世界末日还是杞人忧天？为了避免人工智能作恶，是否应该停止相关技术的研究？从立法角度如何看待和防止 AI 作恶？本次论坛将邀请相关领域专家就这些问题进行深入探讨。
引导发言
谭晓生
简介：360 集团技术总裁、首席安全官，CCF 理事、副秘书长，CCF YOCSEF 2015-2016 总部主席，2012 年中关村高端领军人物。毕业于西安交通大学计算机系。自 2009 年加入 360 以来负责管理公司的网络空间安全技术研究、核心安全、产品开发、安全运营、平台技术与IT基础架构等团队。多年来谭晓生带领的安全团队坚守 360“安全第一”的品牌，秉承“未知攻、焉知防”的理念发展网络安全技术，团队具备强大的漏洞挖掘与漏洞利用能力，曾多次在世界顶级漏洞破解大赛中获奖，连续两年 360 公司荣获的漏洞致谢次数位列世界第一。在利用大数据、人工智能技术进行网络安全防御方面也处于世界领先地位。现任公安部网络安全专家，多次参加公安部重大活动网络安保工作，在国家重大活动期间多次连续多日值守或到现场进行应急处置；在勒索病毒突然爆发时，迅速协调 1500 多名工程师奋战 100 多个小时，倾尽全力阻击“永恒之蓝”。为两会、“一带一路”峰会、十九大等活动的顺利召开做出了突出贡献，荣获 G20、一带一路高峰论坛安保突出贡献个人奖。从 2017 开始组建 360 网络安全学院，为国家社会及企业培养网络安全实用型人才。近年来多次担任项目负责人，参与申报国家重大项目并取得省部级奖项。
题目：与人性搏斗，AI 的善与恶
摘要：AI 的善与恶，本质上依然是发明和发展 AI 的人的善与恶，事情总有两面，当我们享受 AI 带给我们的便捷、便利的时候，也要承担 AI 所带来风险：AI 的算法可能存在缺陷、AI 的代码实现可能会存在缺陷、AI 所承载的硬件计算载体可能存在缺陷，更不要说 AI 已经被网络黑产和军方所采用，如同若干次技术革命时所面临的挑战一样，我们最后要回答的问题是，什么结果是我们所不能承受的，我们如何来从技术与伦理两个角度来拿捏这个尺度。
张平
简介：1991 年在北京大学法学院任教至今，2004 年被聘为北京大学法学院雅虎-方正讲席教授及北京大学互联网法律中心主任 ，2009 年起兼任北京大学知识产权学院常务副院长。1998 年美国华盛顿大学法学院访问学者，2001 年日本东京知识产权研究所客座研究员，2017-2018 年美国斯坦福大学法学院访问学者。重点研究领域：知识产权法、互联网法。曾参加国家中长期科技发展规划研究；主持科技创新与知识产权战略研究、信息社会知识产权保护与应用研究、中国高校专利成果转化模式及政策研究、互联网基础立法等多项国家重点研究项目。近年重点关注互联网开放创新的知识产权保护与应用、标准必要专利的司法救济及反垄断规制以及大数据应用中个人信息的法律保护等问题。其他社会兼职：中国科技法学会常务副会长兼秘书长、中国知识产权研究会副会长、中国知识产权法研究会副会长等；最高人民法院特邀咨询员；北京、上海、广州知识产权法院特邀专家委员；国家知识产权局专家委员等。
题目：AI 作恶的实质是人类在作恶
摘要：从现有法律看，AI 作恶可分为“大恶”与“小恶”。“大恶”无外是达到了人类无法控制的顶级作恶--“反人类罪”，按照现行人类法律对于反人类行为当必除之，只是来不及等到人类的法庭上进行审判，必须具有立即“处死”这类 AI 之机制，及时制止对人类更大的伤害。这就要求在这类 AI 的研发中必须考虑“一键瘫痪”的技术处理，而如果连“一键瘫痪”的技术预设都做不到的话，这类 AI 就应该禁止投资与研发，就像人类对待“毒品”一样，全球诛之。目前有些大公司联合抵制 AI 武器的研发正是出于这样的考虑。这也是为什么要求 AI 研发首先考虑道德约束，在人类不可预见其后果的情况下，AI 的研发应当慎重。“小恶”则会有各种各样的表现，但基本特征是将 AI 作为人类的工具用来作恶，任何工具都具有利弊两面性，从技术中立角度出发，人类不应当禁止工具的发明，反而，人类社会正是从工具的应用开始进化，所以作为工具的 AI 如果作恶的话，可以按照人类现行法律，追究其具有过错的控制人、持有人、利用人等“人”的责任，间接地也会追究无过错的其他关联人的责任。所以，在讨论 AI 作恶时，看我们的焦点是关注在“大恶”还是“小恶”上。
特邀嘉宾
张云泉
简介：博士，中科院计算所研究员，博士生导师，CCF常务理事/高性能计算专业委员会秘书长，国家超算济南中心主任，北京市智能计算产业研究院副院长。主要研究方向为大数据并行处理、并行程序设计和性能评价、并行计算和并行编程模型等。已在国内外学术刊物上发表论文二百余篇，出版专著一部，译著七部。曾获 2000年 国家科技进步奖二等奖一项，2017 年首届CCF青竹奖获得者，2017年中科院科教成果一等奖，2017 年中科院杰出科学与技术成就奖，2017 年度国际艾奇奖。中国大数据与计算智能产业联盟执行理事长，全国高校大数据与人工智能创新联盟常务副理事长，中国软件行业协会常务理事。中国高性能计算机 TOP100 排行榜创始人和发布者，PAC 大赛创始人。 一百多次担任国际会议程序委员会委员和程序委员会共同主席。果壳网科学顾问，光明日报科谱专家委员会委员，青海省大数据与云计算咨询专家委员会委员，贵州省农业大数据专家委会会委员。九三学社中央科技委员，中央促进技术创新委员会副秘书长。
倪冰冰
简介：上海交通大学电子系特别研究员，博士生导师。中组部第十一批青年千人。2010-2015 年于美国伊利诺伊大学香槟分校新加坡高等研究院(University of Illinois at Urbana-Champaign, Advanced Digital Science Center Singapore)担任研究科学家。2005 年在上海交通大学电子工程系获学士学位；2011 年在新加坡国立大学 (National University of Singapore) 电气与计算机工程系获博士学位。博士期间，先后在微软亚洲研究院和谷歌公司美国总部实习。主要研究方向为计算机视觉、多媒体计算、机器学习。在国际重要学术期刊和会议发表学术论文 50 余篇，包括中国计算机学会(CCF)推荐的 A 类期刊/会议论文 28 篇。
执行主席
邬向前
简介：博士，哈尔滨工业大学长聘教授/博士生导师，CCF 高级会员，CCF YOCSEF AC 委员，2017年度 CCF 杰出演讲者，IEEE 高级会员，教育部新世纪优秀人才，黑龙江省杰出青年科学基金获得者。研究方向包括：图像处理、模式识别、生物特征识别、医学图像处理。
董笑菊
简介：博士，上海交通大学计算机科学与工程系副教授，图书馆副馆长，高可靠软件与理论研究所副所长。 CCF 杰出会员，CCF 理事，CCF YOCSEF 学术委员会副主席、CCF 女工委执行委员、上海会员活动中心监督委员会主席。研究领域包括：可视化与可视分析、形式化方法、并发模型等。主要研究成果包括网络安全数据可视分析、文本可视分析、网络协议形式化验证等。
2018中国计算机大会（CNCC2018）
[早鸟票]倒计时3天！
2018中国计算机大会（CNCC2018）将于10月25-27日在杭州国际博览中心（G20会场）举行，大会主题为「大数据推动数字经济」（Big Data Drives the Digital Economy）。届时将邀请十余位国内外计算机领域知名专家、企业家到会做特邀报告。同时还有60场技术论坛，20场活动，100个展位。
多信息详见大会官网：http://cncc.ccf.org.cn
即日起至9月21日，报名且缴费成功即可按优惠价格参加CNCC2018! CCF会员参会、参展可享优惠。
请扫描二维码报名参会
咨询电话：010-6260 0336 邮箱：cncc_pr@ccf.org.cn
中国计算机学会
微信号：ccfvoice
长按识别二维码关注我们
CCF推荐
【精品文章】
点击“阅读原文”，报名参会。