直播回顾丨业界大咖沙龙对话：AI如何平衡可信与可用

文章来源：京东科技News

你是不是也经历过这样的“怪”事？刚刚浏览了几页某资格考试的网站，培训机构就打来了电话；上周刚把想要售卖的房屋挂到某中介网站上，第二周从未联系过的数家中介公司就纷纷找上门；自己偶然上传到社交网站上的照片，不但莫名其妙被盗用，甚至还被人用来非法获益……当我们沉浸在AI技术带来的便捷生活的同时，因“黑盒模式”引发的技术不可控、数据安全、隐私泄露等问题却时有发生，让人忧心忡忡。

就在12月14日， “谈云说AI”技术产业沙龙首季第一期上线，针对可信AI这一时下被广泛热议的话题，中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰，京东探索研究院算法科学家何凤翔，华控清交信息科技（北京）有限公司标准负责人、战略总监王云河三位业界大咖汇聚一堂，深度探讨“如何平衡好AI技术的可信与可用”，现场为可信AI出谋划策。

信任危机频出 AI技术引发更多思考

今年年初，家住上海的小马遭遇了这样一件烦心事儿：仅仅是下载了一款游戏并根据游戏要求进行了人脸识别，怎料想一个月后小马却收到了自己信用卡在海南的刷卡记录，简直大跌眼镜……

上述事件的发生绝非偶然，伴随以个人隐私泄露以及数据滥用为代表的AI可信问题的层出不穷，的确为社会稳定和个人发展带来了诸多不良影响。“如今信息多源且无法在短时间内追本溯源，如果数据使用存在监管漏洞就会直接导致个人隐私泄露甚至产生直接财务损失。”陈俊琰进一步分析了目前AI技术当中的信任危机。

中国信通院华东分院人工智能与大数据事业部主任陈俊琰

AI信任危机还可能引发比较严重的人身安全问题。“由于AI技术处在一种黑盒模型基础上，在一些关键领域，例如医疗诊断、自动驾驶等这种性命攸关的行业中，如果出现信任危机就会产生十分可怕的后果。”何凤翔分析说，这些危机会对行业发展、应用落地，都会产生巨大影响。

更为严重的是，如果一旦发生信任危机事件，权责很难界定和追究，甚至会造成社会混乱。有关信息显示，今年以来共有8家各类持牌企业累计发生89起自动驾驶交通事故。“如今的自动驾驶的事故，到底属于算法职责，还是人为职责，抑或是识别的不准确性或者道路环境的不确定性，还很难界定。”王云河分析说，“举个例子来说在AI应用中，有人提供数据建模，有人提供模型，如果模型训练好后一旦出现差错，因为多方参与，就很难界定问题到底出在哪里。”

多方聚力探索  合力共建可信AI生态

面对上述信任危机，各界始终在探寻解决之道。陈俊琰表示，针对可信AI的落地实践，国际上主要是以指南、法案的形式对人工智能的可信度进行规范，以伦理、以人为本作为可信AI的核心；也有在标准制定上不断探索的案例，通过构建人工智能管理框架，对可信AI进行监管以提升信赖度。“但这些都有不太完善的地方，例如法案或指南会让可信AI有明确的界限，但极易产生‘一刀切’的情况。”相比之下与国外不同，我国不断进行政策层的完善，从政策、生态、法律、标准制定等方面综合发力，比如《国家新一代人工智能标准体系建设指南》《促进可信人工智能发展倡议》等文件的出台。

对此京东探索研究院正从四大方面加大对可信AI的研究，即稳定性、可解释性、隐私保护和公平性。何凤翔表示：“我们从基础理论出发来研究最前沿的问题，从这些理论问题、理论结果出发，设计新的可被信赖的全新AI算法，再尝试把这些AI算法应用到产品中去，完成技术的最终落地。”交流现场，他还集中分享了京东探索研究院在可信AI方面的探索，表示未来非常希望能参与标准制定来进一步保障AI的可信。

京东探索研究院算法科学家何凤翔

此外王云河也提出：“在推进可信AI建设的过程中，AI产业需要各方共同努力。从数据流通和数据隐私保护角度看，可加入以多方安全计算等代表的密码技术，夯实数据流通基础设施底层支撑能力，加速标准、产业落地。”

华控清交信息科技（北京）有限公司标准负责人、战略总监王云河

对于如何解决AI信任问题，发展AI未来良性循环，三位业界大咖都不约而同给出了终极答案：发展AI可信生态。“可信AI涉及范围广泛、实操任务复杂，很难由一家企业或者机构凭借一己之力带来质的创造与飞跃，所以产学研用全链条协作是关键；未来业界需构建成熟且开放的生态系统，聚众家之力才能带来更多技术、标准以及实践层面的突破。”何凤翔代表京东探索研究院表达了对于可信AI未来的畅想。

“从产业层面来说，首先要打造法制体系和完善行业标准，两者相辅相成、缺一不可；其次还要团结各方力量践行可信人工智能。在此过程中企业其实是践行可信AI的中坚力量，可以在数据筛选、算法优化、模型设计中解决隐私泄露、算法偏见、内容审核等问题来推进AI技术更加可信。“陈俊琰重点谈道。

沙龙接近尾声，三位专家还针对现场观众的提问进一步阐释了可信AI的其他关键问题。值得肯定的是，本次沙龙通过对AI可用可信的探讨，为未来AI技术发展提供了诸多有益参考；为深入探索可信AI落地、构筑可信生态带来助力。

  校  审 | 花 生

  编  辑 | 申 阳

推荐阅读：