阿里巴巴集团联合中国信通院编写了《人工智能治理与可持续发展实践白皮书》,于2022世界人工智能大会“数字时代的技术责任论坛”上,正式发布!全面总结了阿里巴巴在人工智能治理与可持续发展领域的实践,重点针对当前人工智能应用中的热点问题,从数据、技术、管理及多元协同等方面,系统性介绍了我们的实践思路和方法,同时辅以若干专题进行阐释,期待为社会各界提供有益参考。算法服务提供者通常使用算法来处理数据,但对于用户来说,看到的只是数据(或个人信息)被收集、以及依据数据决策的部分结果,看不到整个数据处理过程、算法工作原理、算法决策结果,算法服务提供者也没有对此进行解释或公开,因而形成“黑箱”。为打破摸不着、看不懂的算法“黑箱”,算法服务提供者需要设计并实施合理的算法透明机制,对算法工作机理和运行结果等做出解释,保障用户知情权,构建用户理解和信任算法的基础。算法透明是一项复杂工程,业界主要存在两种不同的实践路径。一种认为需完全公开算法源代码在内的所有算法要素,另一种不要求完全公开源代码,而是向用户解释算法如何运作和决策,侧重算法运行原理和运行效果的透明。完全披露源代码并不能有效解决算法透明问题。公开源代码是一种纯粹技术性的公开,没有做到对算法使用数据的情况、算法的运行原理进行有效解释,因而不能达到用户知情的目的。
算法透明的目的是打破算法“黑箱”,让用户和监管了解算法服务提供者如何使用算法处理采集的数据(包括用户人群的行为和特征标识等)、了解算法运行机制,进而对算法运行结果达成理解。因此,实现算法透明应当是使用合适的方式对算法的工作原理、目的意图、运行机制、决策逻辑等进行充分解释和说明,通过企业自控、监管监督、用户反馈的方式,构建用户理解和信任的算法透明体系。我国《互联网信息服务算法推荐管理规定》(以下简称“《算法推荐管理规定》”)等法律法规对算法透明度和可解释性作出了相关规定,阿里深刻认识到算法治理对于维护网络空间健康发展的重要意义,根据要求一方面建立对监管透明的算法管理体系,另一方面构建对用户透明的算法运行机制:1) 建立面向监管透明的算法管理体系—启动清朗专项,维护清朗网络空间全面构建算法合规制度。阿里积极对内解读、宣贯《算法推荐管理规定》等法律法规,修订完善集团算法相关规章制度,包括《阿里巴巴算法安全规范(总纲)》《阿里巴巴算法干预机制指南》等,提升全员算法合规意识。积极履行算法备案义务。阿里集团层面成立算法备案小组,对各业务线开展备案培训,开展备案工作。努力确保与监管在算法治理上的信息对称,积极配合监管开展的安全评估和监督检查工作,提供相应的技术支持。完善算法安全审查机制,落实算法全生命周期管理。阿里对照《算法推荐管理规定》等法律法规,逐条梳理,完善自身的算法审核机制,规范算法流程管理,摸排检查集团算法应用合规情况,启动内部清朗专项,按照“清朗-算法综合治理”要求,进行算法自查自纠。2) 构建面向用户透明的算法运行机制——以淘宝和饿了么为例面向所有用户进行通用算法解释,保证用户知情权。淘宝在隐私协议中对所利用的算法部署的情况、算法类型、收集的信息范围、使用目的,以及对用户带来的潜在影响等情况进行了明确说明。针对特定应用以及用户量不大的小众应用,设计了单独的产品页面,用户通过访问产品页面,可以方便地了解算法的相关情况。针对大众普遍关心的话题,如骑手调度算法,饿了么发布《2022蓝骑士发展与保障报告》进行了详细阐述。为了提高用户触达效果,帮助用户更为快捷、便利地了解算法运行情况,阿里还计划未来通过官网展示、官方微博和微信公众号发布等方式将算法规则进行公开,让更多的社会公众了解并进行监督。对于使用个人信息进行决策的场景,赋予用户便捷退出个性化推荐的权利。淘宝APP在隐私页面二级目录设置了退出个性化广告和个性化推荐的选项,用户可以轻松地关闭基于个人信息的商品广告和推荐服务,同时对于关闭后因推送精度下降影响用户体验进行提示,帮助用户清楚地做出决策。建立用户负反馈机制,让用户了解用于算法决策的信息,并可进行有效控制。对于个性化推荐的商品进行效果反馈,淘宝提供了非常方便的操作方式(比如用户可以长按推荐列表中的商品选择负反馈的具体原因),帮助优化算法推荐决策,屏蔽用户不喜欢的商品信息,让用户对算法推荐的商品有最终选择权。对于个性化广告,赋予用户选择和关闭自己不感兴趣的商品品类标签,满足用户对于商品广告的自主需求。建立人机协同的用户投诉申诉反馈机制。淘宝用户数量巨大,用户反馈频次高、类型多、问题广。通过使用深度学习算法,淘宝为用户提供智能问答对话、智能语音客服服务,一方面及时解决用户大部分的投诉建议问题,另一方面也甄别用户权益受损的案件,通过人工进行进一步解决。
算法透明实践需要全方位考虑社会各主体的期待和利益。阿里在实践中不断完善面向社会各方的算法透明机制,未来也将持续更新和丰富治理措施,确保算法可控可信。
🌟下期预告专题:《调度决策:落实即时物流系统“算法取中”》
我们将持续更新,敬请期待😚~关注【AAIG】公众号,回复「 白皮书 」一键下载全文👇👇AAIG课代表,获取最新动态就找她 关注公众号发现更多干货❤️