观点 | 从《ISO标准化趋势展望框架2022》看技术伦理和隐私保护

欢迎金融科技工作者积极投稿！

投稿邮箱：[e-mail]

                                              ——金融电子化

      

编译 / 中国银行业协会银行产品与服务标准化专业委员会办公室  李宽

随着数字化转型的深入，大数据和人工智能得到越来越广泛的应用，由此引出的处理好技术伦理和隐私保护问题也越来越重要。对此，ISO也给予了特别关注，ISO近日在其官网发布并向其各层级的负责人推送的《ISO标准化趋势展望框架2022》（ISO Standardization Foresight Framework Trend Report 2022）中，专门对技术伦理和隐私保护两个方面进行了讨论。

ISO认为，随着技术融入我们生活的方方面面，与技术相关的风险也在扩大。许多技术的新进展带来了潜在的、重大的伦理挑战（例如人工智能、生物技术或脱碳技术）。在使用这些技术激增的同时，引入的宏观和微观风险也在增加。随着颠覆性技术的出现，这些风险显然是可以预见的，这是我们在享受这些技术带来巨大利益的同时，所必须付出的代价。问题在于，如何认识和减缓这些风险，以确保新技术的使用让我们受益。

本文对《ISO标准化趋势展望框架2022》中涉及技术伦理和隐私保护的内容进行了介绍，以期读者能够了解ISO对技术伦理和隐私保护的发展方向。

技术伦理

世界上多国政府正在将其注意力转向技术伦理和快速发展的技术对未来社会的影响。

与自动驾驶汽车、自动决策和消费者互动使用“人工智能”相关的伦理问题是最常见的话题，政府解决好有关数字伤害、虚假信息、反垄断和外国干预的问题被寄予了很高的期望。根据英国国防部的说法，未来人工智能技术必须从有效的“技术、法律和伦理框架”中受益。在军事领域，使用军事人工智能和技术可能存在着严重的伦理冲突。虽然机器的行为可以不考虑人类的痛苦，但它们也可以更准确地计算冲突的代价。如果各国为人工智能制定相互不协调的伦理和法律框架（包括军事和更广泛的领域），那么可以预见到情况会更加复杂。与人工智能系统相关的其他关键伦理问题则包括不必要的偏见、窃听和安全，各行业已经在忙着解决这些问题。致力于AI的ISO/IEC委员会（ISO/IEC JTC 1/SC 42）已经收集了132个AI的用例，包括每个用例的伦理考虑和社会关注（更多细节，参见ISO/IEC TR 24030:2021《信息技术 人工智能（AI）用例》）。

然而，在考虑使用AI的伦理问题时，考虑不用AI的伦理问题同样重要。使用AI的风险经常得到讨论，但有一个问题往往未得到足够的重视——在什么情况下，我们不用AI会变得不合伦理？例如，如果AI技术可以预测下一次传染病大流行或加快疫苗的开发，人们可能会主张不用这项技术是不合伦理的。这样的例子比比皆是。例如，一个常见的问题是：如果AI自动驾驶汽车必须要撞人，它应该撞谁？但是，如果正确使用AI驱动的自动驾驶能够从总体上减少事故，从而有助于拯救生命，这是一个正确的问题吗？

当然，人工智能并非未来唯一可能对伦理构成重大挑战的新兴技术。生物技术的进步，单独或与人工智能结合，可以创造合成生命形式或增强人类，增强身体或认知能力。在未来几十年里，如何规范那些可以从根本上改变人类能力或改变人类基因库的技术“可能会引发各国内部和国际上激烈的斗争”（见“基因编辑”）。即使是治疗疾病的技术进步也可能引发关于获得治疗的伦理问题的政治辩论(因为治疗很可能只提供给那些能负担得起的人)。更不用说关于转基因作物和食品及其潜在的生态或健康影响的伦理争论了。

随着气候危机变得更加紧迫，我们可能很快就会面临与使用新技术实现脱碳有关的伦理问题。虽然地球工程技术（二氧化碳[CO₂]去除和太阳辐射管理）多年来一直被认为是道德上不可接受的，现在它们作为最后手段的潜在解决方案受到了更多的关注。这里涉及的伦理问题包括子孙后代或弱势群体的分配正义（地球工程行动的负面影响可能会不成比例地影响一些国家或人口，例如增加非洲和亚洲的干旱），以及程序正义问题（谁应该决定使用这些技术以及如何使用）。

数据隐私

ISO引用了埃森哲在《技术展望2020》中的观点“在数字化无处不在的当今世界，信任和责任是对企业的新试金石”作为论述这一问题的开篇词。

数据隐私未来会成为历史吗？许多消息来源都统一，随着技术的新发展，有一个明显的趋势，即隐私将逐渐丧失。英国国防部表示：“在未来几十年，人们生活的方方面面可能会被无处不在的可穿戴设备、智能传感器和‘物联网’记录下来”。但与此同时，也有强调隐私的趋势，例如在设计开发中使用隐私。一旦尊重隐私的技术可用，市场就有了选择，而欧盟通用数据保护条例（GDPR）原则在全球的成功就是这一趋势的一个标志。

在私人（如社交媒体和个人技术产品）和公共（执法和人口监测）场合，生物特征数据（如指纹和人脸识别）的使用正在增加。随着科技在日常活动中应用越来越广泛，消费者的信任将成为一个越来越重要的问题。大多数消费者早已对联网设备持谨慎态度，担心其滥用个人数据。一些人甚至以为可能会是“数字泡沫”，其将出于对隐私的担忧而破裂——“对数据隐私的担忧已经提出了数字技术是否会继续以这种速度增长的问题”（ISO引用德勤于2017年发布的“未来世界的大趋势”）。与此同时，企业正在根据市场情况进行调整，如果市场需要隐私，行业就开发合适的产品。业界需要意识到，尊重隐私的产品并不会贵很多,如果做得好，反而可以提供竞争优势，因为信任是消费者面对多种选择时的一个关键决策因素。因此，倡议允许建立“数字信任”的公司，如Yelp和Foursquare，可能会越来越受欢迎。一旦社会承认数据有价值故而需要向数据所有者付费，一个“新平衡”就会建立起来。问题是，这种承认是否以及何时会到来？

与此同时，为了让消费者放心，政府监管和企业领导层都有必要建立与新兴需求同步的隐私和数据管理标准。确实，这将是一个不断增长的消费者预期。最终，似乎不可避免的是，技术将渗透到我们所做的几乎所有事情，并导致整个社会生活质量的巨大改善。然而，需要仔细权衡这些好处与随之而来的隐私和安全风险。

从上面介绍可以看出，尽管ISO从全行业视角介绍了其对技术伦理和隐私保护的展望，但在现代经济社会，几乎任何经济活动都会涉及金融活动。因此，国内金融业可以参考这些观点，制定适合我国特点的企业、团体和行业标准，推进数字化金融的建设。

技术伦理与标准化

与技术相关的伦理和社会问题就像可持续性问题一样，这些问题不仅是必要的，而且应该与这些新兴技术的发展同步考虑(而非事后诸葛亮)。

技术伦理本身在某些领域已经是一个标准化的课题了。在快速发展的技术推动下，新的伦理问题出现了，我们可能需要积极响应对更广泛的新技术的伦理使用标准的日益增长的需求。

在政府试图规范伦理设计、数据处理等底线标准的地方，标准可以在监管中发挥越来越大的作用。随着新技术引起的伦理问题的增长和多样化，ISO标准可以确保在全球市场上有一个公平的竞争环境。由ISO/CASCO（合格评定委员会）开发的ISO/TS 17033:2019《伦理主张和支持信息原则和要求》是已经发布的涉及伦理的标准；ISO/IEC JTC 1/SC 42（人工智能）已经发布了ISO/IEC TR 24030:2021《信息技术人工智能(AI)用例》，且正在组织ISO/IEC DIS 23894《信息技术人工智能风险管理》和ISO/IEC DTR 24368《信息技术人工智能伦理和社会问题概述》的开发。

数据隐私的标准化

技术标准有助于系统集成，如ISO/IEC JTC 1/SC 27（信息安全、网络安全和隐私保护）组织开发的ISO/IEC 27701:2019《安全技术对ISO/IEC 27001和ISO/IEC 27002隐私信息管理的扩展要求和指南》已经做到了适当使用技术、数据管理等的标准可以保护消费者的利益并确保消费者的信心。ISO/IEC 27009:2020《信息安全、网络安全和隐私保护ISO/IEC 27001行业专用应用要求》也给出了专业的要求。

同时，ISO/PC 317（消费者保护：为消费品和服务设计隐私）组织开发的ISO 31700《消费者保护消费品和服务的隐私设计》也已经进入了DIS阶段，即将发布。

（栏目编辑：张丽霞）

往期精选：

（点击查看精彩内容）

新媒体中心：主任 / 邝源  编辑 / 傅甜甜  张珺  邰思琪