AI技术广泛应用，技术与伦理问题不容忽视

点击关注 遇见觅游遇见幸运

整合作者：觅游阿缺

编审：觅游东东学长

题图，《钢铁侠》中的人工智能管家贾维斯

最近，FaceApp的AI“换脸”功能在社交媒体爆火，甚至一度引起了美国政坛的恐慌。其实，今年来许多有关AI技术，尤其是AI“换脸”技术的新闻频现：今年年初因为杨幂朱茵“换脸”视频大火的Deepfakes；声称“为老实人而生”的APP原谅宝；针对女性，实现照片“一键脱衣”的DeepNnude，这类新闻的频现，需要我们进行更多关于技术、法律与道德的思考。

AI技术在新闻传播中应用的伦理问题，也是我们在网络传播发展的过程中面临的一大困境。人工智能时代的新闻伦理与法规，就是适应这一现象出现的新课题。今天，学姐就带大家一起来梳理人工智能技术带来的伦理问题及其解决路径——

人工智能时代的降临

人工智能，也就是AI（Artificial Intelligence），是计算机科学的一个分支，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等，具有人机共生、万物皆媒、自我进化等特点。

如今，AI技术在新闻业的应用几乎渗透到了新闻生产的全过程：

新闻生产层面，AI通过网络信息检索与挖掘、图像处理与视频处理、自然语言与机器翻译等实现机器化、智能化、分布式的新闻写作、改写与编辑；

信息分发层面，AI通过观点挖掘与机器学习、社交网络分析与挖掘、路径发现与规划方法等技术，寻找潜在的受众对象，完成对受众群体的用户画像和群集组合分析，实现信息社交化、个性化的高效率分发，提高信息内容和受众需求的一致性；

新闻呈现层面，AI合成主播的出现，提升了电视新闻的制作效率，降低了制作成本，保证新闻报道的时效和质量；

反馈互动层面，AI通过智能技术运用呈现出传感化与智能化特点，加强用户的参与性，设计各种探索和互动环节，如《纽约时报》利用人工作能管理评论区，识别、筛除不良和恶意评论，打造智能化的优质内容管理平台。

技术伦理的达摩克利斯之剑

人工智能的发展，除去为新闻生产带来的效率提升，也带来了相应的伦理风险。技术的发展与相应伦理规范的缺失，正逐渐成为高悬于技术社会之上的一柄利剑。

（一）内容层面：技术黑箱化之下的新闻生产

由于技术的复杂化以及媒体机构、商业利益等因素的限制，用户并不清楚算法的基本原理、目标和意图，因此内容生产的过程对多数受众来说难以评判和监督，从而算法技术成为了未知的“黑箱”，使得一贯的新闻价值受到挑战。

奥巴马为主角的Deepfakes视频，图源自网络

1、假新闻向深度转化

一方面，AI写稿机器人的数据采集范围覆盖面广，信息来源混杂，使得机器人采集到虚假信息成为可能；另一方面，AI技术广泛应用于修图、视频换脸，生产出大量难辨真伪的虚假信息。传统假新闻尚可通过多种渠道验证真伪，而在人工智能技术“黑箱化”的趋势下，其真实性难以验证。如前不久在Facebook流传甚广的一段视频中，美国议长南希·佩洛西醉酒如同喝醉了一般，神志不清，语无伦次，举止奇怪，现在已被证实这实际是一段利用Deepfakes制作的假视频。

2、新闻偏见难以察觉

算法本身是一套解决问题的系统机制，但程序的设计者可能会带有主观性的倾向和偏见，导致算法在应用过程中本身就附带了某一类人的价值和观念。同时人工智能在其深度学习过程中没有过滤系统，如果向机器人提供了带有偏见和倾向性的数据，机器人新闻也会带有这种偏见和倾向。因此，由于算法设计者的个人偏见、社会和文化偏向、战略决策或商业竞争因素、技术限制等，算法中不可避免地会习得人类的偏见。而随着算法技术被披上“科学神话”的外衣，这种偏见和歧视变得更加不易被察觉。

3、报道失衡忽视新闻价值

在新闻题材方面，算法依据受众的需求生成用户画像并自动生成相关的知识谱系，生产符合用户口味的新闻，使得娱乐新闻、黄色信息取代政治、经济和文化新闻，成为新闻推送的主体；在新闻质量层面，机器人写作的新闻注重信息，而忽略了新闻的知识性和人情味，注重时效性而缺乏人文关怀；在新闻价值层面，公众应知而未知的新闻鲜少送达受众。如果对人工智能技术不加干预，新闻报道为公众服务的价值将受到严重削弱。

微软开发的人工智能聊天机器人Tay，在推特上线一天就在互动交流中被“教坏”，变成一个集种族主义、性别歧视于一身的“叛逆少女”

（二）媒介层面：新闻媒介与从业者价值再定位

1、媒介舆论监督作用被削弱

新闻媒介是反映、引发和引导舆论的重要主体，是进行舆论监督的主要载体。与人类记者相比，写稿机器人不具备舆论监督的能力，也不擅长发表深刻的见解。由机器人主宰新闻生产，将难以承担起舆论监督的职责，长此以往会降低媒体公信力，削弱新闻媒体作为社会公器的监督功能。

2、新闻从业者的价值挑战

一方面，机器新闻写作全天候、高效率的新闻生产模式，算法应用与智能翻译技术使得人工智能技术几乎覆盖了新闻策划、采访、生产、分发、检测、反馈等新闻采编全流程，将新闻工作者从重复、低技术含量的信息加工整理工作中解脱出来，同时也使得新闻记者的专业价值面临严峻考验；另一方面，网络媒体的兴起使得编辑、记者的“把关人”作用被削弱，内容推送的权力也逐渐由人工编辑让渡给智能算法。算法推送能够迅速实现内容与用户的精准匹配，帮助筛选和处理信息，使传统的记者、编辑在信息筛选过程中的工作更加繁杂且具有挑战性。

3、行为主体模糊，法律责任难界定

算法技术在进行新闻生产与分发的过程中，由于涉及算法设计者权利或商业利益等原因，算法信息常常被保密。算法设计不透明，运作原理模糊，也使得一旦在算法参与的新闻生产中出现伦理问题，媒介、平台与用户的法律责任界定困难，从而难以追责。

（三）受众层面：权利让渡风险与虚假信息环境

1、数据开发中的便利与隐私悖论

算法实现精准的信息推送，首先要基于用户、信息和环境信息的数据采集，生成受众的用户画像，最终实现信息内容和受众的匹配。精准的信息分发是以让渡用户个人隐私为前提的。而深挖用户信息和阅读习惯的同时，也侵犯了用户的隐私。通过数据挖掘技术，可以从大量不完整或模糊的数据中提取到有用的个人信息，使得便利与隐私成为悖论，如何平衡信息利用与用户的隐私权，成为人工智能开发数据过程中必须关注的问题。

2、回声室效应与群体极化

算法实现信息与用户精准匹配的同时，传统媒体时代一对多的传播模式变为“一对一”传播，容易造成受众的信息接触面越来越窄。沉浸在“信息茧房”之中的受众，由于长期接触同类信息，面临虚假的信息声势，而不易形成对外界的全面感知；用户原有的观念经由反复传播而得到加强或放大，从而进一步强化自己的主观观点，导致视野的偏狭和思想的封闭、僵化；这种思想僵化极易在网络群体的讨论加强之下得到进一步放大，甚至出现群体极化效应；不同群体的观念极化易导致社会共识的瓦解，削弱大众传播的社会整合作用。

伦理困境的解决路径

（一）坚持两种理性结合，发挥人的主体性

马克思韦伯提出了“工具理性”和“价值理性”的概念。工具理性，就是通过实践的途经确认工具（手段）的有用性，从而追求事物的最大功效，为人的某种功利实现服务。工具理性是通过精确计算功利的方法最有效达至目标的理性，是一种以工具崇拜和技术主义为生产目标的价值观；价值理性是指对某种包含在特定行为方式中的无条件的内在价值的自觉信仰，无论该价值是伦理的、美学的、宗教的还是其他，只追求这种行为本身，而不管其成败与否。

我们对于技术手段、算法的优势及其带来的高效率和巨大收益，都偏向于对“工具理性”的追求，而忽略了价值、信仰、伦理的理性思考，因此亟需发展相应的伦理制度规范，强调人工智能技术运用中的规则和边界，明确人的主体地位，避免被技术所异化。

（二）技术革新与完善，促进人工智能良性发展

人工智能技术尚未成熟，相关技术亟待完善。相关的从业者还应不断优化技术手段。在新闻生产层面，应对机器人新闻注明信息来源和内容生产方式，保证信息传播的真实性和有效性，以技术发展加强机器人对新闻数据质量的判断，通过严密的算法对新闻源头进行过滤，尽可能保证新闻来源的真实性；在新闻分发层面，除了基于用户画像、受众行为习惯探索受众深层次的需求，形成更加完善的“用户塑像”，还应结合社会重大事件、用户圈层改善个性化推送机制，通过技术手段避免用户陷入“信息孤岛”困境。

（三）人机协同生产，网络时代重塑新闻人价值

“人机协同”即人与智能机器的交互协作，也称为“人机共生”或“人机合作”。在这一模式下，由人工控制并检测生产，机器人负责体力工作。在人工智能时代，新闻工作者应在人机协同机制下重塑自身价值。一方面，人工智能的优势在于对用户数据的搜集和处理，而新闻记者则通过深入调查分析和完善报道，提高数据处理之后的阐释能力，凸显记者的专业性和思想性；另一方面，新闻工作者应重新承担起“把关人”的角色，对人工智能新闻的信源进行全方位的审查核实，从源头上避免假新闻，把握正确的舆论导向。

（四）建立相应法律与行业规范，破解技术“黑箱”

人工智能技术相应的法律规范尚处起步阶段，有必要建立行业规范，加强立法，完善行业自律和监管机制。首先，要从立法层面加强对公众隐私的保护，明确可抓取数据的范围和边界；其次，媒介机构在使用人工智能技术参与新闻生产各个环节的过程中，有责任增强算法的透明度，一方面可以使用户明确算法机制，便于社会监督算法是否带有偏见，以消除受众对算法技术的过度信任或不信任；最后还要完善新闻问责机制，明确机器人新闻的责任主体，提高算法设计者和相关平台的责任感，加强对新闻数据来源、内容真实性和准确性的专业把控，最大化避免人工智能可能带来的伦理风险。

《银翼杀手2049》中的人工智能，图源自网络

凯文凯利曾在《失控》中预言“机器人取代人工是必然”，虽然《银翼杀手》中描绘的智能机器人时代离我们尚远，但技术发展带来的伦理困境不容忽视。同时，技术固然会带来一些问题，我们也不能固步自封，在技术面前保持冷静与克制，坚守人的理性，才是掌控技术的第一要义。

我们今天对AI技术带来的伦理困境及其解决就梳理到这里啦，各位小伙伴认为还可运用什么理论来探讨？

评论区打卡留言吧~

 参考文献：

[1]靖鸣,娄翠.人工智能技术在新闻传播中伦理失范的思考[J].出版广角,2018(01):9-13.

[2]陈昌凤,虞鑫.智能时代的信息价值观研究:技术属性、媒介语境与价值范畴[J].编辑之友,2019(06):5-12.

[3]杜娟.从“人机协同”看人工智能时代的新闻伦理构建[J].社会科学研究,2019(04):197-204.

[4]李政.人工智能时代新闻记者的价值定位[J].出版广角,2019(10):61-63.

觅游大型公益活动【真题·论文计划】之

如何读论文

详戳：『真题·论文计划』24篇优质论文+50道真题！拥抱盛夏，光速成长！

遇见觅游 · 遇见幸运

微信公号 : 觅游新传考研

新浪微博：觅游新传考研

喜马拉雅FM：觅游新传考研

伴随式教育 ▏相信坚持的力量