科技向善，挺“难”的
什么是善？为什么向善？什么样的行为可以被称为向善？短短四个字的背后，存在大量值得探讨的问题——道道都是“难题”。
在11月9日举办的第四届腾云峰会上，周国平、徐冰、费俊、郝景芳等不同行业的重磅嘉宾，以及来自腾云智库的众多专家齐聚。我们趁机将这些“难题”抛向了他们（点击此处回顾峰会）。
下面是他们的回答。
11月11日，腾讯董事会主席兼首席执行官马化腾、腾讯总裁刘炽平及全体总办成员向四万多员工发出全员邮件，正式公布腾讯全新的使命愿景为“用户为本，科技向善”，并将公司价值观更新为“正直、进取、协作、创造”。
01
从哲学的角度，如何理解“善”的含义？
❒ 周国平
学者、哲学家
我理解的“向善”应该有四个层面的含义：
第一个是功用层面，科技肯定会在功用的层面上给人类生活的各个领域带来进步、提高效率，带来方便甚至舒适，能够提高人的物质生活水平，这一点是毫无疑问的；
第二个是社会层面，在社会的层面，善的含义是什么？就是公平正义，怎么样让社会各个阶层比较平等的享受到科技发展的成果，这就是我们提出“科技普惠”概念的意义；
第三个是伦理层面，在科技发展的过程中，怎么样尊重人类最基本的伦理价值——如人的生命价值，又如家庭伦理——生命科学、基因工程的发展已经对此形成了巨大挑战；
第四个是精神层面，即人类不只物质生活要发展，精神生活的品质也需要提升。这个问题其实科技本身不能解决，一定需要科技和人文进行合作，来解决这个问题。
提出“科技向善”会削弱一家科技公司的商业竞争力吗？我觉得不会，只会加分，不会减分。一个科技公司表现出人文担当，这是特别可贵的。
哲学家对科技的副作用进行批判是容易的，但是面对一家科技公司，哲学家不能仅仅批判，必须持有一种建设性的态度，而且在建设性方面要有作为。
02
机器应该具备什么样的价值观？人类对此依然缺乏共识
❒ 徐冰国际知名艺术家、中央美术学院教授
对于商业伦理等问题，其实对我这样的个体艺术家来说，没有特别宏观的考量。我们参与了很多的讨论，谈论的是人的隐私和权利的界限，事实上，面对今天这样一个科技环境，人的社会思考和道德思考其实是非常滞后的。
还有一个很有意思的问题，人类应该用什么样的价值观去教育“AI人”？我们应该用互相冲突的价值观来教育它们吗？很显然，机器人的价值观是由我们自然人输入的，而我们自然人的价值观和制度体系其实处于无休止的争论中，甚至是相互排斥和相互对立的。这件事很急迫，因为机器发展得很快。
另外，这些机器人是由什么人来控制的？是由某种制度的桎梏构成的整体智慧来控制，还是由某少部分人来控制？这是急需判断的问题，是对这个问题更深层的一种思考。
03
❒ 费俊
中央美术学院设计学院艺术+科技方向教授、某集体交互媒体创始人对于“科技向善”，在敬佩之外，我认为这一理念的执行需要一些要素。
首先，所谓“向善”不可以仅由科技界本身独立完成，它需要更多领域——尤其是人文领域的学者参与，形成一个跨学科的、以人文为核心的讨论机制或研究体系，只有如此“科技向善”才真正能落到实处，才能真正体现到未来的创新场景上。
还有另外一点，就是我们从技术伦理的角度出发，它的意义不是为了捆绑科技的发展，而是为科技的发展找到一个更加明确的人文目标，这里就需要新的方法和新的模式去承载“科技向善”的内容。
科技和文化或艺术的交融，我觉得它不仅是一个企业的善意，也恰恰可能开启更多的文化消费场。
我们往往低估了用户的消费趣味，我们认为他们应该消费的是某种娱乐方式，却低估了我们用科技去启发用户的能力。我非常期待腾讯在这个领域能有更多跨领域、跨学科的交叉融合创新，为我们创造更多好的文化消费产品。
04
❒ 王飞跃
中国科学院自动化研究所研究员、复杂系统管理与控制国家重点实验室主任光有技术不行，今天还要有新的哲学。从经典一直到现在的现象哲学，讨论的是Being，后来哲学讨论Becoming，但是现在人工世界一定要有Believing。
我觉得向善不是选择，向善是一种必需——人类能生存到今天，能处于万物之林之首，人类的生物构造、人类的认知就决定他的行为选择了向善，所以我们演化到了今天。如此而已。
05
❒ 段伟文中国社会科学院科学技术和社会研究中心主任
现在的基本说辞是，首先要鼓励创新，社会企业都应该对任何新技术有一种开放和包容的心态。同时我们也必须严肃探讨技术和应用场景需要的道德规范。鼓励创新，就是要想怎么去克服冲突，我们要做一些有针对性的工作，而不是笼统的批评。
再谈一谈所谓人工智能伦理与治理的实践智慧。首先我们面对的挑战是，最终怎么克服人类在伦理或者道德上对人工智能的恐慌。我们可以有一套策略，包括要预见，要设计与嵌入，要有开放性共识，要有适应性治理，以及怎么让人类的技能获得再生。同时最重要的是要有一个基于行动者网络的思考。
所谓的行动者网络思考，就是要分析智能机器掌握在谁的手里？总的来讲，我们跟技术的关系不是敌对关系而是竞争关系，在伦理和创新里面也有一种竞争关系，可以称之为争胜关系。创新有悖伦理时，重要的是有没有一些公众工程师，能够站在公众、站在社会的角度来进行反向的争胜性的设计——通过具体的技术设计实现对创新的伦理制约。
另外一点，我们需要一种Beliving，需要建立面向智能化时代的人机信任机制，如果没有人机信任关系，对于人类、社会、世界都是一种灾难。我们要从数据行为主义转到数据行动主义。这就需要我们每个人拿出我们的能动性，采取一种行动来改变这种情况，纠正那些被采集和被分析的数据中的错误和偏见。
一个企业如果要对这个社会负责，一方面它要对产品、员工、用户负责，另一方面还要考虑受产品或服务影响的人，特别是对那些比较脆弱的相关群体负责。
再就是企业社会责任。面对充满风险与不确定性的科技时代，向善是科技公司体现其社会责任的应有之意。腾讯作为一个标杆企业，讲“科技向善”是没问题的。“科技向善”本身不是一个多么大的善，这是作为企业应有的担当。
最后，我们现在讲人工智能伦理还不是机器要消灭人、威胁人类的生存，不是人机对立，而实际上是什么？是如何协调人和机器的关系。更重要的是，人机关系说到最后是人与人之间以机器为中介的关系。
我觉得人的智慧就是简单和勇敢，无论在任何时候，我给大家的一句话就是，不要害怕。
06
❒ 刘永谋中国人民大学哲学院教授、博士生导师
腾讯做了一个很好的选择。我并没有说它一定会向善或向恶，关键问题是我们要做一个选择，这个选择是有代价的。关于人性善恶的说法，关键问题不在于人的本质到底是善还是恶，关键问题是，怎么让我们变得更善。也许你现在是坏的，但是你可以变得更好，也许你现在是好的，你还可以变得更好。
我对人性是怎么看的？我有一个隐喻，我称之为Lucy隐喻，现在通行的人类学认为所有的人都起源于一个非洲母亲：Lucy。有一天Lucy从树上下来了，她站起来了，她在心里说了一句：（我）不想做猴子了，要做人了。但是作为第一个人，她知道什么是人吗？她不知道，她只知道我不做猴子了。这就是我讲的Lucy隐喻，这就是人。人不知道自己从何而来又向何而去。
Lucy当年是这个境况，今天人类仍然是这个境况，AI也是这个境况。我们不知道它从何而来，也不知道会往何而去。所以我讲的新无知之幕并不是反对科技创新，而是要审度，要两面考虑。因为我们面对这样一个情况：在无知的状况下如何处理囚徒困境。
07
❒ 郝景芳科幻作家、芳景科幻工作室创始人
在我们当今的时代，“科技向善”是最有必要的，因为科技公司今天在很多领域已经是主导地位。
对于“科技向善”，我觉得未来更需要做的是主动创造，而我们现在很多时候其实还是在做“防御”，还是在想办法防止科技做坏事。未来，我们需要一种创造性的发展思路，即在科技研发阶段，就朝着人性之善、社会之善的方向寻找发展“需求”。
当我们观察到社会里有很多苦痛、很多贫穷，那么科技能否在研发之前，就将解决这些问题作为最终目标和方向，用创造性的思路去解决这些问题？
08
❒ 胡延平DCCI互联网数据中心创始人
现在科技正站在一个历史的分水岭上，科技与人的关系开始发生根本性的改变。所有有责任感的人都需要去思考和作出决定，也需要很多这种跨界的思考。只有这样才能形成一个最大公约数，在此基础上，才能在不同的范围产生相对合理的、从善如流的、更多的选择。
在我看来，如果腾讯能把这两件事情做好，就是对“科技向善”的最好诠释和践行。
第一，更充分地连接到社会的每一个人，解决数字鸿沟问题，让因为连接所带来的机会不均等问题，让数字空间的资源不均等、不对称的问题，得到更好的解决。这意味着我们要去关注网络里面各种各样的弱势群体，不能让网络成为一个强者恒强、弱者恒弱的空间。
所以第一件事是连接机会的均等、连接的充分和连接背后的公平和效率问题，不能让丛林法则成为网络公共空间的一个规律。否则，我们对互联网平等开放的愿景最终可能化为泡影。
第二，腾讯已经拥有了一个很大的平台，在这样一个平台上面，我们除了为大家提供产品服务之外，能不能也去做一些影响人、引导人、鼓励人的事，让腾讯以外更多的善的力量能够发芽成长。
在这个平台上，腾讯是主体之一，还有十几亿其他的主体。每一个这样的一个主体貌似是一个小的个体，但如果大家都能够有“科技向善”的心态，毫无疑问将产生很强烈的影响力和社会改良效果。这其中当然有理想化的色彩，但很多事情不就是从有一个理想开始的吗？
09
❒ 赵嘉敏译言联合创始人、东西文库发起人、凯文·凯利在中国的出版人
“科技向善”至少包含了三个层面的意义。
第一个层面，它包含了 Google 提出的“不作恶”原则。在这个层面上，公司以及公司的每一个部门、每一个员工，作为行为主体，其选择至关重要。
Google 2018 年版行为准则的最后一句是这样写的："And remember… don't be evil, and if you see something that you think isn't right – speak up!" （“记住，不作恶。如果你看到你认为不对的事情，请直言！”）
第二个层面，它表达了腾讯致力于让技术更有“人情味儿”的责任感。当人类社会被技术变革拉动着进入一个追求效率和财富的加速器时，另一个方向的努力——即让我们慢下来、陪伴家人和孩子、扶助弱势群体、浪费时间在看似无用的事物上，以及追求平等、消除贫富差距的努力——是必要的。缺少了这个方向的努力，人类社会就有可能被撕裂成碎片。
蒂姆·奥莱利（Tim O’Reilly）在《未来地图》中转述了 Y Combinator 合伙人保罗·布切海特（Paul Buchheit）的一个想法：“未来我们可能需要采用两种货币：机器货币和人类货币。机器货币用于购买机器生产的东西，其价格总是越来越便宜。人类货币则用于购买只有人类才能生产的东西。”
第三个层面，它揭示了人性必须随技术演化而演化的内在规律。人性的演化，归根结底，是对技术演化的适应。开放，共享，利他，协作，集体所有…这些人性中的新的“善”之所以能够出现，不是因为我们主观上认为它们是好的，而是因为它们适应了当下技术演化的需求。而技术的演化，是朝向复杂性和多样性增加的方向。
10
❒ 张晓峰“互联网+百人会”发起人，大协同平台创始人
腾讯将“用户为本，科技向善”作为愿景升级为腾讯文化3.0，值得称道。如果说腾讯“互联网＋”、“连接一切”开启了连接革命，希望基于“科技向善”的互联网＋、智能＋、消费与产业互联网、开放生态一道开启协同革命。
腾讯同时将“合作”升级为“协作”，即“开放协同，持续进化”。反映了腾讯构建科技向善、各得其所生态的新价值皈依。遗憾的是，腾讯从1.0的“合作”，升级到了2.0的“协作”，而没有直接升级到3.0的“协同”。因为，分工合作是工业经济时代的主流模式，协作是后工业时代与全球化、信息化时期的表现，而数字经济时代的主流模式将演化为基于泛在连接融合的大协同。
腾讯能进化到“协同”是不易的，以开放平台为载体，以多样化生态为基，以科技向善为旗帜，以社会责任、用户为本倒逼自己、引领商业新文明。
11
❒ 马旗戟国家广告研究院研究员
先说使命愿景。作为一间企业，以用户（其实是不特定公众）作为其一切运行逻辑和行为（产品与服务）的出发点和依托，是对的，它之于社会的社会责任与社会效益，也必须最大限度依托此来推动、完成和实现，而非将企业社会责任变成企业行为对社会负效应的一种补偿。事实上，不仅腾讯如此，一切好的本分的伟大的组织，均应如此。
用户为本，不是腾讯的独有，同时它作为一间具有全球影响力和价值引导的科技企业，必须面向着一个基本问题：即如何在自身实践中，回答与把握科技发展带来的对人类文明中文化、道德、伦理的挑战，并且确保这些挑战不会对文明本身的存在产生威胁或使得其走向邪恶 —— 这就是“科技向善“作为使命愿景一部分同时提出的原由。
“用户为本，科技向善”，不是一个愿景的前后、左右、上下或者内外的关系，而可以理解为一个事情，即用户（人）在科技发展进程中如何可以通过与人文的结合相融来完成自身成长、完善自身目标，换言之，腾讯必须帮助用户（人）不仅达到科技所赋予的能力，而且必须保证这种能力被用于创造和温暖。
以此而言，腾讯此次的使命愿景，成为一个“知行物”，也就是既提出了一个目标预期，又提出了一种方法路径，这对腾讯来讲是巨大考验。它超出了vision is vision, mission is mission，要求腾讯不但需要在内部与生态中践行这一使命，而且必须作为一种力量担负这个进程。
12
❒ 孔华威中科院计算所上海分所所长、起点资本合伙人
“科技向善”作为腾讯公司一次使命升级是非常成功的。我个人很喜欢，也很支持。
第一，简短，言简意赅；第二，有终极性，善总是未来世界美好的重要“指标”；第三、有开放性，“善”这个概念，可以从大小、深浅各个纬度探索，不是死概念；第四，科技“向”善的“向”，是指向性的，但是科技又有自己的发展轨迹，而善是社会和伦理概念，也有其独特的发展路径，这两条发展路径，不是并行世界，但互相影响。
丨 往期回顾