技术总是率先突破人伦和道德的约束，而后我们才匆忙上前制止
不久前，一加手机因「秋意」滤镜被曝涉嫌侵犯用户隐私，最后，厂商决定通过软件升级暂时禁用该滤镜功能才平息众怒。根据测试视频，这一滤镜对衣物的透视效果几乎为零，但讨论热度依旧不减，足以说明人们对未来失控的恐慌。其实，以如今的技术水准来看，想实现真的透视功能已无门槛，只是被道德底线拦住了而已。
类似的讨论时有发生，说明人类理性还在线，科技也还在「可控范围」。
有这样一个故事：10 年前随先生工作调动移居至英国南安普顿乡村的 Zhou，平时总觉得和当地村民没共同语言，定居多年依然不过点头之交。一次在村里偶遇邻人，对方提了一句附近的奥特莱斯有折扣，Zhou 没听清，对方便解释了一下具体地址，然后俩人寒暄数句就散了。第二天早上，Zhou 照例打开 Facebook 时，首页就是这家店的广告推送，而昨天之前她都不知道这家店。结论只能是手机的麦克风被窃听了。上网一查，Facebook 正面临窃听质疑，她果断点击了卸载。
此类新闻这两年不计其数，已经显得老生常谈。不就推送广告么？「剁手」而已。人们在网上的所有踪迹被大数据化，这早已深入人心，很多人也乐于接受各种看起来很懂我们的推送。当技术涉及到「尊严」时，人们会小发作一下。譬如很多人遇到的各种打车、机酒预定等平台的看人下菜行为。商家会解释这是和用户消费能力相匹配的针对性销售策略，而买家觉得这是价格歧视和消费欺诈，涉嫌违法，最起码也有违道德。
历史上第一次被公众拿来拷问「科技和道德博弈」的，是二战时关于核武器和人类命运的问题。这是个很老套的故事，奇怪的是，当把它拍成话剧《哥本哈根》（Copenhagen）后，居然拥趸颇多，其中包括谷歌工程总监 Damon Horowitz。当年追剧时，在斯坦福大学的一次会议上，Horowitz 鼓励大家遇事时用哲学家穆勒和康德的思考来指导自己做决定。比如穆勒说，「人们行为恶劣不是因为欲望强，而是因为良心弱。」「个人的自由，以不侵犯他人的自由为自由。」而康德的《纯粹理性批判》更是让技术顿显渺小，退后到强大的哲学思考和人文关怀之后。谷歌这位工程总监，也是位哲学博士 —— 可见谷歌的格局。他曾表示：「比起关注设备，我们更应该用道德框架来指导我们的决定。」他认为，技术产业不应该「只创造东西，而让其他人为道德规范担心」。
实验话剧《哥本哈根》，曾在伦敦国家剧院首演后获奖不断，后又在美国百老汇，中国国家话剧院等地上演，几乎每场都座无虚席 —— 这在实验话剧里不多见，尤其还是小众的「物理」题材。剧中人物德国人 Werner Heisenberg、丹麦人 Niels Bohr，都是诺贝尔物理学奖的获得者。Bohr 当时与爱因斯坦齐名，是量子力学的鼻祖，Heisenberg 曾是他的学生和助手。1941 年 9 月，横扫西欧的希特勒开始进攻苏联。通过一次学术活动，Heisenberg 与 Bohr 在哥本哈根见面，散步了 10 分钟便不欢而散。1943 年，Bohr 辗转瑞典、英国，逃往美国，参加了 Julius Robert Oppenheimer 主持的原子弹研制工作。而 1942 年前在核技术领域与美英水平相当的德国，到二战结束时都没能造出原子弹。
那次会面没有留下只言片语，后人猜测，是留在德国的科学家在消极抵抗纳粹？还是当时为纳粹主持核武器研究的 Heisenberg，向 Bohr 透露了德国的核计划？在话剧中，发现了核裂变的科学家 Otto Hahn 想要自杀，因为他看到自己双手沾满鲜血。科学家们对技术极致的探索，其后果不一定是他们乐见和能承担的。
如今，信息如洪水般漫过一切，大数据空前强盛，网络上没有秘密可言。于是，人们陷入了巨大的未知恐慌和孤独的尴尬境地。而科技毫无回头之意，人类情感的归宿在何处？持续被挑战的道德底线又在哪里？早在人们发现用谷歌搜索无所不能时，就骇然它搜索我们更无所不能，今天在大数据里，你比赤裸还无地自容。
也许世界上最邪恶不是意图，而是意想不到。人类历史上，还没有哪项科技为了邪恶的目的的而生，宗教学家和神学家称此为「邪不压正」。其实就是人性占了上风，让科技没有失控而已。所谓科技和道德的博弈，说到底取决于人文学识的高度。康德认为，人的认识能力有限，自然科学也只能认识和人的感觉经验有关的现象，那个超出感觉经验的世界，人的理性是无法认识的。
对巨大的未知保持敬畏之心，是对科技最大的道德。说出了「Head like a hole, black as your soul」这样深奥台词的《黑镜》（Black Mirror），让科技的悲观主义弥漫了快 10 年，一季又一季，孜孜不倦地表达着最新科技对人性的利用、重构与破坏，算是迄今为止人类对科学技术最大的反思甚至反动。
几年看过来，很多人居然还是对第一季里的故事 ——《你的全部记录》（The Entire History of You）印象最深。出于「人本能」的喜新厌旧，人们多少都有过「出轨」。当技术无所不能时，你肉体的偷食无处遁形；你精神偶尔出个小差，也能被抓个正着。
单元剧《黑镜》展现了现代社会发展的种种情境，尤其是新技术的副作用
片中 Grain 芯片被植入耳后神经区，和硬盘一样记录存储你的全部经历和记忆，可随时查阅播放，与亲友共同赏玩。作为心理过程的记忆被物理存储取代，大脑成了计算机，这是技术对生物本能的彻底摧毁，最终把每个人都捆缚在旧梦中，连做爱时都要借芯片回味初夜，现实中的快感早已不觉。人们拥有了记忆和重放的功能，却成了芯片的奴隶。男主怀疑妻子不忠，像福尔摩斯一样反复从自己、妻子、出轨男的记忆芯片中搜寻证据，终于把妻子极力想遗忘的事弄得「水落石出」。其实芯片中大多是美好的记忆，但却总把人性引到最阴暗面。当失落和伤痛反复放大后，我们无法包容哪怕一丝的杂质。妻离子散后，男主狠心剜掉了芯片，企图甩掉数据化记忆，换回做自然人的自由。
当所有的感官体验都由技术取代，那么意识呢？我们一直相信，自我意识和记忆是人类存在的根本，但当这些被彻底物化后，我们算是什么？事实上，大脑里存在的记忆都带有明显的个人色彩，因为每一件往事我们都会选择性地修改存储，所以有些事回忆起来总是美好的，即使当初的情形并非如此。如果每个记忆都似芯片般精准，那么曾修改过的美好也就没了。
这也是机器人和赛博格（Cyborg，机器化生物）的困境。
伦敦的传统博物馆维多利亚和阿尔伯特博物馆（Victoria and Albert Museum）在 2012 年展出过机器人石膏像 Diamandini，高 1.55 米，淑女模样。当你走近时，她会突然滑向你。开发者 Velonaki 是新南威尔士大学机器人技术实验室的主任，他们记录了 28000 多名观众与机器人互动的数据，进而想创造机器人与人的情感连接。
人类总是为机器人着迷。2004 年的科幻电影《我，机器人》（I, Robot）居然改编自 1940 年代 Issac Asimov 的同名小说，描述了 2035 年，机器人被约束在法律框架下，与人类和谐共生，但一个造反的机器人开始了对人类的全面暴动。小说中创造了机器人行为准则：1. 不得伤害人类，不得因不作为使人类受到伤害；2. 除非违背上一法则，机器人必须服从人类；3. 在不违背第一第二法则下，机器人必须保护自己。
随着小说的风靡，这些定律成为机器人伦理的基础内容。
韩国政府在 2007 年召集了由未来学家和科幻小说家组成的 5 人小组，起草机器人伦理宪章，以防止人类和机器人的彼此滥用和伤害。据称该宪章涵盖机器人使用者和制造者的标准，以及植入机器人的程序的伦理标准。例如人类要如同配偶一样对待机器人，防止机器人获得数据，建立机器人身份鉴别和追溯机制等。韩国相关部门计划在 2020 年让机器人走进每个家庭。当然，今年机器人没来，「新冠」来了。
虽然韩国政府的未雨绸缪多年来在科技界广受好评，但悲观论调也从未减少。机器人设计师 Mark Tilden 说，「给予机器人道德规范，就如同教一只蚂蚁唱山歌一样。就如 Asimov 小说显示的，机器人和人类最终更可能以悲剧收场，而不是实现效用。」
新精神分析学派的领袖人物 Erich Fromm，在《逃避自由》（Escape from Freedom）中提出过一个观点，人的进化程度越高，其生物本能调节越不完善，人在与虚拟技术和机器的交互中，必然逐渐失去体验真实的能力，本能反应会被智能机器取代。
1882 年，视力严重下降的尼采，为了不影响写作，购买了时髦的汉森打字机，并很快操作自如。但有一天，一个熟悉尼采写作风格的朋友发来一封信，提到他近期作品长篇大论的深度思辨大量减少，而短小精悍的警句箴言不断增多。尼采用打字机回信说：「你是对的，我们的写作工具，似乎也参与了我们思想的形成过程。」工具在重塑思想，对于从出生便在触摸屏和人机交互中成长的一代，类似「思考」与「反省」，早从意识中消亡了。
从类人猿拾起骨头作为工具，到今天的云和大数据，所有技术的实质，都是人对世界体验方式的改变。传播学巨匠 Marshall McLuhan，早在 1964 年《理解媒介：论人的延伸》（Understanding Media:The Extensions of Man）中就预见性地指出，所有媒介都是人感官的延伸使用，任何媒介都会改变人感觉的平衡状态，产生不同的心理体验。人在使用媒介，也在被媒介重塑。
现在最具人气的虚拟科技正在融入现实世界，或者说它们已经是现实世界。我们漠视父母，却在社交网站倾吐真心；我们访问全球资讯，脑子里却装不下超过 140 字的微博。科技越完善，就注定越走向反人性的一面。这也是《黑镜》悲剧立场的根本源头。
后来的《黑镜》也越来越无新意，今年 5 月亚马逊上线了新剧《上载新生》（Upload），号称是「黑镜概念大合集」，豆瓣评分 8.5。与前者的悲观严肃不同，这剧走戏虐喜剧路线。故事设定在 2033 年，人类已实现了对意识的数据化，死后可在虚拟世界中实现「永生」，前提有活着的人为你给运营商付费。
为了推销业务，运营商夸大了人的死亡概率。上传意识时不是扫描大脑，而是将脑袋摧毁。这意味着接受了上传服务，就再没可能回到自己身体 —— 重病或濒死的人，即便身体被治好，也无法在现实世界「活下去」，只能持续购买服务活在虚拟世界。商业对人类的洗脑与控制可见一斑。
电视剧《上载新生》，由 Greg Daniels 创作，未来人类科技已可以把自己「上载」到自行选择的来世
以营利为目的的运营商，为客户设计了不同梯度的套餐方案，开发了五花八门的额外收费项目。交大笔服务费的死者在上层社会生活，勉强进来的穷人在 2G 层，是最低生存标准，一般看 5 页书流量就用完了，其他活动都要额外付费。虚拟世界看似有取之不尽的丰盛美食，但所有食物都是数据，系统限定了存在的时间，用餐时间一过，食物立马化作乌有，去晚了就挨饿。
不论是《哥本哈根》，还是《黑镜》和《上载新生》，这些剧作的理性之处在于，我们多了解一点科技的恶意并无坏处，因为人类的未来就取决于现在。更进一步讲，整个人类史，其实都在追寻秩序性。在技术进步的巅峰时，总有人试图打破这种秩序性，但无疑都会败给某种秩序，文明的本质即人类狂野的动物性臣服于秩序和自律。这也是我们面对科技失控、冲破道德底线时，最理性有效的态度。