人类将被“人工智能”绑架？《黑镜》更有可能是我们的未来！
不管怎么说，搞不好人工智能真的会影响到整个人类文明。对照今天您自己的种种，然后看看以下这几方面吧——
1、信息垄断
我们已经习惯了：打开搜索引擎，找想要的信息；打开新闻客户端，看看新闻；打开朋友圈，了解下朋友的动态。
这么简单的、已经习以为常的场景，实则暗藏巨大的隐患。
现在纸媒很快要被淘汰，手机成了真正人人必备的信息入口，而互联网则逐渐成了唯一的信息平台——这在人类历史上绝无仅有。在很多人眼里，我们看到的信息变得多了，我们变得更加自由，但从另一方面来说，我们想要的信息被垄断和控制也变得更容易了。
想想看，我们想知道这个世界在发生什么，是不是已经完全依赖互联网了？
康奈尔的计算机教授 Thorsten Joachims （巧的是，他也是人工智能学者）曾经做过一个实验，观察用户点击 Google 搜索结果的情况。其中第一条结果有 42% 的点击率，而第二条则是 8%。也就是说，不管剩下的结果怎么样，前两条结果已经占据了 50% 的注意力。
接着，他们互换了前两条的位置，结果变成了 34% 和 12%。这也就是说，不管结果本身是怎样的，用户仍然只关心最开始的那条。
是不是跟想象的不太一样？
百度、Google 这样的公司，正在牢牢把控着目前我们的信息入口（当然，未来入口可能是多样的，但也存在同样的问题）。虽然我们搜出来了 1000000 个结果或者 5000 个结果，有种世界尽在掌握的感觉，但实际上很遗憾的是，对绝大多数用户来说，不管是 1000000 个还是 5000 个结果，他们只会点击第一页最顶上的几条而已。
Google 也经常在这个方面出事情，比如 2011 年的非法医药广告以及今年疑似为希拉里站台。
当你随手点击了一家看似不错的餐厅的外卖时，也许不会意识到他们是花了钱的、是被平台塞到前面的；当你津津有味地阅读某个新闻客户端的推荐文章时，也估计不知道有些文章其实是软文或者公关文。
我们以为有了全新的信息入口、选择变得更多了。但其实我们选择变得更少了。
2、过滤泡沫
第二个要说的麻烦同样存在于看似更便捷和舒适的人工智能技术里——个性化推荐。
近几年随着机器学习的发展，个性化推荐愈发有效。我们能用新闻客户端看到更喜欢的资讯、能用音乐客户端听到更喜欢的歌。在这之前，我们都疲于从无数的资讯和歌曲中分辨哪些才是我们喜欢的。
似乎很美好，毕竟我们能够找到自己更喜欢的了。
但这正是陷阱所在：我们喜欢的，就是我们需要的吗？
就好像说，我们喜欢甜，就每顿饭只吃白砂糖？喜欢美女，就每天混迹于红灯区吗？如果只顾着享受快感，那么毒品就会是正确的选择。
当这些个性化推荐系统逐渐明白我们的喜好后，就会很精准地给我们最喜欢的，而且永远都是最喜欢的。
我们喜欢摇滚乐，系统搞明白后，我们就永远听不到其它的音乐风格了，并且会错失跟它们邂逅的机会。（就像我一个朋友说的，他在听了一个星期民谣以后，想听几首流行歌，在每天的推荐歌单里已经找不到了。）
我们喜欢小米手机，系统搞明白后，我们也就永远看不到其它手机的资讯了。我们会认为全世界都在议论小米，却意识不到在三四线城市，仍然是 vivo 和 OPPO 的天下。
互联网观察家 Eli Pariser 在 2011 年的 Ted 演讲上，把这样的现象叫做 The Filter Bubble，也就是过滤泡沫。
我们订的推荐的外卖，都是一个口味的；我们喜欢的歌，都是一个类型的；我们看的新闻，都是关于某一些事情的；我们到淘宝买的排序在前的东西，都是一样风格的。
这可能是我们会遇到的第二个麻烦。
3、数据风险
我们在享受着数据的便利。淘宝能够依据我们的个人数据推荐最合适的商品；餐厅能够根据我们的喜好推荐最合适的菜单；医生可以根据我们的历史病历数据来得到更准确的诊断；连家里的智能温度系统知道我们回家了都会把温度调整到最适宜的状态。
在《1984》里，电子屏无处不在。老大哥依靠这个监视着每个人。如今的城市里，公共场合摄像头也是无处不在的，虽然目的不是为了监视我们，但至少提供了监视我们的途径。
数据将通过三个途径变得更加完善：
1）主动提供。既然要有个性化推荐，既然我们要享受其它各种大数据带来的福利，那么我们就要提供很多个人的信息和数据。你可能没注意很多软件注册时的声明，但在读下这些文字时，你估计已经默认同意过几十个甚至上百个产品的隐私协议了，这些协议确保他们能够合法获取你的各种信息和数据。（凯文·凯利在《必然》中说过，人们总会为了享受服务而放弃部分隐私。）
2）被动监视。智能设备在逐步变多，也就意味着摄像头、各种传感器和监视器都变得多了起来。当你家里布满各种各样的智能设备、或者你身上在用各种设备，并且它们都接入了互联网时，它们也就同时带来了泄露你各种隐私的风险。
3）间接收集。科技进步使得很多过去在档案里、在纸质手册里的很多信息得以电子化。我们在医院的病历数据，在公安局的登记数据，在学校的教育数据，在公司的工作数据，在银行的信用数据，原本只是在限定的时空里存储，现在则会存入联网的数据库。迟迟没有破案的白银连环杀人案，就是因为公安局的 DNA 检测能够联网匹配，在 Y-STR 数据库里发现了凶手的堂叔。
由于这些变化，我们的数据逐步变得完整。这些数据，迟早可以描述我们每个人（就像《黑镜》第 2 季第 1 集里所讲的那样，死者的社交信息已经可以重塑他本人了），并且实时、动态地「监视」我们每个人（参考：我们自己终会成为大数据）。
这些数据如果被滥用，后果不堪设想。
如果被政府滥用，那就是像《1984》里描述的那种场景。我们所见到的每个摄像头、每块屏幕都是监视器，我们所拨出的每个电话、发的每条消息都被窃听。
除了提供给政府，还有种可能是数据库的泄露。这样的事情发生过不止一次两次了，经常有账号密码泄露，就有大量的用户隐私被传出，有些非常严重。
这世界上不会存在完美的安全措施。互联网的地下世界有着无数黑客，他们可以来去无踪地搞到这些数据（可自行搜索「中国黑客传说」），不留任何痕迹。
科幻短剧《黑镜》第 3 季第 3 集讲的就是主人公和其他几个人被人盗取了隐私数据，被抓住了把柄所以言听计从、毫无还手之力，结局凄惨。
除此之外，在某些人工智能技术足够成熟后，数据可能有更重要的意义。目前的数据也许只是个人用途，但未来的数据可能是社会性的，比如交通数据、金融数据或者军事数据。
万一这些数据被人窃取甚至操纵，那后果不堪设想。就像一个连环杀人案，凶手的 DNA 在数据库里被人修改掉，那无辜的人就可能被当做杀人犯；或者有的人病历数据被恶意改掉，结果医生开了对他来说可能会过敏致死的药......
未来的智能交通系统、医疗系统，在工厂里的各种智能机械......但凡是有杀人放火能力的，并且在依照我们设定的数据按部就班工作的智能系统，都有可能因为数据篡改而造成天灾人祸。
《黑镜》第 3 季第 6 集里，原本用来维持生态平衡的电子蜜蜂被人修改了智能模块的数据，变成了可怕的杀人凶器。
有了 AR 之后，我们的未来会大不一样。我曾经写过一段类似的想象：
想清晨跟远在海外的老同学打声招呼，只需通过眼镜或者播放器说一句“呼叫马丁”，马丁的身影就浮现在你面前了，无论刷牙洗脸，还是读书看电影，他都可以在一旁跟你无缝聊天。
问题就来了：你怎么知道你所看到的、感觉到的是真的还是假的呢？
快速发展的人工智能技术会让造假变得有可能。
我们用 AR 的工具跟朋友聊天、谈笑风生，但其实跟你聊天的，会不会只是一个机器人？那些影像会不会只是制作出的 CG？
你在路上看到每个路标、行人或者远处的高山，会不会是全息投影出来的假象？你坐在火车里，以为是一直驶向北方的，但车窗会不会是投射虚假风景的电子屏、你其实绕路去了另外的地方？
随着 AR 技术的发展，我们也许都会戴上像 Google Glass 那样的工具（当然肯定没有它那么笨拙）。有可能就像一个隐形眼镜一样方便，戴上去就能看到更多智能系统提供的视听内容；甚至有可能会直接植入什么芯片和纳米设备。
如果是这样，我们以为只是增强了现实的 AR 技术，就有无数种方法来操纵我们、混淆我们了。
《黑镜》第 3 季第 5 集里的大兵，都植入了称为「Mass」的视听增强系统，用来辅助他们的军事行动。他们可以直接取用无人机的视角、看到系统发来的信息以及地图。同时，这个系统也可以屏蔽掉很多声音、改变看到的画面，制造出虚假的内容，用来误导和操纵大兵。
起初我们只是从个性化推荐中得到信息，决策还是我们自己做的。等到它们逐渐变得更加智能、更加优秀，我们就会直接听从它们的建议。 每天起床，我们会先听一下智能助理对日程的安排。洗漱的时候，智能助理会读给我们最恰当的新闻。我们会乘坐它推荐的交通工具。中午会去它说好的餐厅吃饭。傍晚，会直接下单买它说好的衣服和日用品。下班后，会经过他的提醒给家人打个电话，然后去它安排好的健身房锻炼。 为什么要听它的？因为你发现，它永远都能做出比你更准确、更理性、更完美的决策。因为它手里有你的各种数据，知道你的生活习惯、性格特点、身体状况甚至 DNA 序列。
智能助理是个性化推荐的升级版本。
如果说目前的个性化推荐，缩小了我们可选的范围、给了我们一些选项，最终决定还是我们自己做的话：
这些错漏造成的原因，会跟刚才说的类似，有两种可能：系统的不完善；恶意篡改。暂且抛开系统的不完善，就说恶意篡改这个可能。
如果是现在的黑客攻破你的手机，大概最危险的就是偷点艳照或者盗取银行账号。但未来我们对智能系统言听计从的话，黑客修改了我们的智能系统，就会变得非常危险了。
我们非常信任智能系统，于是它买的食物我们不会仔细研究就会吃下去；我们非常信任智能系统，所以它导航的路、让我们去的地方，我们都不会怀疑。我们会变得容易操纵。
同样麻烦的是，我们在被操纵的同时，完全不会意识到这一点。我们都没有能力去追究智能助理背后的算法和数据究竟是不是对的。
智能助理未来不仅可以解决个人问题，也许还能解决更多社会性的问题。那就是下面要说的大麻烦了。
如果人工智能真的可以根据各种数据和有效的算法来协助我们做政府、企业和组织的决策，那我们也会对智能系统产生依赖。毕竟很多复杂的问题交给一个两个人去做总是会有错漏，但足够强大的智能系统则看起来比较保险。
这样以来，人工智能的数据和算法一旦被人有心篡改，可能波及范围就变成了全世界。
不要以为这样的智能助理很遥远，作为认知计算系统的代表，IBM Watson 已经是应用层级的人工智能专家系统了。采用了大量人工智能技术的 Watson，目的不在于成为全能的机器人，而是成为协助人完成很多事务的专家，已然涉及了我们生活和工作中的各种领域。
我曾经假想过一个惊悚故事的提纲。
在未来的某个时代，人工智能已经参与到人类方方面面的决策中。有一批水平高超的程序员，他们合伙攻破了各处的智能系统，并且篡改了其中的算法和数据，使得他们能够人为操纵人工智能提供的决策结果。由于他们始终没有暴露，全世界实际上是不知情的情况下成为了他们的游戏沙盘。
虽然不能直接发起战争，但间接的一些手段，比如给军队虚假的敌方数据，就可以误导他们尽快发起进攻。虽然不能直接杀掉某个人，但像上文提到的，只要误导他吃会过敏致死的食物也能间接除掉他。于是，他们开发出了一套可视化的系统，能够快捷地对世界上大到国际政局、小到某个人生活的事项施加影响。
这个可视化系统是不是觉得很熟悉？
从这个维度考虑，人类的活动大概就分为获取信息、思考决策和执行三个步骤。
全世界的所有资源，比如食物、能源，都在智能系统掌控的全自动化工厂下运行，也不需要我们的操心。社会在智能系统的安排下，变得井井有条。 我们一出生，人工智能系统就会根据我们的基因选择了最优的成长路径。 我们会阅读最合适的读物、观看最合适的娱乐作品。衣食住行也都不用操心，全被安排得妥当。 到了适婚的年龄，智能系统会推荐最匹配的情侣，无论怎么算，我们的性格和其它个人条件都跟对方最搭。 智能系统知道怎样让每个人开心，他会定时定量地给我们一些刺激。有时候是直接吃药，有时候是看一段有趣的视频，有时候是推荐给我们几个好玩的朋友。 所有的痛苦都被抹杀。在这个乌托邦里我们只享受快乐。 总之，每个人的一生都会高高兴兴地度过。根据智能系统的测算，这个时代的人类，在整个历史上都是最幸福的。
看似美好，但像猪一样被圈养起来，会是我们想要的未来吗？
这样的未来并不是臆想出来的。在《必然》里，凯文·凯利提到，所有的集体智能和机器，都会融合为一个被他称为「Holos」的整体。这个整体，目前尚属不完美的阶段，以互联网的形态覆盖着 510 亿公顷的土地、触及 150 亿的机器，占据 40 亿人类的心智，消耗地球 5% 的电能。
不过，跟凯文·凯利乐观的预测不同（他认为未来我们会跟这样的人工智能生态形成良好的关系），我觉得一旦人类活动几乎都移交给人工智能来完成了，那很快人类也就丧失价值，成为被照顾、被抚养的对象了。
最近有两部剧都特别火，一部是《西部世界》，另一部是《黑镜》。
我很喜欢前者的剧情，探讨人与即将觉醒的机器人之间的纠葛。
但后者描述的那些黑色幽默，由于万物互联的网络、完善的大数据或者先进的人工智能引发的种种危机，却更有可能成为现实。
而且是马不停蹄正在接近我们的现实。（以上内容摘引自刘飞《相比《西部世界》，《黑镜》更有可能是我们的未来》）
《一千五百万的价值》的三层讽刺
作者：紫菀
来源：豆瓣（部分有删节）
电影的主题是对某些东西有所探讨的，如社会，如人性，或者在常规的我们都习以为常的事物面前往前走一步看看，哎，会变成什么样子。《黑镜》第二集《一千五百万的价值》就是这样一部剧，虽然严格意义上来说它是一部电视剧。我可以臆想的是，该剧的编剧一定是波兹曼的《娱乐至死》的死忠粉丝。整一集就是对它的阐释，和体现。因此整集看下来，我仿佛看到了娱乐至死+1984+楚门的世界的影子。
关于这部剧有很多可以谈的。窃以为这可以是一个很好的文化研究的样本。而我想谈的是只是《一千五百万的价值》的三层讽刺。
第一层讽刺
第一层讽刺体现在这部剧本身。剧情设定在一个完全电子化的世界里，每个人住在一个四面环绕的电视墙小格子里，底层人们靠踏自行车来挣取虚拟的货币。吃喝拉撒全都靠它。人们唯一的消遣，或者说生活除了正常的需要以外，人们的一切时间就是在看电视上，和在虚拟世界里打理自己的形象和升级系统。《一千五百的价值》其中探讨的一点就是，当我们的生活被电视被广告被娱乐完全掌控的时候，我们会怎么样。《1984》里是被老大哥所掌控的世界，而《一千五百万的价值》里则是被无形的娱乐广告电视商业所操控的世界。你活在这样的一个巨型电视墙下，你逃无可逃，避无可避。电视里一个我认为很巧妙的一个小细节就是，当男主角因为没有了虚拟货币，不能跳过那四面的广告，想从小格子里逃出去的时候，大屏幕上显示一句“广告时间不得外出”。电视巨头掌控着人们的生活，你只能接收它给你的信息。电视巨头还控制着人们的上行途径。你要怎样才能脱离那每天反复蹬自行车的日子？参加选秀，胜出成为人上人。而这一切只在乎你有没有卖点。为了卖点，他们可以把一个只想唱歌的女生哄骗成一个av女星。而且我觉得很讽刺的一个是，电视里头的娱乐节目《折磨真人秀》里肆无忌惮地对胖人的仇视和折磨，难道不是对我们社会所崇尚的审美观的一个放大化表达吗？
第二层讽刺
这个要从我们的男主角说起。男主角倾家荡产帮助自己喜爱的女生去参加达人秀节目后，女主角却被弄成了一个av女星，男主角伤心欲绝痛不欲生。当男主角揣着一片三角形的碎玻璃去参加达人秀节目时，我还以为他会杀掉那些评委，或者血刃赛场，以自己的鲜血控诉这个操蛋的社会和现实，以唤醒这些愚昧的民众明了这个被操控的现实。我以为电影会到这里就结束。
但是不是，当我们的男主角情绪激烈声泪俱下地发表完那番控诉现实的话以后，达人秀的评委说，这真是一场精彩的表演。注意是表演。然后虚拟的观众席上爆发出一阵阵掌声和喝彩声。当你说出了这个社会的真相，希望唤醒那些还处在愚昧当中的人们的时候，他们却以为这只是你另一种新奇的表演模式。这就是《娱乐至死》里面所说的：“我们的问题不在于电视为我们展示具有娱乐性的内容，而在于所有的内容都以娱乐的方式表现出来。这就完全是另一回事了。”因此对话无果，所有严肃的控诉被消解为一种娱乐的表达方式。
对于这样的一个结果，显然是男主角所没有预想到的。达人秀评委某电视台高层答应给他一个职位，让他到他的电视台以他这种表演方式表演脱口秀。男主角接受了。显然他不是一个坚决的信仰者，在这样的诱惑面前，他做出了自己的选择。
我们没有人可以要求他去做一个牺牲者，特别是在这样的牺牲之后，真的能改变什么还存在疑问的时候。但是我只能讲，编剧的这个处理，让我无比叹服。
第三层讽刺
第三层讽刺是什么？是由你和我等各位看官完成的。当我们在看完剧之后，到处吹嘘这部剧有多牛逼有多神作，它怎么怎么反映了消费主义娱乐至死之后之后，你转身继续去刷微薄偷人家的菜打游戏看综艺节目看得哈哈大笑。你以为你看懂了这部剧，却不知道你自己却身处那部剧所阐述的一个逻辑中，你被什么控制着而你却不自知。这言外之意的讽刺，没有什么能比这讽刺更多的了。
《一千五百万的价值》：乌合之众的缴械
作者：钻石狼
《一千五百万的价值》最对我的胃口，这简直就是对当今社会各种媒体改变个人意识的科幻寓言版。
故事中，人们被囚禁在狭窄的格子房里，四处都是屏幕，各种达人秀、梦想秀的煽情广告在屏幕上不停地闪烁的时候，晋级者的欢天喜地、台下观众的集体无意识、NB+SB评委的犀利妙评，再配上触动泪点，挑逗情绪的音乐，这些渲染一步登天的戏码，吸引了多少痴情的男男女女纷纷投入怀抱。
睁着一双朦胧大眼的男主人公便是其中一个曾经有梦的屌丝，跟随哥哥的脚步，踏入选秀训练营，为了换取积分，不停地踩着单车。因为哥哥过劳死，继承了他哥哥的一千五百万积分，这飞来横财一下子让他变得无所适从。
生活在他的眼中变得无意义起来。所有的踩单车，只是为了满足吃喝拉撒，面对主动示好的女屌丝，他也装作无动于衷。直到那个长得纯美又有着一副夜莺一般嗓子的女神出现，他的心才重新燃起了欲火。为了能够制造机会接近女神，他毫不犹豫地把自己的全部积分奉献了出来。带着女神从地底来到了选秀场，可怜的是屌丝看似大义凛然、倾家荡产的付出在物欲横流的花花世界之中，实在如一勺之于沧海，太微不足道，所以最后女神的背叛，也在意料之中。在童话故事里，受伤的屌丝总会逆袭，奋发的屌丝开始卧薪尝胆，当他站上舞台，拿着玻璃碎片讲出那段振奋人心的台词的时候，我以为，故事在这里结束也是可以的，不幸的是，导演把我们最后的希望也给打碎。急转直下的情节，让人不由得佩服，我猜中了开始却没猜到这样的结局。
一整集都是对当今社会的明喻和反讽。逼仄的格子间就是如今蜗居的真实写照，枯燥的单车积分模式，暗示着人们通过简单、重复、无趣、无止境的劳作，来换取赖以为生的各种必需品，四处包围着的屏幕则讽刺这个社交媒体泛滥的年代，在选秀现场不再是实实在在的观众，而是人们在社交网络中的虚拟形象，则讽刺人们已经成了各种终端的奴隶，不敢以真面目示人，就像现在有些人拍张照片要P个百八十遍才敢上传一样，还有那个想要跳过广告就要付钱的细节，则让我毫不费力地联想到了如今诸多视频网站要想跳过广告就要注册会员的伎俩。
位居底层的乌合之众，为了获得基本的需求，就要付出劳动，正是这些庸众的默默奉献，才让这个庞大的社会系统有条不紊地运行。想要向上爬，他们需要一个舞台，或者这个舞台更像是一个刑场，把梦想献祭在上，在万千人面前被肢解。如果不妥协，就要被重新打入地狱；如果妥协，便中了这个世界的圈套。
那些巧舌如簧的评委，等同于这个社会的既得利益者，他们可以熟练地表演，可以随意地转换面孔，可以为了标新立异彰显自己的高见而毁掉他人的一生，可以一秒钟之内转败为胜。他们觉得这个世界被自己掌控，却让我想起了曾经看过的一个关于招聘监狱设计师的故事，负责招聘的人，以为自己是主人，殊不知，依旧处于更高一级的监狱之中而已。屌丝男在最后激情四射的演说的里面说的一样，你以为你成功了，其实，你只是拥有了更大的屏幕，更多的装备而已，那依旧不是真实的你。面对诱惑，究竟有没有人能够抵挡地住，导演给了我们一个悲观的结局。原本让人同情的屌丝男在没有喝麻醉饮料的情况下跟女神做了同样的选择，就算当狗，也要当体面的狗。或许，这才是人性中的原罪。
看过之后，我开始反省，如今的生活是否有意义。其实如今的各种信息终端都是BLACKMIRROR，我们每天被这些东西包围着，上班的时候，被困在格子间里，对着电脑四处游荡，下班的时候，宅在家里，被手机、电视、电脑继续包围着。沉迷于虚拟无法触碰的应用，堕落于浩瀚但芜杂的各色信息流之中。不断有人宣布要注销校内、FACEBOOK，却都一个个悄无声息地回来了。
人们被购物广告鼓动着消费，被时尚杂志嘲笑着追赶潮流，走了很远，却发现灵魂还停在原地。这些世俗之物，承受不起高贵的灵魂。我们依旧往往乐此不疲。透支，透支，买回一堆垃圾，然后为了还钱，去拼命，陷入老鼠赛跑的境地，到头来发现始终没有向前挪动一步。
有一天，世界大同，人们不再有这么多欲望，不再有这么多的不满足，每个人都可以去做自己想做的事情，不必伟大，不必成功，只是幸福。不过，这只是一个幻想的乌托邦，就像史密斯在《黑客帝国》里面说的一样，曾经有一个完美模式，人类却大批死去。生而有罪的人们，不配享受伊甸园里面的欢乐。
BLACK MIRROR ，照出的是苍白的内心。
一、中国为家园，人类为本源，宇宙为根源；
二、关注人、社会和大自然，崇尚天人合一；
三、支持理想人生，倡德才兼备、质朴无华；
四、居仁由义，乐善不倦，溯游儒释道之源；
五、惟精惟一，允执厥中，赤诚弘毅化忧患。
长按图片，识别二维码，一键加关注。
