启示录：人类可能在这６种技术灾难中灭亡
资本实验室·今日风险观察
聚焦前沿科技创新与传统产业升级
| 编译：王进 原作者：Luke Dormehl
现在是2017年，科学技术发展得相当棒。它帮助我们活得更久、更健康，有更多的教育和娱乐，而人工智能和基因编辑等工具则为解决重大问题提供了新的途径和方法。
但是，并非所有技术都会带来好的结果。正如法国哲学家保罗·维利里奥所说，“船的发明者也是沉船的发明者”。换而言之，无论技术有多好，总有一些事情可能会出错。
尽管听起来像作家迈克尔·克莱顿（美国著名畅销书作家和影视导演、制片人，著有《火车大劫案》、《侏罗纪公园》、《刚果惊魂》等多部著名小说）的科幻惊悚小说中的场景，以下六种技术真有可能摧毁我们所熟知的生活。
超级智能和技术奇点的到来是基于以下假设：人工智能有一天会拥有比我们人类更强大的能力。与受生物进化限制的人类相比，机器能够以不断增长的速度来改进和重新设计自己，并变得越来越聪明。在这一点上，人类社会将不可避免地发生巨大的变化，而这些变化有可能给人类带来生存风险。
我们很难预测比人类更聪明的实体会干什么，但最终结果可能是机器消灭人类，就像电影《终结者》中的场景一样，人类被“天网”所奴役。
再往前思考，如果把人工智能和纳米技术结合起来，我们又可能会得到什么？
“灰蛊”（Grey Goo）一词来源于纳米技术之父埃里克·德雷克斯勒(K.Eric Drexler)的代表作《创造的发动机》（Engines of Creation），而这个词很少与积极的一面相联系。
所谓“灰蛊”指的是一种由纳米技术所带来的灾难性事件，即有吞噬物质能力且能够自我复制的纳米机械群失去了控制，在无限制的自我复制过程中会不断吞噬星球上所有的物质，结果就是整个星球乃至星系都被纳米机器人所覆盖，并且变成一片灰色的（Grey）荒漠。
在《创造的发动机》一书中，埃里克·德雷克斯勒写道：“想象一下，一个漂浮在一瓶化学试剂中的复制体，不停地复制自己……，第一个复制体在1000秒内完成一次自我复制，这两个复制体在接下来的1000秒再复制2个，4个再复制4个，8个再复制8个。10个小时后，新的复制体不是36个，而是超过680亿个。不到一天，它们的重量会达到一吨；不到两天，他们的重量将超过地球；在接下来的四个小时内，它们的重量将超过太阳和所有行星的总合——如果这瓶化学试剂不会干涸。“
这个想法是如此的令人震惊！这促使英国查尔斯王子呼吁皇家学会进行研究。虽然现在，自复制的纳米机器技术还不存在。但是明天呢，总会有明天！
日益增长的人口压力与具有争议的自然资源获取方式（例如水力压裂技术的采用），可能会加剧灾难的发生。尽管全球都在推广使用可再生能源，科学家对殖民其他行星也越来越感兴趣，但以某种方式耗尽自然矿产资源肯定是一个值得警惕的风险因素。
网络攻击破坏的不仅仅是实体，还会造成政府动荡、经济崩溃和社会混乱。从近年来我们所经历的大规模黑客攻击中，可以清楚地看到规模化的协同黑客攻击是多么地具有破坏性。
网络攻击可能会污染水厂、关闭能源，导致各种混乱；攻击也可能导致敏感而机密的信息泄露，从股市、银行账户上抹去数万亿美元，或者摧毁通讯网络。
加之人类抢劫与掠夺的“恶”的一面，一旦社会道德层面的约束消失，这时并不需要通过一个恶棍持有威胁世界的核武器来索要赎金，就可以导致全球难以想象的混乱。
随着诸如瑞士的大型强子对撞机（LHC）和纽约的相对论重离子对撞机（RHIC）等项目的开展，科学家对解开深层次的物理奥秘非常有兴趣，包括物质、暗能量及其他高能实验。
不需要各种惊悚小说家的描述，这也足以引起人们对末日场景的关注，例如有意或无意的人造黑洞、不稳定的“奇怪的”粒子、假真空状态，或者其它什么东西。
发生这种情况的可能性是存在的，尽管可能性非常非常小。英国牛津大学物理系教授Frank Close将这个情景比喻为“连续三周获得彩票大奖”的可能性。他认为，问题在于人们相信自己有可能连续三周获得彩票大奖。
遗憾的是，从技术角度来看，高科技武器清单上已经有了“核武器”的大名。由于拥有大量核武器，人类目前有能力结束地球上几乎所有的生命。目前，拥有核武器最多的是美国和俄罗斯，两国共拥有大约15000枚核弹头。
最近，战争中正在上升的另一个威胁是全自动武器系统的出现。2017年，包括埃隆·马斯克和穆斯塔法·苏莱曼（谷歌人工智能公司DeepMind的联合创始人）在内的116名世界领先的机器人和人工智能公司的领导人联名发布了一封公开信，向联合国呼吁: 禁止发展致命性自动化武器,并阻止高科技军备竞赛。他们认为致命性自动化武器可能会导致第三次战争革命。一旦投入使用，它会以远超我们预料的速度改变战争，使得武装冲突迅速升级到远超以往的规模。