【科技评论】人工智能将成为人类终结者？
著名科学家史蒂芬·霍金12月2日表示，创造“能思考”的机器的努力将威胁人类自身生存。他认为：“对完全人工智能的发展可能会招致人类历史的终结。”
史蒂芬·霍金
在上世纪60年代上映的科幻电影《2001太空漫游》中，超级电脑HAL9000凭借自己的“智慧”谋杀了四位宇航员。半个世纪过去，霍金的预言再次引发人们对人工智能未来发展前景的深思。
霍金预言：依赖人工智能，担忧人工智能
在被问及帮助他说话的电脑系统进行升级的相关问题时，霍金作出如此论断。
由于患有肌萎缩侧索硬化症，霍金几乎全身瘫痪。这位著名的理论物理学家现在依赖英特尔公司为他设计的电脑系统与外界进行交流——这一系统涉及初级人工智能技术。
近日，该系统进行了更新，新系统能够推测他想表达的语言词汇，这使他的打字速度提升了两倍，发邮件的速度提升了十倍。霍金表示，新系统可以帮助他更好地进行演讲、撰写论文和出书，当然也可以帮助他更容易地与亲人和朋友交流。“药物未能使我康复，因此我现在依赖技术与人沟通和生活。技术正在使更多的事变为可能——没有它，我无法在这里与你们交流。”
借助人工智能“改变人生”的霍金，却对这一技术的未来前景表示担忧。
霍金认为，初级人工智能的发展迄今已被证明是非常有用的，但是他对创造出能够与人类相提并论甚至超越人类的人工智能的后果十分忧虑。
在接受英国广播公司采访时，霍金表示，人工智能可能会自发地开始进化，并以前所未有的速度重新设计自己。受限于缓慢的生物进化过程的人类，无法与人工智能相比，而且会被它们超越。
专家争锋：悲观派与乐天派各执一词
霍金并不是唯一一个对人工智能表示担忧的人。
从短期来看，有一种忧虑是，目前有能力完成人类所承担的任务的智能机器将迅速摧毁数以百万计的工作岗位。从长期来看，Space X和特斯拉汽车的首席执行官伊隆·马斯克曾警告说，人工智能是对人类生存最大的威胁。
不过，乐天派也大有人在。
英国著名人工智能科学家、智能机器人Cleverbot的发明者罗洛·卡朋特表示，他相信人类在相当长一段时间内将保持对人工智能技术的掌控，而且未来将实现利用人工智能技术解决众多世界性难题。
Cleverbot能够从它以往的谈话中进行学习，并在图灵测试中斩获高分——相当一部分人被它迷惑，认为自己在与真人聊天。
卡朋特说，人类距离设计出完全人工智能所需要的计算能力或算法还有很长的路要走，但是他相信这些将在未来几十年中得以实现。
“我们并不确定如果一种机器超越了我们自身的智慧时会发生什么：我们不知道我们是会永久地受益于它们，还是被它们忽略并边缘化，抑或是理所当然地被它们消灭掉。”
但是卡朋特断言，人工智能将成为一种积极的力量。
网友热议：“终结论”会不会由科幻变为现实？
英国广播公司和《卫报》对霍金的论断进行报道后，立即引起上千网友的留言评论。
霍金的忧虑引发了很多网友的共鸣。网友本·艾莎达认为，霍金所说的结果很有可能发生，“当亚马逊和脸谱网都有了自我意识时，世界将变得异常诡异。”有网友表示，人工智能正在一步一步接管世界，就算觉察到这不太对劲，人类仍无法抵御对人工智能的研究和发展，因为它们给人类带来了太多好处。
也有人认为，“终结论”与科幻电影的情节无异，并没有事实依据。网友迈克尔·约翰逊留言说，对人工智能的忧虑恰恰反映了人性的特征。他认为，人类一厢情愿地将自己的动机和情感赋予人工智能，但在现实生活中，没有理由去怀疑这些机器拥有和人类同样的企图。还有网友提出，即使人工智能在很多方面超越人类，它们仍然需要以人类为中介与物理世界进行交互。
对这一话题的探讨中不乏辩证思维。网友罗伯特·罗西恩认为，人工智能的潜在危险一半是夸张，一半是现实。“一个设计拙劣或可以自发进化的人工智能机器确实会带来致命危险，而恰当设计的人工智能机器应该是绝对安全的。”另一位网友也把人工智能看作“双刃剑”，他评论道，人工智能就像火一样，有潜力成为一个好工具，却不是一个好主人——明智地使用它，它将造福良多，一旦脱离人类的掌控，后果将不堪设想。
（来源:科技日报，作者:记者 刘园园）
1、声震九天——纪念我国原子弹爆炸50周年（20141015）
2、二十大未来最有潜力的新材料（绝对经典值得收藏）（20141027）
3、细数美军正在研究的颠覆性技术（20141020）
4、新技术炒作周期图：大数据顶峰滑落，人工智能、神经技术崛起（20141006）
5、中美科研经费的对比和理解（20141017）
6、图解博士学位（20141002）
7、科研毁一生，基础穷三代——生科女的漫画神吐槽（20141019）
8、科技部：科技成果转化新政明年推广个人最高提成 99%（20141027）
9、2014年度科技创新人物20位候选人出炉（20141030）
10、频繁量化考评或严重阻碍科技进步（20141031）