【进度】AI 都会瞪你了，下一步会做什么！？

---

本文转载自：中科院物理所，文：差评君 ，来源：差评

---

有没有听说过 “ 机器人三定律”？

对，就是科幻作家阿西莫夫的《我，机器人》这本科幻集里面的机器人守则~

根据《我，机器人》改编的同名电影

在小说中，每个机器人都必须遵守以下三个定律：

一、机器人不得伤害人，也不得见人受到伤害而袖手旁观。

二、机器人应服从人的一切命令，但不得违反第一定律。

三、机器人应保护自身的安全，但不得违反第一、第二定律。

后来阿西莫夫还加了第零定律：

机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

虽然这几条定律一直被科幻迷们奉为机器人圣经，乍一看也非常有道理，不过其实这里面埋了很多悖论。

譬如如果一个机器人看到有两个人在打架，它该怎么做呢？帮也不是，不帮也不是。

何况，以现在的机器人技术，貌似离着理解三定律的水平远着呢！

一个喂食机械臂

不过，科技的发展一日千里，不知道明天会有什么爆炸新闻出来。

AlphaGo Zero 自学成才，经过三天的训练就打败了击败李世石的 AlphaGo Lee 版本，四十天打败击败柯洁的 AlphaGo Master 版本。

从李世石被打败的不可置信，到对 AlphaGo 升级换代也见怪不怪，大众只知道算法在不断地被刷新，越来越强，在人类智力最后的堡垒——围棋上，人再也耍不过机器了。

相对于人工智能的飞速发展，相关的标准法规却差的很远，可以说近乎没有~

举个例子，前几天小编看到个新闻，说已经有初创公司制造了《战狼2》里面的杀人无人机，可携带半自动化步枪和榴弹发射器进行定向打击，它获得了美国国防部创新奖，国际上好多军队也对它十分感兴趣~

怪不得一众科技大佬都跳出来警告大家：AI可能会毁了人类！

马斯克更是说发展 AI 就是在召唤恶魔，必须从国家和国际层面上监管人工智能领域~

虽然扎克伯格就 AI 威胁论跟马斯克撕了好几回，不过某些标准必须要被建立确实说到人心坎里了~

这两天，终于有一个权威的组织发布了世界上第一款人工智能伦理标准！

这个组织就是 IEEE ！工学学术圈的人们肯定对它十分熟悉~ 

多少莘莘学子就靠着它旗下期刊的录用通知书得以毕业。不说了，都是泪

这个 IEEE 全称是 Institute of Electrical and Electronics Engineers，也就是电气电子工程学会。

全世界参与这个协会的会员超过了160个国家，40万科研人员，它不仅拥有全世界电子和电气还有计算机科学领域30%的文献，另外它还制定了超过900个现行工业标准，具有电气领域最专业的标准工作委员会~

著名的网络标准802系列

标准是个好东西，有了标准，全世界各个国家的东西才能通用。

因此，这么个组织公布了人工智能标准，想必大家是最服的~

IEEE 成立了一个“ The IEEE Global Initiative ”项目。

这个项目旨在为人工智能和智能系统( AI/AS )制定道德原则，这些原则表现为：

一、体现人权的最高理想。     

二、优先考虑对人类和自然环境的最大利益。

三、人工智能和智能系统发展成为社会技术系统，减少风险和负面影响。

接下来，IEEE 协会将会集结领域内各种专家在以下几个方面进行标准制定，并且会随着科技发展不断补充不断完善~

在人权方面，人类的福祉，权利，和自由是 AI/AS 发展的核心。机器人必须要服务于人，没有其他形式！

国内首例机器人伤人元凶↑↑

同时要确保人工智能在工业和农业领域的繁荣做出积极贡献~

要界定好 AI 是否有判别，收集，调用，管理甚至使用人类个人隐私的权限。

要制定自动化武器系统的使用和制造原则，坚决反对这些武器的滥用。

还有要考虑人工智能对全球经济和生态系统的影响。

电影《 全球风暴 》截图（ 全球风暴讲述了一个控制地球天气的人工智能失控对地球造成了灭顶之灾的故事 ）

IEEE 还会制定自动和半自动系统的故障安全设计标准，特斯拉们带起的自动驾驶风潮也终于有了一套标准，以后自动驾驶事故的判定应该会更加容易吧~

这些标准虽然没有什么法律效应，但是这也算是一种人类对人工智能发展的反思。

一个新生事物是需要野蛮生长的，但凡事总要有规矩。

不然现在各大巨头公司还有各国分立各做各的，以后可能不通用不说，要是哪家一个不小心搞出来个天网，岂不是大家要一起坐核弹上天了？

https://v.qq.com/txp/iframe/player.html?vid=i0368001dfk&width=500&height=375&auto=0

看完你会若有所思（这么虐，早晚要还的）

欢迎大家评论

《 召 集 令 》

身怀学术绝技的你速速前来！

1，有学术水准：一定的专业学术水准是必须的！

2，有独到思想：具深度，广度，锐度者为最佳！

3，内容范畴：自然科学，社会科学等等不设限！

4，资讯或翻译类文章：符合上述条件的均可以。

学术plus咨询/投稿邮箱

[e-mail]

---

    声明：版权归原作者所有。文章观点不代表本机构立场。

---

• 《中国电子科学研究院学报》欢迎各位专家、学者赐稿！投稿链接 http://kjpl.cbpt.cnki.net

• 学报电话：[phone]

• 学报邮箱：[e-mail]