ChatGPT的力量释放在军事技术上(附白皮书）

在科技企业家埃隆·马斯克（Elon Musk）因收购Twitter而引发争议之前，他曾警告说，人工智能（AI）可以超越人类，甚至超越人类文明。马斯克并不是唯一一个担心机器崛起的人。在他去世之前，物理学家斯蒂芬霍金也曾不祥地警告说，全人工智能的发展可能意味着人类的终结。

“告诉我AMRAAM导弹的最新发展如何提高其性能”

ChatGPT

可怕的警告表明，结果类似于《终结者》或《黑客帝国》等科幻电影，武装机器会攻击它们的主人。然而，正如马斯克所指出的那样，更大的危险是人工智能可以抢走每个人的工作，因为它可以比人类做得更好。这种危险可以通过最近发布的称为聊天生成预训练变压器或ChatGPT的软件来释放。这实际上听起来像是一个相当无害的应用程序。但真的是这样吗？

“这是一个由OpenAI开发的聊天机器人应用程序，建立在该组织的GPT-3.5系列大型语言模型之上，”Pund-IT的技术分析师Charles King解释说。“ChatGPT 通过监督和强化学习技术进行了微调，使其能够在众多知识领域开发详细的响应并阐明答案。”

该原型于上个月刚刚推出，该应用程序的类似人类的反应引发了人们的警报，即ChatGPT是否可能被用来构建或编排复杂的自动网络钓鱼诈骗，以欺骗消费者和企业。

“同样的担忧可能适用于政府机构，包括处理国防和国家安全问题的团体，但并不认为ChatGPT是一个严重的威胁。

不仅仅是机械土耳其人

机器可以像人一样行动的想法远非一个新概念。在18世纪，“机械土耳其人”——一种可以击败当时大多数棋手的机械下棋机器，在欧洲的宫廷中展出，据报道甚至给奥地利皇后玛丽亚·特蕾莎留下了深刻的印象。它被认为是时代的奇迹，并且肯定比那个时代的技术所允许的更先进。

那是因为它实际上是一个骗局，因为它有一个人类国际象棋大师躲在里面操作机器。现在看来，人工智能已经接近到机器足够好，看起来几乎是人类的地步。

”Enderle Group的技术分析师Rob Enderle说：“开源聊天机器人可以欺骗用户，让用户认为它是一个人。从积极的方面来说，它可以用来用比人更有效的工具取代呼叫中心，解决严重的劳动力短缺问题，并确保相关投资回报率更高。但是，它可以用于邪恶的目的。

ChatGPT可以操纵人们做违背他们最大利益的事情，”Enderle补充道。“欺诈、网络钓鱼、选举操纵和借口（身份盗窃）只是这个工具可以做得非常好的一些坏事。它本身可以成为一种人工智能武器，将原本忠诚的红宝石变成违背国家和公司最佳利益的代理人。像任何有能力的工具一样，这个工具既不是固有的善也不是恶，但可以有效地用于两者。

“告诉我R-37M导弹的能力以及它是否对北约飞机构成威胁”

代码编写

ChatGPT还因其破解军事代码的能力而著称，而是编写软件代码。虽然目前的结果好坏参半，但可能只会有所改善。

马里兰大学计算机科学副教授Jim Purtilo建议：“生成代码是容易的部分，但首先知道什么是正确的程序 - 这完全是另一回事。人类在这个市场上仍然具有优势。

这项技术可以为公众创造一个了解人工智能世界的窗口。它实际上是一系列模型，这些模型是基于分析大量先前人类行为来详细描述或规则程序应该如何行为。

“通过研究人们如何识别机器零件的图像，程序也可以非常有效地识别这些零件，更一般地说，诊断某些机器的故障或在社交媒体上回答有关流行趋势的问题也是如此。计算机很有耐心，可以长时间观察系统，组织有关他们发现的数据，然后将他们学到的东西应用到新的环境中。

因此，人工智能的学习能力可能是问题所在。在大多数情况下，该软件可以出于良好的意图使用。当它被用于这些邪恶的目的时，它可能成为一个问题，甚至成为国家安全问题。

“对企业和国家安全的危险是，如果数据可能被对手巧妙地改变或'污染'，导致我们的工具以对对手有用的方式进行训练，在这种情况下标记的技术是最近的一个热门研究领域。

目前，该应用程序并非万无一失，其事实反应目前也参差不齐。

然而，可以应用于ChatGPT的学习技术也提供了提高性能和响应的方法。随着时间的推移，这可能导致ChatGPT机器人变得越来越复杂，难以检测。这令人担忧。

结合武器

最后一个问题是，如果像ChatGPT这样的技术要与可以武装的基于人工智能的系统集成。然而，像大多数人工智能一样，问题仍然在于它的使用方式。

如果用作武器，可能会对世界构成重大风险，尽管如此，它们也有内在的好处，使它们可能非常有价值。最后，有了这样的技术，善恶部分就不是工具的一部分;用户定义它。确保这些工具得到适当和合法的使用应该是比目前更高的优先事项。

最后，小编整理了InstructGPT（ChatGPT的前身）的白皮书,并上传到本号知识星球，识别二维码加入情报学院知识星球社群，内有4000+专业情报资料可供下载并持续更新中。可与众多业内人士互动交流学习，优先获各类信息。现在加入价格感人，续费还享五折优惠。

往期推荐