ChatGPT是如何劫持民主进程（外专观点）

纽时网安寻路人

编者按

关于人工智能安全和监管，本公号发布过以下文章：

今天和大家分享的是《纽约时报》新近刊登的一篇关于ChatGPT的文章。非常有意思。翻译仅供研究之用，请勿商业利用。

几周前刚刚推出的ChatGPT已经威胁要颠覆我们起草日常通信的方式，如电子邮件、大学论文和无数其他形式的写作。

由OpenAI公司创建的ChatGPT是一个聊天机器人，可以自动回应书面提示，其方式有时非常接近于人类。

但是，尽管人们对人类在诗歌和情景喜剧剧本等形式中被机器取代的可能性感到不安，但一个更大的威胁正在出现：人工智能在民主进程中取代了人类——不是通过投票，而是通过游说。

ChatGPT可以自动编写在监管过程中提交的评论。它可以写信给编辑，在当地报纸上发表。它可以每天对新闻文章、博客条目和社交媒体帖子进行数百万次的评论。它可以模仿俄罗斯互联网研究机构在试图影响我们2016年选举时所做的工作，但没有该机构所报告的数百万美元的预算和数百名员工。

自动生成的评论并不是一个新问题。一段时间以来，我们一直在与机器人，即自动发布内容的机器作斗争。五年前，据信至少有一百万条自动起草的评论被提交给联邦通信委员会，涉及关于网络中立性的拟议法规。2019年，一名哈佛大学本科生作为测试，使用文本生成程序提交了1001条评论，以回应政府就医疗补助问题征求公众意见的要求。那时，提交意见只是一个通过压倒性数字的游戏。

各平台在消除"协调的不真实行为"方面已经做得更好。例如，Facebook每年都会删除超过10亿个虚假账户。但这种信息只是一个开始。与其用支持性的电子邮件充斥立法者的收件箱，或用合成的语音电话支配国会总机，一个具有ChatGPT的复杂性但经过相关数据训练的人工智能系统可以有选择地针对关键立法者和影响者，找出决策系统中最薄弱的环节，并通过直接沟通、公共关系活动、利益交易或其他杠杆点，并无情地利用它们。

当我们人类做这些事情时，我们称之为游说。在这一领域的成功代理人将精确的信息写作与聪明的目标定位策略相结合。现在，阻止配备ChatGPT的说客执行类似于无人机战役的游说策略的唯一原因，是缺乏精确的目标。但实际上，A.I.也可以提供这方面的技术。

一个能够理解政治网络的系统，如果与ChatGPT的文本生成能力相匹配，可以识别出对某一特定政策领域——例如公司税收或军事支出——具有最大影响力的国会议员。就像人类游说者一样，这样的系统可以针对坐在控制相关政策的委员会中的未决定的代表，然后在法案进入议会投票时将资源集中在多数党的成员身上。

一旦确定了要针对的个人和游说策略，像ChatGPT这样的人工智能聊天机器人就可以制作书面信息，用于信件、评论——任何有用的文字。人类说客也可以直接针对这些人。重要的是两者的结合。实际上，编辑和社交媒体的评论只能让你走到这么远，同时，知道哪些立法者是目标本身并不足够。

这种了解和瞄准网络中的行为者的能力将为人工智能黑客创造一个工具，以难以置信的速度和范围利用社会、经济和政治系统的漏洞。立法系统将是一个特别的目标，因为攻击决策系统的动机是如此强烈，因为训练这种系统的数据是如此广泛可用，因为人工智能的使用可能很难被发现——特别是如果它被战略性地用来指导人类行为者。

训练这种战略目标系统所需的数据只会随着时间的推移而增加。开放的社会通常会使其民主进程成为公共记录，而且大多数立法者都渴望——至少在表现上是如此——接受并回应那些似乎来自其选民的信息。

也许人工智能系统可以发现哪些国会议员对领导层有很大的影响力，但他们的公众形象仍然很低，对他们的注意力只有适度的竞争。然后，它可以准确地找出对该议员的公共立场有最大影响的超级公关公司或公共利益集团。也许，它甚至可以校准影响该组织所需的捐款规模，或直接向其成员发布有针对性的在线广告，传递战略信息。对于每个政策目标，都有合适的受众；对于每个受众，都有合适的信息在合适的时间。

与K街的高价游说公司已经构成的威胁相比，人工智能驱动的游说者的威胁更大，因为他们有可能加速。人类游说者依靠几十年的经验来寻找战略解决方案，以实现政策结果。这种专业知识是有限的，因此也是昂贵的。

理论上，人工智能可以更快、更便宜地做同样的事情。在一个公众舆论和媒体叙事可能迅速变得根深蒂固的生态系统中，出场速度是一个巨大的优势，就像在应对混乱的世界事件时足够灵活的转变。

此外，人工智能的灵活性可以帮助同时实现对许多政策和管辖区的影响。想象一下，一个由人工智能协助的游说公司可以尝试在美国国会的每一项法案中进行立法，甚至在所有州的立法机构中进行立法。游说公司往往只在一个州内工作，因为在法律、程序和政治结构方面存在着如此复杂的变化。在人工智能的帮助下，浏览这些变化，可能会变得更容易跨越政治边界行使权力。

正如教师将不得不根据ChatGPT改变他们给学生的考试和论文作业方式一样，政府将不得不改变他们与说客的关系。

可以肯定的是，这项技术在民主领域可能也有好处；最大的好处是可及性。不是每个人都能负担得起有经验的说客，但人工智能系统的软件接口可以提供给任何人。如果我们幸运的话，也许这种产生策略的人工智能可以通过给无权无势的人提供这种游说的权力来重振民主的民主化进程。

然而，最大和最强大的机构可能会最成功地使用任何人工智能游说技术。毕竟，执行最好的游说策略仍然需要内部人员——能够在立法机构的大厅里行走的人——和金钱。游说不仅仅是在正确的时间向正确的人提供正确的信息；它也是在正确的时间向正确的人提供金钱。虽然人工智能聊天机器人可以确定谁应该接受这些竞选捐款，但在可预见的未来，人类将需要提供现金。因此，虽然无法预测充满人工智能说客的未来会是什么样子，但它可能会使已经有影响力和实力的人变得更加强大。

作者是：

Nathan E. Sanders是隶属于哈佛大学伯克曼-克莱因中心的数据科学家。

Bruce Schneier是一位安全技术专家和哈佛大学肯尼迪学院的讲师。他的新书是《黑客的思想：强者如何弯曲社会的规则，以及如何将其弯曲回来》。

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

人脸识别系列文章：

内容安全方面的文章如下：

地缘政治与跨国科技公司运营之间的互动影响：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

关于健康医疗数据方面的文章有：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

关于《数据出境安全评估办法》的系列解读文章

美国方面的个人信息保护立法的文章：

关于个人信息安全影响评估的文章如下：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于欧盟技术主权相关举措的翻译和分析：

关于我国《个人信息保护法》的文章：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

本公号发表过的关于数据要素治理的文章有：

关于中美与国家安全相关的审查机制，本公号发布过以下文章：

关于个人数据和域外国家安全审查之间的关系：

围绕供应链安全，本公众号曾发表文章：

围绕着出口管制，本公众号曾发表文章：

本公号发表过的关于数据执法跨境调取的相关文章：

关于业务场景中数据跨境流动的文章如下：

通过技术增强对个人信息的保护的文章包括：

关于保护网络和信息系统安全的相关文章包括：

ChatGPT是如何劫持民主进程（外专观点）

美国电信行业涉及外国参与的安全审查（一）：基本制度介绍

美国电信行业涉及外国参与的安全审查（二）：国际性的第214节授权

美国电信行业涉及外国参与的安全审查（三）：建立外国参与安全审查的行政令

美国电信行业涉及外国参与的安全审查（四）：FCC对中国企业的陈述理由令