城市空间中的智能化治理风险——以城市大脑为例 | 公共管理
导 读
“城市大脑”作为新型数字基础设施，近年来在各大城市被广泛应用于城市管理、公共服务等领域。“城市大脑”带有典型的“技治主义”色彩。然而人工智能绝非无所不能，其“知其然而不知其所以然”的技术特性本质上无法与人类智慧通约，却可能在“操作主义”的导向下进一步放大社会中政治经济秩序的不平等。当人类将治理的责任寄托于智能系统，其代价可能是弱化社会成员之间的非正式信任，让渡个人的隐私，从而丧失本地自治的能力。人工智能主导下的数据城市还会重塑居民的心智结构，倒逼出一个监控代替信任、甚至迈向心灵专制的“透明社会”。关于“城市大脑”的理性反思并非意欲鼓吹一种新时代的“卢德主义”，而是期望公众更好地审视技术，并重新发现生机勃勃的城市生活。
城市空间中的智能化治理风险
——以城市大脑为例
作者：曹 钺 陈彦蓉
摘 要
近年来，人工智能逐渐被市场宣传为全知全能的治理术而投入到智慧城市的建设浪潮中。本文聚焦于此话语谱系中最流行的应用“城市大脑”，从技术、社会、主体性三个层次阐释了智能化治理下所隐藏的社会风险。首先，城市大脑依赖的深度学习实际上是一种应用导向型的求解系统，其逻辑与人类智能不可通约，此中的技术缺陷会在城市治理语境下被放大。再者，雅各布斯的城市规划理念有助于反向映衬出智能化治理消解城市非正式联结网络、地方自治能力的危机。最后，人工智能主导下的数据城市或将重塑居民的心智结构，倒逼一个“心灵专制”的透明社会。由此，智能化治理的深层风险恰在于剥夺人类的主体性，使其成为机器心灵的附庸。
关键词 ： 人工智能 城市大脑 城市治理 风险 智能哲学
亚里士多德认为，城邦治理的关键在于限制人口规模，这保证了讯息传递的有效性与居民身份的可甄别性（以排查异客侨民）。此外，王的栖居之所往往建于高台之上，如此便能将城邦全貌尽收眼底，这也暗示了权力、治理与可见性（visibility）之间的密切联系。随着工业革命的兴起，超生态聚集的特大城市（megalopolis）不再被城墙等防御工事所限，而是形成了汇聚信息（电话、广播、电视）或能量（自来水、电力、道路）的交错网络。[1]数字移动技术的嵌入使当代城市发展为资本流、信息流、影像流、文化流、移民流、观光客流等途径的节点，其规模与复杂性对治理的“可见性”提出了前所未有的要求。智慧城市（smart city）正是在上述背景下涌现的技术系统，它整合了数据采集系统（如视频监控、传感器网络、无人机）与数据分析系统（实时预警、控制与决策），并以新一代互联网、大数据分析、物联网、云计算、高级远程通信为代表。[2]
2017年7月国务院颁布《新一代人工智能发展规划》，象征着人工智能技术正式上升至国家发展战略层面。《规划》提出要构建城市智能化基础设施，建设城市大数据平台，建构多元异构数据融合的城市运行管理体系，实现对生态要素的全面感知、系统运行的深度认知。[3]“城市大脑”（city brain）正是目前人工智能浪潮下最热门的技术应用，现已在杭州、深圳、雄安新区、衢州、上海等多个城市和地区投入使用，阿里巴巴、腾讯、百度、华为等科技巨头竞相研发。根据中科院刘锋等人2018年发表在IEEE/CCSWD会议上的论文，该技术系统可被理解为“在城市中枢神经系统（云计算）、城市感官神经系统（物联网）、城市机动神经系统（工业4.0）、城市神经末梢（边缘计算）支持下，通过城市神经元网络实现人与人、人与物、物与物信息交互，并通过云反射弧实现对城市服务的智能回应，从而促进城市各部分有机整合，实现城市智慧进步的新型系统”[4]。
我们可以将城市大脑的总体框架视为两大部分。首先是由安置在各种城市空间中的数字传感器所构成的感知网络，这既包括街道、建筑、照明系统、家庭、学校、公司等固定场所，还涉及移动手机、传感芯片等记录生物体行动轨迹的设备，它们是海量行为数据汇聚的基础。其次是搭载知识推理、概率统计、深度学习、贝叶斯网络等各类算法的智能计算系统，其在云服务器上运行运算，并承诺实现城市感知，优化决策，实施控制，不断反馈城市管理中的漏洞。当前市场宣传中的“城市大脑”已被设想为运用于多元化的城市治理场景，例如政务系统整合各部门数据让老百姓“最多跑一次”；交通部门利用道路摄像头的实时采集与监控，加上算法对交通信号调控的接管，有效缓解交通拥堵问题；健康系统根据身体指标绘制个人监控画像，并匹配、对接合适的医疗资源；安全大脑则致力于及时预警城市公共安全事故，并快速做出应对措施。[5]
商业主义话语下的“城市大脑”被形塑为无所不包的城市治理术，其背后正是对人工智能“拉普拉斯妖”[6]一般的神化。这种技术迷思必需引起警觉，不仅在于它给社会公众制造的眩晕感，更在于技术对社会的具体影响往往被工程学家忽视，甚至连他们自己也无法预测究竟会产生怎样的风险。根据贝克的观点，现代社会中的风险已经脱离了人们直接感知的水平，受害者既看不见也感觉不到那些危害，它们是普遍而不确定的。可见之物在不可见的危险阴影之下，反而构成了更高阶的危险现实。[7]换言之，尽管城市大脑致力于实时预警、管控城市风险，但其自身的存在却可能构成更深层次的风险，而这显然是无法被系统所监测的。学界已经就此展开了面向智慧城市的批判，Lam、Ma对88篇SCI、SSCI论文的归纳总结出当前智慧城市的四大陷阱——系统信息不安全、隐私泄露、信息孤岛与数字鸿沟。[8]麦奎尔则认为，当前的智慧城市叙事多源自异常强大的商业利益，数据处理过程的“黑箱化”难以证明其中立性，终端用户与大数据之间的互动更是不透明的、被少数人所掌控。[9]
就本文而言，我们将聚焦于探讨城市空间智能化治理中的社会风险。首先，从城市大脑中运用最为普遍的深度学习技术入手，解析其潜藏的风险。其次，引入雅各布斯关于“非正式联结”与“多样性城市”的理念，进一步揭示其在城市实际运转中存在的问题，以及对传统城市气质的消解。最后，上升至主体性层面的反思，探讨当代、未来的人工智能技术对居民心智结构的影响。需要强调的是，本文致力于揭示技术的社会风险，并非想狭隘地鼓吹一种“卢德主义”理念[10]，而是希望公众更好地关注技术，并以民主的诉求介入技术的塑造与监督过程，重新追寻充满生机与活力的城市公共生活。
1950年艾伦·图灵的“图灵测试”构想，其中已预设了某种对“智能”的理解——由清晰表征符号所构成的对人类智能的模拟，且具有显著的离身性。发端于20世纪40年代的老派人工智能（GOFAI）承袭的就是这样的思路，不过目前已趋于衰落。而城市大脑中应用最为广泛的深度学习技术，其前身正是人工神经元网络（Artificial Neural Network）。它与符号AI最大的区别在于以“自下而上”的数据喂养取代“自上而下”的通用框架建构，以概率计算取代逻辑推演。这样设计的好处在于：（1）只需展示例子，无需精确编程；（2）不需要严格的条件定义，可以容忍“凌乱的”迹象；（3）能识别不完整或部分损坏的内容；（4）网络很强健，即使丢失部分节点也不会影响整体的运行。[11]神经网络由输入层（接收大量外界输入的信息）、隐藏层（处理对象特征）、输出层（与预期结果比照）构成，系统想要顺利运行，既与外界的输入有关，又取决于各神经元之间的权重值，这种权重的自我调节能力，正是“学习”之意。[12]而所谓的“深度”，是指中间层数量的激增，使更细致的对象特征得以安放，整个系统的识别能力也大大提升。总之，该技术的核心在于“模式识别”（pattern recognition），即对丰富的原始输入信息加以处理，从而得出合适的抽象描述，它往往需要机器自主推断出一般性的函数，以此用于面向未来的预测。[13]
然而，深度学习存在明显的缺陷。第一，设计者仍需花费心思提取原始的样本特征，告诉机器“某个社会事物应该是怎样的”，而不同的设计者显然会有不同的特征提取模式，因此社会主观的偏见可能内化到系统算法中。第二，将输出值与预期结果比较，并不断修正误差的反馈过程并不会一直持续下去，一旦训练达到了工程师的设想，网络就会趋于“收敛”，无法再根据新的输入值调整权重。[14]第三，最为本质的是，深度学习揭示了一种通过大量数据训练从而模拟人类在特定输入、特定输出之间建立映射规律的系统，但它无法洞悉人类行为的宏观认知架构。[15]以谷歌翻译为例，它实际上绕开了根深蒂固的语言结构，因此也无法理解我们的动机和意图，只是用算法模型取而代之了。可以说，深度学习展现了“操作主义”（operationalism）的特性，就像其宣传者所说的，“we don’t know why, it just is”，它只是一种应用导向型的求解系统。[16]反过来，人类也无法理解其求解的具体逻辑，只能通过更多的数据喂养完善系统，因此双方都对彼此抱有“知其然而不知其所以然”的态度。
以上系统性的技术缺陷会在城市空间治理的语境中被进一步揭示。与古希腊城邦限制人口规模类似，现代城市治理也对个体身份鉴定提出了新的要求，例如目前广泛运用的生物识别技术。连接至云端的摄像机可以通过人脸识别鉴定公共空间中往来者的身份，并进行实时预警。然而，人脸识别算法可能存在明显的种族歧视。2019年美国国家标准技术研究所对来自99家公司的189种算法，涵盖800万人的1800多万张照片进行了测试，发现老人、儿童、女性、少数族裔更容易被误识，其中亚裔与非裔人口的误报率比美国白人要高出100倍。[17]这既涉及原始特征提取的问题，即定义“何为人脸”的过程无意识地客观化了民族/种族偏见；又涉及数据供给背后的可见性差异，少数族裔因为其弱势地位难以被“看见”，进而造成了他们更易被误识。而在亚洲国家开发的算法中，黄种人被误识的比率就显著地降低了。[18]这恰恰反映出政治经济秩序的不平等如何被技术缺陷所放大。若将这种风险置于城市治安场景下，人脸识别引发的实时预警完全可能使无辜的弱势群体遭遇暴力执法，甚至丧命。
生物识别技术带来的另一项风险在于信息的不可更改性。人所固有的生理特征（指纹、脸庞、虹膜）以及行为特征（笔记、声音、步态）独一无二，因此生物密钥也被认为拥有绝对的安全性。然而这在另一层面带来了更大的危险，因为此类信息一旦被盗取、泄漏、篡改，就不可能像传统密码可以重置、更改，手机可以LBS定位、报失那么简单了。如果再考虑到人工智能算法“收敛”后难以重新调整的属性，由此造成的人身、财产损失将更难以估量。并且，身份伪造并不复杂，其成本甚至可以很低廉和大众化，原因之一在于算法与目视的差异。卡内基梅隆大学的一项研究表明，经过特殊设计的眼镜框（售价仅0.22美元）便可骗过人脸识别系统，改变自己的身份。机器不同于人类的眼睛，它在相当抽象的意义上理解面部（如识别瞳距、眉毛倾斜度、下巴轮廓），它需要将身体转化为像素，因此伪造通过将面部相关的图案以特定距离打印到镜框上便可“瞒天过海”。[19]原因之二在于社交媒体营造的自我曝光文化使面部数据触手可及，deepfake的兴起甚至让人们陷入一种狂欢之中。由此平台公司与深度造假黑客结成了某种暧昧的“联盟”，前者提供内容，后者提供数据，将面容伪造变成一门生意。[20]
上述例子或多或少揭示了深度学习识别模式的偏差。差错本身并不可怕，可怕的是并不知道问题由何而产生，这种误识有时甚至非常离奇。《科学》杂志上的一篇文章指出，AI算法会将一只3D打印的乌龟认成一支步枪，将棒球视为浓缩咖啡，将停车（STOP）的标志误认为每小时45英里的限速标志。[21]如果将上述谬误代入城市治安、交通行车等具体场景中，其风险性便很快体现出来。枪械会不会反过来被识别成乌龟呢？因识别偏误造成的交通事故该如何赔偿？算法工程师需要负责吗？一系列的伦理问题会扑面而来。目前的情形是，工程师只能通过“对抗式攻击”（adversarial attacks）来测试AI以发现问题，但他们永远不知道下一个偶然性的识别故障会出现在何处。总之，深度学习风险的实质在于机器智能与人类智能的不可通约性，这也启示我们深度依赖于技术的未来世界不仅谬误丛生，而且可能危机四伏。
三非正式联结的网络：智能化何以消解本地自治
城市大脑象征着科学主义规划理性目前所能达到的极致。它预设了一个万物皆可识别、计算的空间场景，人、场所、数字软件将以空前复杂的方式纠缠在一起，而这种改变将不可避免地重塑人们的感官体验与交往行为。城市治理绝非是单纯的工程学问题，必须与社会交往、社会关系联系起来进行考察。在此，引入雅各布斯的城市规划理念至关重要，因为她以最日常化的观察阐明了城市在真实生活中运转的机理，这种站在传统规划思维对立面的解释，恰能为洞悉智能化治理的风险提供帮助。
首先，治理须重视城市空间中的安全问题。街头暴力与团伙犯罪猖獗常常会使一个地方陷入房客搬迁、地价下降、警力不足，以至罪恶继续滋生的恶性循环。智慧城市的应对策略是铺设海量监控摄像头，并借助智能识别技术进行实时预警、干预。上文我们已经提到，深度学习的识别精度仍成问题，对于“什么样程度的骚乱需要出动警力”这样的问题，机器是难以理解的。一个街区如果频繁拉响警报，不仅浪费公安资源，也会强化居民的戒备心，当人脸识别、居民数据档案入库等应用普及时，针对外来者的敌意会更加明显。然而，陌生人虽然可能会带来麻烦，却也是城市生活丰富性的必要构成部分。雅各布斯就认为，一个互相关联、非正式的人际网络在维护公共区域安宁上比警察更为有效，它也被称为“街道的眼睛”。[22]具体而言，作为街道天然居住者的小商铺店主常常充当这一角色，他们对公共行为的监控是富有人情味的，经常通过声誉、街谈巷议、赞许、反对、制止等行为构成网络的运转。[23]
其次，城市公共交往对于培养人际间的非正式信任至关重要。麦奎尔认为，公共空间是陌生人之间自发、短暂的新型社会交往最主要的发生区域[24]，人们正是在向陌生人问路、到街边店铺兑换零钱等微观的日常生活惯例中培育起信任感的。这种社会交往的禀赋实际上是一种默会知识，只能在自然的城市交往中被打磨出来。然而，智慧城市倾向于消除这些微观交往，转而营造一种无摩擦（friction-free）的新体验。如今人们已经可以绕过陌生人的帮助，用百度地图查询路线，用大众点评查找店铺，由弹窗推送了解新闻。可以设想，未来城市中或许每一块全息投影的玻璃板都能为你答疑解惑，机器人甚至能代替邻里帮忙照看老人和孩子。人工智能所允诺的“解决一切麻烦”的世界，实际上正诱使着人们将原本需要亲历体验的社会过程卸载到自动化系统中，而这种自动化无疑潜藏着使核心社会功能“去社会化”（de-socialization）的风险。[25]
再次，城市治理必须关照居民的隐私，这是大城市生活的馈赠之一。雅各布斯谈到，“在一些小地方，每个人都知道别人的事，而大城市里只有那些你愿意向他们倾诉的人才知道很多关于你的事”[26]。城市生活中的隐私可以解释为“将你的个人隐私限制在你自己选择的了解你的人之间，并且对谁能占用你的时间以及在什么时间占用做出合理控制”[27]。可以说，传统城市生活中的“公-私”领域之间富有弹性。而智慧城市试图打造的是一览无余的全景城市，从管制的角度看它甚至成为一座可实现精细化监控与管理的全景监狱（panopticon）。[28]作为城市大脑“皮肤”的传感器网络每天都在记录着空前丰富的个人数据（如行动轨迹、生命体征、消费记录、交际网络），这些缄默信息的“可见化”击穿了公共与私人生活的边界。影响更深远的是，空间中对生物特征的识别与采集很大程度上绕过了知情同意（例如交通人脸识别），我们难以像关掉手机和电脑那样“关闭”脸颊，它成为人们与数字世界的新接口。公、私之间弹性地带的消失可能会造就戒备森严的私人领域与无远弗届的公共领域。
最后，城市安全、公共信任、隐私馈赠这三者其实相互交织，它们共同凝结成重要的社会资本，并构成了城市街区的核心功能——自治本地化（非正式自我管理）：组建公共监视网，以此保护陌生人及自己，发展小范围的、建立在公共生活基础上的网状关系，以此建立相互信任和社会监控的机制。[29]这种社会自治能力源于长期的具身化实践，城市大脑既没有办法掌握这种非表征、不可规则化的知识[30]，也无法将智识传递给未经公共交往磨练的居民。此外，深度学习固化分工的特性完全可能以效率最大化为目的，走上城市规划功能分区（functional zoning）的老路[31]，比如把贫民窟从中心驱逐到市郊，在高耸的写字楼区域拆掉林立的街区小商店，将闲暇用途与工作用途有意分开……这又与一些决策者头脑中“视觉秩序”先于“生活实际”的刻板思维不谋而合，于是在轰轰烈烈的旧城改造中城市的多样性遭到破坏。这种依赖于云端连接、数据传输的智慧城市布局，将缺少一个包容性的中心地带，当城市变为互无关联的收藏品，自然也就难以形成整体的力量。
四 透明社会：数据城市构想下的心智结构
上文分析了人工智能主导下的城市规划与雅各布斯理念之间的张力，前者本质上是理性主义规划思维的延续，它试图打造一座秩序井然、光滑无摩擦的“梦幻之城”；后者勾勒的则是熙熙攘攘、充满活力的市井生活。当今的智慧城市正在编织出满足公民理想愿景的新话语，它被想象为一种新的城市理想，一种超越人类的空间智能，其关键在于“数字升华”（digital sublime）。[32]城市大脑架构中的一个重要概念名为“数字孪生”（digital twin），它指的是通过对现实世界里人、事、物等要素的数字化，形成物理空间与虚拟空间之间智能操控的映射关系，使记录、仿真、预测对象全生命周期的运行轨迹成为可能。其发展被设想为四个阶段，从全面感知记录城市（现状），到挖掘历史中城市运行的规律（学习），再到实现仿真整个系统的运转（模拟），最后完全由人工智能实现决策与控制（自主）。[33]
这种设想抵达了基特勒所谓的“看不见的城市”，即当媒介成为加工、记录和传播数字的工具，技术使都市微型化，物质、符号、人类交往等一切都将被加速，城市由光速运转的信息符号构成[34]。当众多人类行为的数字轨迹都被传感器捕捉，且存储、处理与获取的成本愈发廉价，城市治理中数据的使用逻辑也在发生变化——那些基于过去发生情况而制定的公共政策，正在指向对未来的预测，因为城市空间将整体转变为数据。[35]借用福柯的“环境技术”概念，这种治理技术不再直接作用于主体，而是聚焦于行动的背景，技术在其中抽身而去，它对主体的影响将更为隐蔽。[36]芝加哥学派认为，城市不仅是一种物理装置或人工构造，它更是一种内在于风俗中并由传播态度与情感构成的心智状态。[37]换句话说，我们想要怎样的城市与我们想要成为怎样的人不可分离。进一步思考，比技术风险、社会风险更深一层的主体性危机可能就蕴藏在数据城市对人类心智结构的重塑中。
如今数据化作为一种获取、理解与监控人们行为的合法手段正在成为某种主导原则，它不仅盛行于商业主义话语，也在社会科学界引领风潮。然而，它在本体论与认识论上的面貌却愈发朦胧。首先，数据的运行实质是信息处理，这使它与叙事（narration）、仪式（ritual）、典礼（ceremony）都不相同，它注定是标准化的，所做的事既没有图像也没有场景，它不讲述故事，只专注于计算。[38]这样一个计算代替思考、信息处理代替叙事的社会被韩炳哲称为“透明社会”。“透明”之意在于它消除了事物之间所有的不可通约性，并将他者或陌生者排除在外，以此来稳固系统，并加速其运转。[39]
这样的社会首先是一个肯定社会。当所有事物被压扁，毫不抵抗地融入资本、交际与信息的顺流之中；当行为变得可操作化，并屈身于计算、可调节、可控制的过程；当时间被抹平为一个个按次序排列、可供人使用的现在时，它们就成了透明的。[40]肯定与顺从也预示着否定性的退隐。在黑格尔的意义上，否定性正是使思考构成“洞见”的特征。我们已经勾勒了深度学习的运作原理，应该说城市大脑在方法论上遵循的正是“解决主义”而非“解释主义”，它所追求的是对管理、控制、预测的优化，而对背后的科学规律并不感兴趣，即“知其所以然”的部分。也正因为如此，深度学习可以堂而皇之地绕过人类智能的高级认知框架，以牺牲整体性的方式实现局部的专业性。同样是利用数据，传统统计学就会考虑如何在均值语境下纳入对离散值的思考与解释。但深度学习并不会这样做，它将“以平均值消除异常数”的教义推到极致，人脸识别种族歧视的例子就展现了算法对边缘、弱势群体的忽视，它甚至不会给对方拒绝的权利。
透明社会也是一个以监控代替信任的社会。城市大脑以“无应不答”的嵌入模式消解了陌生人之间非正式交往的必要性，这将致使公共信任网络趋于解体。韩炳哲认为，信任意味着在面对他者时，即使“不知”也要试图与对方建立一种肯定的关系，信任产生了自由行动的空间。在以信任为基础的社会中，人们是不会执意要求透明的；正是由于社会信任的缺失，人们才依赖于监控系统的“透明”来消除“不知”，以期保障自身安全。[41]不同于福柯勾勒出的“规训社会”，当代监控主义给予了人们“自由”的承诺，数字时代的居民沉浸在“连接而不触碰”“在场而不交流”的云端交往状态中，这种人际关系是光滑无摩擦的，不满意便可以更换。然而，真实生活中人们需要花去生命中的很多年头与其他个体建立重要的关系。在根本意义上这种关系无法被取代，因为一旦被切断，他们作为有作用的社会一分子的地位就会遭遇毁灭。[42]
透明社会更是一个将“可见性”推向极致的社会。治理术的核心某种程度上就在于它对“可见性”孜孜不倦的追求，当这种欲望不再满足于对城市物理实在的掌控时，它将最终蔓延至一种“心之专制”。这种呼吁源自卢梭，他呼吁所有人敞开心扉，将所有真实的情感、思想都展现出来，以追求一种水晶般通透的心灵（这被视为道德楷模）。然而若将道德升级为绝对命令，那么这种“透明”将导致一个完全控制和监督的社会。[43]
互联网方兴未艾之际，尼葛洛庞蒂提出的“数字化生存”这一遐思曾给予了人们自由解放的梦想，而今天我们将真正直面数字化的全面渗透。正如贝克所言，“重大技术决策将赌上未来数代人的生活，其影响具有长期性且不可逆转。没有完美的系统，也没有完美的人，足以符合这种必然性。试图建立完美系统的尝试，可能也仅仅意味着建立完美的控制”[44]。因此，与其被无限的权力或无身体的幻想所诱惑，不如承认并尊重身为人类的有限性。这也警示我们，人工智能最大的风险或许并不在于它对人类的超越，而在于人类放弃了自身的独特性[45]，逐渐成为机器人一般的“透明人”。
注释：
[1][34]弗里德里希·基特勒著，林哲元译：《城市，一种媒介》，《文化研究》，2013年第1期。
[2][28][32]Mosco, V. The Smart City in a Digital World. Emerald Publishing, 2019:59,2,196, 194
[3]国务院：《新一代人工智能发展规划》.http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.
[4]Liu, F., Liu, F., & Shi, Y. City Brain, a New Architecture of Smart City Based on the Internet Brain. 2018 IEEE 22nd International Conference on Computer Supported Cooperative Work in Design ((CSCWD)). IEEE, 2018.
[5]吴越：《城市大脑》，北京，中信出版社，2019年，第97-214页。
[6]法国数学家拉普拉斯于1814年提出的一种科学假设，即如果此“恶魔”知道宇宙中每个原子确切的位置和动量，那么根据经典力学定律就能计算出宇宙中任何事件在任何时间（包括过去与未来）的状态。大数据与人工智能算法常被人比喻为上述的“原子位置与动量”与“力学定律”，即全知全能之意。
[7][44]乌尔里希·贝克著，张文杰、何博闻译：《风险社会》，南京，译林出版社，2018年，第14页，第19页。
[8]Lam, P. T., & Ma, R. Potential pitfalls in the development of smart cities and mitigation measures: An exploratory study. Cities, 2019, 91:146-156.
[9][24][35]斯科特·麦奎尔著，潘霁译：《地理媒介：网络化城市与公共空间的未来》，上海，复旦大学出版社，2019年，第33页，第22页，第6页。
[10]卢德主义：诞生于第一次工业革命初期，指工人因大机器生产取代其就业机会生发出的对蒸汽机等工业设备的憎恨，并开始破坏这些机器。后被用于指代对新技术、新事物的盲目反抗，事实上再怎么样警惕技术，也不可能以文明的停滞甚至倒退为代价。
[11][12]玛格丽特·博登：《人工智能的本质与未来》，北京，中国人民大学出版社，2017年，第97页，第99页。
[13][14]徐英瑾：《心智、语言和机器》，北京，人民出版社，2013年，第50页，第53页。
[15]徐英瑾：《试论深度学习技术对人类社会持续发展所造成的风险》，《当代美国评论》，2019年第1期。
[16][25]Andrejevic, M., & Volcic, Z. “Smart” Cameras and the Operational Enclosure. Television & New Media, 2019(0):1-17.
[17][18]Harwell, D. Federal study confirms racial bias of many facial-recognition systems, casts doubt on their expanding use. The Washington Post, Retrieved from: https://www.washingtonpost.com/technology/2019/12/19/federal-study-confirms-racial-bias-many-facial-recognition-systems-casts-doubt-their-expanding-use/.
[19]Vincent, J. These glasses trick facial recognition software into thinking you’re someone else. Retrieved from: https://www.theverge.com/2016/11/3/13507542/facial-recognition-glasses-trick-impersonate-fool.
[20]姬德强：《深度造假：人工智能时代的视觉政治》，《新闻大学》，2020年第7期。
[21]Hutson, M. A turtle—or a rifle? Hackers easily fool AIs into seeing the wrong thing. Science, Retrieved from: https://www.sciencemag.org/news/2018/07/turtle-or-rifle-hackers-easily-fool-ais-seeing-wrong-thing.
[22][23][26][27][29][42]简·雅各布斯著，金衡山译：《美国大城市的死与生》，南京，译林出版社，2006年，第27页，第30页，第51页，第52页，第107页，第121页。
[30][45]徐献军：《德雷福斯对人工智能的批判仍然成立吗？》，《自然辩证法研究》，2019年第1期。
[31]功能分区是按功能要素将城市中各种物质要素（如工厂、学校、住宅、商铺）分区布置的城市规划活动，旧城改造中它往往以使城市土地的使用合理有序为由，将空间形塑为有利于提升空间品质和地价品质的经济活动。
[33]陈龙：《数字孪生：为城市和你创造一个虚拟副本》， https://www.huxiu.com/article/303182.html.
[36]米歇尔·福柯著，莫伟民、赵伟译：《生命政治的诞生》，上海，上海人民出版社，2018年。
[37]罗伯特·帕克等著，杭苏红译：《城市：有关城市环境中人类行为研究的建议》，北京，商务印书馆，2016年，第5页。
[38][39][40][41][43]韩炳哲著，吴琼译：《透明社会》，北京，中信出版社，2019年，第52页，第2页，第1页，第81页，第74页。
（▲向下滑动查看全部注释）
基金项目
2020年教育部人文社会科学研究青年基金项目“复杂背景下传播学科中的物质转向研究”（项目编号：20YJC860034）。
作者简介
曹 钺，复旦大学新闻学院博士研究生；
陈彦蓉，重庆大学新闻学院博士研究生。
本文原载于《学习与实践》2020年第8期。
-end-
01 学习与实践2022年第8期目录及摘要02 一体化问责视阈下行政问责的理论建构与实践探索 | 政治（作者：朱福惠 侯雨呈）03 人工智能技术应用与中国制造业企业生产率——兼对“生产率悖论”的再检验 | 经济（作者：郑琼洁 王高凤）04 嵌合式治理：行政主导下老旧小区“微更新”的实践探索 | 公共管理（作者：戴祥玉 唐文浩）05 全域治理：基层社会治理的范式转型 | 社会 （作者：杨发祥 郭 科）06 被预支的账单：“隐形贫困”青年的消费群像及发展呈现 | 文化（作者：刘凯强）07 偶像符号的编码：人工智能虚拟偶像消费文化研究 | 新闻与传播（作者：付茜茜）