专题丨人工智能时代智慧城市与城市大脑建设的挑战与局限性
作者简介
刘 涛
北京百度网讯科技有限公司技术专家，主要从事人工智能技术产业发展、数字经济与智慧城市等领域的研究工作。
范毓婷
河北工程大学建筑与艺术学院城市规划系教师，博士，主要从事城市与区域发展、智慧城市、城市信息化、产业经济等领域的研究工作。
论文引用格式
刘涛, 范毓婷. 人工智能时代智慧城市与城市大脑建设的挑战与局限性[J]. 信息通信技术与政策, 2021,47(5): 22-25.
人工智能时代智慧城市与城市大脑建设的挑战与局限性
刘涛1 范毓婷2
（1. 北京百度网讯科技有限公司，北京 100085；2. 河北工程大学建筑与艺术学院，邯郸 056038）
摘要：深度学习技术引领人工智能的新一轮发展热潮，人工智能与城市治理的结合产物“城市大脑”，如今已经成为众多IT企业竞相研发和推广的主要产品。先进技术推动了智慧城市建设，但技术本身的局限性也给城市带来了潜在的危害。从现代城市治理理念入手，分析了当前深度学习技术的不足和局限，得出通过技术将城市全盘掌控的思想不可行性之结论。对城市各方面的过度监控和数据采集，会造成城市自身活力的下降以及自主性的丧失。
关键词：人工智能；智慧城市；社会治理；局限性
中图分类号：TP18 文献标识码：A
引用格式：刘涛, 范毓婷. 人工智能时代智慧城市与城市大脑建设的挑战与局限性[J]. 信息通信技术与政策, 2021,47(5): 22-25.
doi：10.12267/j.issn.2096-5931.2021.05.005
0 引言
若昂·德让在《巴黎：现代城市的发明》中这样描述：在城市管理者眼中，杂乱无章、犬牙交错的城市格局往往与不安全、不可控等词语相联系；反之，若能以某种手段彻底掌控城市角落、居民行为，则被认为是安全可靠、高效便捷的治理之路。《看不见的城市》中，卡尔维诺以忽必烈的视角，阐述了一种如金刚石般的城市理念，其整体格局精确完美、整齐有序，并且可以将城市分成最小元素[1]。从心理分析角度，忽必烈的城市观念与他的身份密不可分。忽必烈需要对其统治的帝国有最为全面的了解，以防止不可预测的叛乱的发生。由于难以实现对城市所有角落的实时监督，因此需要探索城市系统构成的根本要素和组合规律，并对城市进行规划。
1 “智慧城市”编制数字化的“金刚石帝国”
工业革命以来，人口向城市的大规模涌入以及伴随而来的各类产业、职业的发展，提升了城市治理的复杂度。与科技进步相伴随，关于城市治理的方案也在不断推陈出新，新的技术带来新的解决方案。当前，基于人工智能技术的新型智慧城市系统，其理念和方法在某种程度上正在编织一个数字化的“金刚石帝国”。伴随人工智能等新技术和城市服务软件的引入，智慧城市从解决单一的场景问题升级为城市治理的一揽子解决方案。作为新型智慧城市的代表，人工智能与城市治理的结合产物“城市大脑”已成为众多IT企业竞相研发和推广的产品。
根据中科院刘峰等人的研究，城市大脑包括城市中枢神经系统（云计算）、城市感官神经系统（物联网）、城市机动神经系统（工业4.0）和城市神经末梢系统（边缘计算），是通过城市神经元网络实现万物互联、通过云反射弧实现智能响应城市服务的新型系统[2]。剖析城市大脑的结构，其核心模块是采集信息和处理信息两大部分。一方面通过在城市大规模部署传感器、摄像头以及传输网络，汇聚城市生活中的海量数据。另一方面引入深度学习等各类AI算法，输入采集的大数据来训练用于感知和决策的算法模型，并实现城市的精准管控和最优决策。
在IT企业的宣传中，城市大脑不仅是一种技术解决方案，而且是具备了全知全能的“上帝视角”。在这个“技术上帝”的视角下，城市系统乃至生活在其中的个体，可以被分解为最基本的元素——数据。但实际上，推动当前智慧城市的力量更多源于强大的商业利益，而且数据处理过程呈现“黑箱化”，终端用户与大数据之间的互动不透明，且被少数人掌控[3]。人工智能等技术并不具备商业公司所宣传的万能处理能力，在这种技术至上的理念下，需要警惕其可能给城市和个体带来的潜在危害。
2 深度学习技术的局限性和风险
近十余年，深度学习技术加速了人工智能产业的蓬勃发展。深度学习概念源于人类对人工神经网络的研究。神经网络是机器学习众多算法模型中的一种，包括输入层、隐藏层和输出层。隐藏层用于计算机“思考”并给出答案。深度学习中的“深度”指的是增加多个中间的隐藏层，以大幅提升系统的计算和识别能力。这种算法本质上是一种模拟匹配，如果输入的数据量大且彼此的逻辑关联度高；处理后的结果就会与实际更加吻合；如果数据量小而零散，且之间没有强关联度，处理后的结果则误差极大。
得益于多种信息通信技术的涌现，我们能够便捷地获取海量个人与社会数据，为深度学习算法提供充分的“养料”，使之能够完成各类场景下的训练模型构建。语音识别、视觉识别、机器翻译、无人驾驶等领域人工智能算法的表现优于其他领域。虽然深度学习技术相较于以往的AI模型有着显著优势，但其与真正的人类智能相比，依然存在着明显缺陷，主要体现在以下3方面。
一是深度学习过于依赖庞大的数据集，效率低下。深度学习是一种数据驱动的算法，数据集的大小决定了算法模型的精准度，它每解决一个问题，都离不开巨量数据的供给。反观人类智能，我们认识一个事物、辨别一张图片，并不需要较大数据量，只需些许实例即可掌握，认知能力强于计算机。
二是深度学习具有不可解释性。深度学习揭示了一种通过大量数据训练从而模拟人类在特定输入、特定输出之间建立映射规律的系统，但它无法洞悉人类行为的宏观认知架构[5]。例如，它可以显示与身体健康相关的各项饮食数据，但无法理解饮食与健康之间的影响关系。深度学习只是一种应用导向型的求解系统[6]。人类可以不断地提供数据，供深度学习进行训练，却无法知晓“黑箱”里面的推理原理。
三是深度学习算法自身不可避免偏见存在。人工智能是人类意志的产物，必然会带有开发者的主观判断色彩。这种偏见来源于数据集结构不完整，或人为地将训练数据打上标签。如若在训练数据中将关于“医生”的照片多选为男性，而关于“护士”的照片多选为女性，那么训练出来的模型在算法上就会引发“特定职业性别偏见”问题[7]。
深度学习技术作为主流的人工智能算法，只能满足特定输入的简单归类活动，不能模拟上述复杂心智活动[8]。深度学习技术与人类智能是两个科学范式，依赖深度学习技术来指导和控制人类社会生活，必然会带来一系列风险和问题。
3 “城市大脑”技术对城市活力的消解
智慧城市和城市大脑已经成为了一种“显学”，正在以多种项目形态在各个城市落地。基于深度学习技术的城市大脑系统，恐怕无法满足预期，甚至还会带来潜在的危害城市的风险。
3.1 以安全为名渗透个人生活
伴随计算机、传感器、视觉监控等技术的出现，对公共空间的监控方式也从由钢筋水泥构筑的物理建筑进化为遍布各个角落的摄像头、高速传输的网络和大数据算法。庞大的监控设备必然会采集更加庞大的个人数据，根据IDC预测，2020年全球视频监控产生的数据约18.1 PB，占同期物联网数据量的83.1%，构成物联网数据的主体[9]。如福柯预言，“把整个社会机体变成一个感知领域：有上千只眼睛分布在各处，流动的注意力总是保持着警觉。”[10]智慧城市给予城市管理者一种“全景监狱”的技术手段，但这种智能化的监控能否给城市带来全新活力仍存质疑。
3.2 被拆解为数据的个体
互联网、智能手机、监控摄像头等，会在用户不知情甚至未授权的情况下获取其各种数据信息。用户每次使用手机时的定位、消费、浏览网页，都会被系统记录，并在数据库中形成个人画像。平台企业依据这些数据来定制新产品，迎合用户需求，引导企业向着有利方向发展。
通过技术将被监控者抽象离析出一系列数据流，再根据不同场景重新组装，便可构成一个虚构的“数据二重身”，以满足商业公司获取竞争优势以及最大化商业利益的需要[11]。这种社会不再是监控社会，而是控制社会。个体变成了可分割的，大众成为了样本、数据、市场或者“银行”[12]。
深度学习技术赖以生存的大数据量，必然导致智慧城市和城市大脑系统对个人数据无止境的索求。人类频繁使用智能服务，为背后的庞大数据库贡献出自己行为数据，隐私范围大大缩小，自主意识被削弱。
3.3 监控伪装“街道的眼睛”
提升城市的安全水平是智慧城市建设的核心目标之一，目前厂商提供的解决方案是扩大监控摄像头铺设范围，做到无死角全覆盖，并运用人工智能技术对可疑人员进行面部识别，通过中央控制系统判断是否可能发生危险事件，提前预警布控。虽然深度学习技术可以精准地算出人群的数量、密度，以及识别衣着特征、车辆号码，但无法准确判断哪类人员形迹可疑，哪种情况需要出警。
街道上遍布的摄像头本身就是一种良好的安防系统。街道邻里的目光监督增强了街道的安全感，简雅各布斯将之称为“街道眼”[13]。城市监控系统的异常发达，在某种程度上也让街道的活力逐步丧失。
3.4 没有交流的“沉默城市”
传统城市公共空间的存在，为人际交往建立广泛信任机制提供了有效平台。人际之间的接触培养出城市居民对彼此的信任感和默契度，是城市活力和文化的重要体现。如今，城市里的人际联络已淡化，人们彼此沉默，似乎所有事情都可以借助机器来完成。人工智能所允诺的“解决一切麻烦”的世界，正诱使人们将原本需要亲历体验的社会过程卸载到自动化系统中，而这种自动化藏着使核心社会功能“去社会化”风险[4]。
4 对城市生命力的深度思考
仅仅依靠智慧城市和城市大脑系统，显然无法提供完美的城市治理解决方案，也不能提升居民的生活幸福指数。“重大技术决策将赌上未来数代人的生活，其影响具有长期性且不可逆转。没有完美的系统，也没有完美的人，足以符合这种必然性。试图建立完美系统的尝试，可能也仅仅意味着建立完美的控制”[14]。
海德格尔认为，技术都承载着内在价值，不具备绝对的中立性[15]。这种内在价值一方面是技术的发明者赋予的，如编写深度学习程序的工程师；另一方面来自于技术的使用者，如城市管理者运用智能系统进行决策。技术带有强烈的个人主观色彩，是对人脑复杂思维过程的一种简化和降维设计。依托此类技术构建的智慧城市和城市大脑系统，无法真实的模拟、控制现实世界城市运行的复杂机制。
城市不仅是一种物理装置或人工构造，更是一种内在于风俗中并由传播态度与情感构成的心智状态[16]。每一个生活在其中的人的自我意识和主动行为尤为重要。人的主体性是社会活力的动力源泉，治理的现代化是社会活力的生产场域。社会中的人越能够充分发挥主体性、积极性，那么社会的活力程度就会越高[17]。
全场景无死角的监控系统，以及渗透进私人生活的智能服务，都是个人自主性的打击。被技术强力挤压而逐渐消亡的公共空间和社区自治行为，让传统城市的人际社会关联断裂，继而使得附着于其的情感联络和思想交互无法生长。原子化的社会结构和沙漠化的城市文化，正是智慧城市和城市大脑之类无序扩张所造成的后果。
5 结束语
德雷福斯对人工智能技术提出了深刻的批判，如今人工智能技术的发展并没有使这种批判失去意义。相反地，当前AI与城市生活愈发紧密地融入，我们更应该清醒地意识到智能技术应用过程中潜藏的风险和隐患。人类面临的风险不在于人工智能在可表征、可形式化、可规则化的智能活动中超越了人类，而在于人类放弃了自身的独特性，逐渐向人工智能的活动方式靠近[18]。
参考文献
[1] 周小莉. 卡尔维诺对空间知识型态的反思——解读《看不见的城市》中两种城市观[ J]. 兰州大学学报: 社会科学版, 2011, 39(3): 86-90.
[2] Feng L, Liu F, Shi Y. City brain, a new architecture of smart city based on the internet brain[C], 2017: 624-629.
[3] 潘霁 . 地理媒介, 生活实验艺术与市民对城市的权利——评《地理媒介:网络化城市与公共空间的未来》[J]. 新闻记者, 2017(11): 78-83.
[4] 曹钺, 陈彦蓉. 城市空间中的智能化治理风险——以城市大脑为例[J]. 学习与实践, 2020(8): 64-71.
[5] 徐英瑾. 心智、语言和机器[M]. 人民出版社, 2013.
[6 ] Andrejevic M, Volcic Z. “Smart”cameras and the operational enclosure[J]. Television & New Media,2021,22(4):1-17.
[7] 陈根. 纠偏AI歧视, 从打破行业偏见开始[EB/OL]. (2021-03-19)[2021-04-15]. https://www.163.com/dy/article/G5FC3OV605198R91.html.
[8] 徐英瑾. 试论深度学习技术对人类社会持续发展所造成的风险[J]. 当代美国评论, 2019,3(1):3-23.
[9] IDC. 中国视频监控安全市场洞察 2020[R], 2021.
[10] 福柯. 规训与惩罚[M]. 生活·读书·新知三联书店, 1999.
[11] 界面文化. 从全景监狱到水滴直播: 监控系统是如何层层渗入了我们的日常生活[EB/OL]. (2017-12-21)[2021-04-15]. https://www.sohu.com/a/211580658_99897611.
[12] 德勒兹. 哲学与权力的批判[M]. 商务印书馆, 2000.
[13] 简·雅各布斯, 金衡山. 美国大城市的死与生[M]. 译林出版社, 2012.
[14] 乌尔里希·贝克, 张文杰, 何博闻. 风险社会[M]. 译林出版社, 2018.
[15] 贾利辉. 海德格尔技术工具论批判思想研究[D]. 大连理工大学, 2015.
[16] 罗伯特·帕克, 杭苏红. 城市:有关城市环境中人类行为研究的建议[M]. 商务印书馆, 2016.
[17] 马晓星. 社会活力与国家治理现代化的内在关联析论[J]. 理论导刊, 2016,375(2):10-13.
[18] 徐献军. 德雷福斯对人工智能的批判仍然成立吗?[J]. 自然辩证法研究, 2019,35(1):15-20.
Challenges and limitations of smart cities and urban brain construction in the era of AI
LIU Tao1, FAN Yuting2
(1. Baidu Netcom Science and Technology Co., Ltd., Beijing 100085, China; 2. School of Architecture and Art, Hebei University of Engineering, Handan 056038, China)
Abstract: Deep learning technology leads a new wave of development of artificial intelligence. As the product of the combination of AI and urban governance, “urban brain” has become the main product that many IT companies are competing to develop and promote. Advanced technology promotes the construction of smart cities, but the limitations of the technology have also brought potential harm to the city. This paper starts with the concept of modern urban governance, analyzes the shortcomings and limitations of the current deep learning technology, and draws the conclusion that it is not feasible to control the city through technology. Excessive monitoring and data collection of various aspects of the city will cause the decline of the city’s vitality and loss of autonomy.
Keywords: AI; smart city; smart governance; limitations
本文刊于《信息通信技术与政策》2021年 第5期
主办：中国信息通信研究院
《信息通信技术与政策》是工业和信息化部主管、中国信息通信研究院主办的专业学术期刊。本刊定位于“信息通信技术前沿的风向标，信息社会政策探究的思想库”，聚焦信息通信领域技术趋势、公共政策、国家/产业/企业战略，发布前沿研究成果、焦点问题分析、热点政策解读等，推动5G、工业互联网、数字经济、人工智能、区块链、大数据、云计算等技术产业的创新与发展，引导国家技术战略选择与产业政策制定，搭建产、学、研、用的高端学术交流平台。
《信息通信技术与政策》官网开通啦！
为进一步提高期刊信息化建设水平，为广大学者提供更优质的服务，我刊于2020年11月18日起正式推出官方网站，现已进入网站试运行阶段。我们将以更专业的态度、更丰富的内容、更权威的报道，继续提供有前瞻性、指导性、实用性的优秀文稿，为建设网络强国和制造强国作出更大贡献！
推荐阅读
你“在看”我吗？