【经济学人】技术季刊：AI及其局限 | 精华
（来源：经济学人）
经济学人6月13号周刊上一口气连载了七篇探讨AI现状及挑战的文章，并将技术季刊的主题定为：
AI及其局限：比预期更陡峭。
（Artifical Intelligence and its limits: Steeper than Expected）
众所周知，AI的革命主要建立在改良的算法、强大的算力和丰富的数据之上。其中，无人驾驶、医药研发和人脸识别是当前资本市场最关注的三个赛道。
（来源：经济学人商论App）
结合当下的时局变化比如新冠疫情、资本市场的动态比如无人驾驶、以及舆论热点比如图片识别对黑人的“偏见”等，这期季刊涵盖了以下七个主题：
1. 面对现实：企业对AI的热情在冷却。AI在某些领域例如预测性维护、反欺诈中应用得很好，但离让货车司机失业、放射科医生下岗等还有很长很长的距离，更别提一些末日论了。短时间内，AI只是一种强大的模式识别工具，缺乏对生物大脑而言理所当然的诸多认知能力；
2. 没那么大：有效的数据比我们想象中还要稀缺，而且充满陷阱。一个典型AI项目80%的时间都花在了数据整理上，我们不仅需要真实环境的数据，还需要虚拟环境产生的各类“边缘案例”，同时还需要警惕历史数据隐藏的缺陷，甚至“偏见”。最后，随着世界格局的变化，模型还需要即时适应人类行为和语言的变化；
（来源：经济学人商论App）
3. 算法和军队：只有互联网公司才有财力与动力持续投入AI研发。电力相对于蒸汽尽管有那么多领先优势，但也花了30年才被得到广泛使用，何况还不那么成熟的AI。算法在AI中是必须的，比如Facebook对内容的审查，但人工审核部分并不能省去，否则误删比例会大幅度提升，进而影响用户体验；
4. 眼科AI：眼球扫描研究透露出AI医疗的核心问题。英国一项新研究表明AI在收到视网膜扫描后做出正确转诊决定的概率为94%，更新的论文显示甚至可以提前半年预测出老年性黄斑变性，后者会导致失明。但医学上面临最大的挑战是：结构化数据、患者隐私和“可解释性”，尤其第三个问题，让AI暂时只能成为“后台工具”；
5. 计算硬件：训练机器的成本正成为不可忽视的问题。从2012年到2018年，用于训练大型模型的计算能力增长了30万倍，即每3个半月翻一番。对AI专用芯片的需求是不可避免的，预计到2025年会达到800亿美金，然而又有多少除了互联网公司以外的企业愿意为此买单？
6. 路障：无人驾驶将AI的局限性暴露无遗。宏观经济可能加速了矛盾的严重性，最近相关收购案和倒闭事件（如无人卡车公司Starsky Robotics）频出，投资者的兴趣开始降温，简称“止损”。成熟的汽车制造商现在谈论更多的是“驾驶员辅助”工具，还有更多在局限狭小的区域（如机场或退休社区）中的机会。
7. 秋天到了：AI局限性越明显，人工参与会越多。与其在想AI还能做什么，不如思考AI应该做什么。荷兰法院2月初审理了一起案件，认为政府并没有很好地平衡用AI侦查逃税及诈骗社会福利行为与AI对个人隐私的侵犯。我们会不会因为越来越信任AI，而导致主观意识的“懒惰”和“偏见”？
重点推荐其中三篇，朗读并背诵全文：“没那么大”、“算法和军队”以及“路障”，里面讲到的真实案例再展开一二：
1. 关于AI医疗
2018年，纽约Mount Sinai医疗系统的研究人员发现，一个经过训练从X光胸片识别肺炎的AI系统，在它受训的医院以外的其他医院使用时能力明显降低。研究人员发现，机器能够识别出胸片来自哪家医院。（方法之一是分析片子角上的小块金属标记——各家医院的标记各不相同）
由于训练集里的一家医院的肺炎基准发生率远高于其他医院，胸片来自哪家医院这个信息本身就足以大幅度提高系统的准确性。研究人员把这种巧妙地伎俩叫做“作弊”，因为当向系统出示陌生医院的数据时，它就失灵了。
2. 关于AI招聘
亚马逊喊停了一个建立寻找合适人选的招聘项目，因为发现该系统对男性申请人有利。事后检验发现了一个循环的、自我增强的问题。公司用以前成功被录取的申请人的简历训练该系统，但由于技术人员的队伍本身大部分是男性，因此根据历史数据来训练的系统会把男性这个特征作为适合度的强预测指标。
3. 关于新冠影响
购买单程机票[在自动检测模型中]曾是一个很好地预测欺诈的指标，但是新冠肺炎导致封城后，突然又很多人都在买单程票，却都是清白的。又比如如今戴口罩成为常态，一些习惯了识别裸露面部的人脸识别系统遇到了麻烦。还有，自动化物流系统现在需要人员的帮助才能应付对卷筒纸、面粉和其他生活必需品的需求激增。
4. 关于无人驾驶
当车道标记被雪部分覆盖的时候，计算机视觉系统就晕了。某些贴纸可能会导致汽车将“停车”标志误认为是时速限制45英里的标志，即使是未被遮挡的物体，如果从不寻常的方向观察也会迷惑计算机，比如摩托车被归类成了降落伞或雪橇。很多人认为完成最后10%要比前90%更难，但没想过要难一万倍。
5. 关于AI预测
Ocado的仓库里充满了成千上万的机器人，他们沿着轨道网络快速穿行，抓起食物以履行来自在线购物者的订单。工程师使用来自机器人的简单数据（例如耗电量或车轮电动机的扭矩读数）训练机器学习模型，以预测损坏或磨损的机器人何时会发生故障。由于出故障的机器人会堵住路，因此将他们撤下并提前维护可以节省时间和金钱。
最后，如何超越深度学习？
这是一个现在进行时且还看不到边界的问题，也是一个跨学科、跨专业并涉及软、硬件技术的综合性问题。
去年DeepMind的AI研究人员发表了一篇名为《苦涩的教训》（The Bitter Lesson）的文章，其中一段话作为今晚夜读的结尾：
The “bitter lesson” is that “the actual contents of [human] minds are tremendously, irredeemably complex...They are not what should be built in [to machines].”
“人类思想的实际内容极度、无可救药地复杂...这不是应该植入机器的东西。”
两种方式获得季刊完整版：
我用的：经济学人商论App，订阅了全年双语版，物超所值；
点击文章末尾左下角“阅读原文”，获取本次周刊的全部英文内容(提取码：8nkk)。
欢迎留言，理性探讨。
往期精选