人工智能被用来“量身定制”物价和保险，最表面的公平也没有了丨人工智能关键还是人②
每一个行业都想着用上人工智能，在提升效率的同时也带来了不曾有过的问题。
旧金山，6 月 1 日早上 9 点，30 多人围坐在旧金山一间屋子里等待科技媒体 GigaOM 的活动“人工智能工坊（AI Workshop）”开场。
只看环境，这是一个典型的硅谷活动。场地租自 Breather，一个类似 Airbnb 但出租装修洋气办公空间的服务。做开场演讲的未来学家 Byron Reese 穿着休闲衬衣和牛仔裤，背后是一个巨大的 PPT 投影幕。Reese 在两年前收购了在商用技术报道上颇有声望但陷入资金问题的媒体 GigaOM。
“我们在座的各位，都可能在有生之年目睹人工智能在各行业实现这些：人类永生，饥饿危机的终结，食物价格的大幅下降，贫穷的终结，想想看这些问题都有可能被解决。在 120 年后，地球的生产力会比现在快 1000 倍。”
一个半小时里，Reese 对观众们描绘了一个人工智能改变一切的未来。末了，他套用网景创始人、著名投资人马克·安德尔森的话说，“2011 年，马克·安德尔森说‘软件正在吞噬整个世界’，他说对了。而现在，是人工智能正在吞噬整个世界。”
听众们激动地鼓起了掌。这些观众大多西装革履，没人穿硅谷工程师最爱的 T 恤和帽衫。他们几乎都是中年男性，除了《好奇心日报》的记者外，只有一位女性在座。好几位都不在本地工作，墙边放着行李箱。
就像 Byron Reese 口中说的一样，听众来自各行各业——地产、法律、机械制造。他们不是技术专家，多为大中型企业的管理者。他们都花了 995 美元，以及一天工作日时间参加这场人工智能入门级培训会。
这场培训正是为他们准备的。培训师 Christopher Mohritz 接过了麦克风，开始了长达 4 个小时的演讲，介绍人工智能目前到底可以做到什么。他拿出爱迪生芯片和一个小小的电灯泡，展示就在现场如何搭建一个语音控制灯泡的系统。
Mohritz 的演讲就像是一节系统的人工智能入门课：人工智能概念是什么，它和数据分析之间的关系是什么，现在人工智能的趋势是什么。
会场是可以随意打断提问的，当 Mohritz 介绍到具体怎么选择人工智能，听众的提问渐渐多了起来。
“我是做房地产的，你们更推荐哪一些人工智能平台？我们有一些数据是不能存云端的。”
“我应该多雇一个数据科学家团队吗？”
很明显，无论是现场的培训师还是与会者，最关注的是企业可以怎么使用人工智能来加速业务。就像 Mohritz 演讲中穿插着的布道，“人工智能加速你的软件，你的软件加速你的生意。”
这只是他们今年的第一场，之后，他们还打算巡回美国，让更多企业主知道怎么参与到人工智能的大潮中去，光是 6 月份就安排了 3 场工作坊。“人工智能这艘船要开了，你要不要登船？”
科技公司的船已经开出去一段，现在更大的船也出发了。但船的航行方向并不一定是你想看到的。
人工智能决定你的数字生活已经有一段时间了
对于一家互联网公司来说，人工智能已经无处不在了，它们之间只有应用程度深浅的差异。
“我们实际是在跟人们的睡眠竞争。不是 Hulu 也不是亚马逊。”出过《纸牌屋》、《超胆侠》的 Netflix CEO Hastings 今年 4 月在财报会上谈起竞争时这么说着。
说到底，跟你的睡眠竞争的背后其实就是给你推荐内容的算法。
这家市值达 660 亿美元的全球最大视频网站，目前比百度还值钱。但 Netflix 并不满足于目前所占有的用户时间。它甚至希望人们可以熬夜观看网站上的节目。
为了把更多用户留在平台上，Netflix 会充分利用你的各种数据，比如你看过什么、搜过什么、观看时间及设备等。最后它们会被用来训练算法，让算法能推荐最容易被你点击观看的视频。
“排序非常重要 ，第一个被推荐的视频最容易被点击播放。”Netflix 的产品设计师 Gomez-Uribe 曾解释这套算法时这么说过。
即使是你不用 Netflix 的服务，这样的逻辑你也不会陌生。
比如今日头条。
跟 Netflix 一样，它的新闻也是算法推荐的。今日头条根据用户的历史兴趣阅读数据及地理位置信息等数据为用户推荐新闻。一篇文章如果在被推荐的用户中阅读人数更高，它被推荐给同类型用户的几率也会更高。
这些算法推荐的方法看起来不复杂，但随着这些服务的发展，服务的提供商们能获得越来越多的数据，而算法也不再需要由人来手工编写。基于服务过程中积累的用户数据，它可以利用机器学习来完善原来的算法。
亚马逊利用算法对平台上的商品进行动态调价，结果就是你在亚马逊上搜索同类产品的价格永远会比对手便宜几毛钱；如果你哪儿都不去，只要你在淘宝上有浏览、消费记录，这些数据也会被阿里巴巴收集起来，最后用来在你的微博、门户网站页面上投放广告。
通过互联网，你获得了各种各样的服务。最后这些服务积累的数据让公司更加了解你是谁。
但就像 Netflix 要争夺你的睡眠时间一样，当科技公司在人工智能的帮助下向你推荐内容的时候，优先考虑的是怎么多留住你几分钟，让你多播一段视频、多看一个段子、或者多读一篇鸡汤。
用 Google 的前产品设计师 Tristan Harris 的话说“历史上从没有这样一个时候，这么十几个公司里的十几个人，可以决定数十亿人想什么。”
Harris 说的这话并非颂歌。今年 2 月接受 Recode 采访时，他举例说 Google Inbox 邮箱的产品设计讨论会上，正讨论到是否需要给新收到的邮件添加提醒推送时，大部分在场的工程师和设计师想都没想就说“当然要，为什么不呢？”
大部分产品设计者们追求的还是与产品活跃度相关的一切指标，比如用户活跃度、停留时间。
这就不难解释，为什么 Harris 的同事们在看待邮箱提醒这件问题上为什么意见如此一致了。
但 Harris 觉得这个设计其实并不是必要的，实际上一个用户不需要花那么多时间查看邮件，从用户的角度讲，这些提醒太浪费时间了。同样，用户也不需要被视频网站喂食一个接一个的视频。
于是从 Google 离职以后，他专门成立了一个非营利组织 Time Well Spent，提醒大家在使用现在的互联网服务时，学会让自己的注意力不要过度被移动互联网所占用。前段时间他还建议大家把手机调成灰色，说这样可以降低人们看手机的次数，减少对手机的依赖。
很显然，Harris 不是科技公司里的主流，这也是为什么他被《大西洋月刊》评论为“硅谷最接近良心的存在”。
在人工智能“帮助”下，一些人已经在为同样的服务花更多钱
今日头条的 CEO 张一鸣曾多次在采访中表示技术是中立的。
但驱动技术作出决定的指标并不是中立的，而是由设定它的人所决定。对于大多数产品来说，技术都在跟着收入、活跃度跑。
就像美国经济学家米尔顿·弗里德曼的名言“商业公司的唯一社会责任是增加利润。”
“问题是不仅仅要看谁在用这个新技术，还看谁在研发它。”我们跟北京大学新闻与传播学院的吴靖教授谈起像人工智能这样的新技术给社会带来的负面影响时，她这么告诉《好奇心日报》。
人工智能技术的应用加速了效率。但推动它的公司在意的并不只是服务用户，现在它不仅希望占用更多时间，还会根据消费者身份自动调整产品价格，让一部分人为同样的服务花更多的钱。
这件事情 Uber 正在做。
前不久，由于多次被司机抱怨自己拿到的车费收入跟乘客付的车费差距太大，Uber 给出了一个新解释，说这是因为目前设计了一套新的计价方式。跟按里程、时长等因素综合计价的传统方式不同，这套新的计价算法利用人工智能来预估乘客愿意为某次行程支付的最高价格，从而让 Uber 的收益最大化。
这意味着，一段相同长度的行程，乘客从富人聚居区打车到高档商区，会比打车到一个更贫困地区的乘客交更多的车费。这不是什么劫贫济富，司机分到的收入没有变化，多出来的钱全部给了 Uber。
Uber 的产品负责人 Daniel Graf 称这个计价标准是综合考虑了用户接受度和实际行程等因素。但他没有解释具体是如何计算的，这个算法到底怎么运作的根本就还是个黑匣子。
而且我们知道对价格不敏感的情况并不仅仅是消费者收入高低，往往也和事情紧急与否有关。
打车去医院的人往往都更不在乎价格，所以就应该被敲一笔么？
当人来决定的时候，对此往往会有忌惮。但人工智能根据预先设定的参数自我调整时并不会考虑这么多。这也是为什么早先有过好几次发生天灾人祸，Uber 都自动上调了价格——根据供求比例变化所做的调整。但之后 Uber 运营团队往往会人工干预，取消涨价。
Uber 显然不是想乘火打劫。但今天的人工智能并不够聪明，当它的目标是增加利润时，还不能通过学习意识到有些时候多要钱不合适——尽管这是一个受正常教育的五岁小孩就懂的道理。最终 Uber 还是通过人工干预避免类似情况发生。
但当人工智能开始根据每个人的状况调节每一次行程的价格时，这样的人工干预或许已经不可行。
医院只是一个例子，还有更多难以预料的情况。比如一个外地人打车的时候不了解价格，天然的也对价格更不敏感。以往很多出租车司机会带着绕路、多收钱。
现在人工智能是不是可以直接调整价格多收外地人钱？工程师不用编写这样的功能，人工智能自己发现这个规律就可以了。
当外界不知道具体算法的时候，谁去判断这里的收费是否合理？
不公平的定价已经走出技术公司的产品，进入更多行业
“互联网正在向一个预测未来的方程式转变”美国媒体 Defense One 的科技记者 Patrick Tucker 在提到今天人工智能对世界的影响时这么说。“计算机的辅助预测已经无处不在，从潜在的流感疫情到股市波动。未来 20 年，机器学习和大数据的预测功能会影响更广泛的领域，包括消费者选择、医保、教育机会等。”
不用再等 20 年，人工智能的影响已经开始了。
不只是 Uber 开始利用人工智能对消费者区别定价，传统石油公司也很快用上人工智能来定价了。
在没有使用人工智能之前，不同公司的加油站之间通过低价竞争来争夺市场，但人工智能的应用让这个规则开始发生了改变。
今年 5 月荷兰鹿特丹的一个加油站汽油价格涨了 3.5 美分，随后三英里外另一家它的竞争对手价格也跟着涨了，涨幅差不多。目前在荷兰汽油的平均价格为 1.7 美元左右，算下来这个涨幅并不低。
两个涨价的加油站都采用了同一家人工智能公司 a2i 系统公司提供的动态调价算法。
这套算法每天会计算几十次价格数据，除了对历史价格及竞争对手的价格进行分析以外，它还对这个区域消费者的消费意愿进行建模，最后给出定价。
当一个加油站涨价之后，另一家加油站在判断附近居民消费水平能接受这个价格之后，也跟着涨了价。
“它不是要从消费者那里获取更多钱，而是向那些对价格不敏感的人多收费，而对那些对价格敏感的人少收费。”给这家加油站公司提供算法服务的 a2i 系统公司的 CEO Ulrik Blichfeldt 这么解释这套算法。
最终它所保证的还是加油站的收益。
设计这套算法的 Alireza Derakhshan 在去年西班牙赛尔利亚召开的 AI 大会上称，这套人工智能系统为客户平均提高了 5% 的利润率。
几家公司联合起来抬价，实际上是建立价格联盟形成垄断，这是政府严格管制的行为。
当公司使用人工智能对定价进行调控，责任人变得模糊了起来。但背后的逻辑是没有变的。人为了保证利润，建立价格联盟，和程序为了保证利润，建立价格联盟没什么区别。
Derakhshan 还举了另一个零售店的例子，他在 AI 大会上介绍，一名使用了他们动态调价算法的客户曾跟他抱怨过系统出现过问题，因为在周边零售店都在降价的时候，系统给出的定价建议反而是涨价。
但 Derakhshan 解释，这并不是系统故障，而是因为系统通过对周边居民付费意愿的预估及周边竞争对手价格的判断，预计店里会来更多客人，因为他们不愿意为了省钱而排队结账。
而结果也的确如此，“价格虽然涨了，但顾客还是源源不断的来。”Derakhshan 在会上说。
实体店调价还麻烦点，毕竟有人人都能看到的价格牌。如果淘宝、京东、亚马逊根据个人消费习惯给你涨几个百分点，你会意识到么？
人工智能怎么“思考”是不透明的，而这样的不透明正被用于决定就业和信贷
不止价格，信用评级、招聘也在引入人工智能。好的方面很明显，它能考虑的因素更多、它们更有效率。
但新的问题也随着诞生。
京东、百度投资的 ZestFinance 就在用人工智能评估个人信用。通过公开数据及买来的数据，ZestFinance 可以对信贷用户进行信用评级。
它的创始人 Douglas Merrill 在 2009 年创办了这家公司，称“所有的数据都是信用数据。”
2015 年 ZestFinance 推出了一款针对小型企业和个人的借贷产品 Basix，它通过更多与财务数据不相关的信息来对每个申请人的偿还能力进行预估。目前它的服务也被多家互联网公司采用，其中包括京东、百度。
Basix 对每个申请人的分析数据多达上万条，包括申请人是否预付电话账单，他是否经常更换住所，他在线填写贷款申请信息时是否有大小写错误，他们花多长时间阅读申请信息等。这些都会作为申请人信用评级的标准。
ZestFinance 称通过数据模型发现，全部用大写字母填写表格的申请者信用风险更高。结果是填表格用大小写成了影响申请人信用的因素之一。
另一家帮科技公司评估程序员的公司 Gild 会根据他们是否经常去一家日本动漫网站来判断这个程序员的能力——原因是很多高水平的程序员去那里，于是人工智能得出了两个数据相关的结论。
这样跟之前闹得很大的用照片预测罪犯没什么区别，后者的人工智能看完一组照片以后，总结出一个规律：没穿着白领衬衫的，都是罪犯。人工智能看到的东西就那么些，它就硬找了个规律。
或者更近一些的例子，美团招聘人员说不招“黄泛区”的人。这个人后来被开除了。但当人工智能自发得出类似结论的时候，责任在谁呢？甚至，会有人知道么？
这里的一个根本原因是今天大多数人工智能做判断的过程是一个黑盒子。数据进去、结果出来，设计者根据结果调整参数。
人工智能更多的是将一个个极为复杂的个体量化成一系列可衡量的数字，并基于这些数字对个人做出判断。
计算过程中，不仅仅对外界不透明，连设计者也很难明确知道到底算法是如何得出这个结论的——就像 AlphaGo 的设计师并不理解每一步棋是怎么来的、或者考试机器人的设计师自己看不懂机器的数学演算推理过程一样。
“事实上许多算法都是个黑匣子，这使得监管者和公众不可能看见它。这是个问题，因为随着算法能力越来越强，但现在我们恰恰却缺少对算法任何形式的监督。” 欧洲一个研究技术与社会关系的学术组织互联网与人权中心的高级研究员 Ben Wagner 告诉《好奇心日报》。
Wagner 不认为这是编写算法的人心怀恶意，他说“至少我接触的科技创业公司都非常清楚黑盒子带来的问题，但他们并不知道该怎么解决。”
与此同时，更多敏感的数据正被开放给人工智能
今年 3 月，美国众议院的劳动与教育委员会通过了由共和党议员 Virginia Foxx 提出的一项关于员工健康信息的法案 HR1313，它让雇主可以获取到其雇员及其家人的健康医疗信息。
这条方案中提到，员工可自愿参加雇主提供的健康计划，接受基因测试，让雇主获取其基因信息评估健康风险。参与这个项目的员工能享受 30% 到 50% 的医保费用补贴。
支持者称这是让员工节省医疗费用开支，并提供一种更健康的生活的一种方式。
包括美国儿科协会，美国退休者协会等 70 多家机构联名写信反对该法案。美国人类遗传学会科学政策主任 Derek Scholes 称这个政策实际是在强迫员工参与这个项目，交出自己的遗传数据隐私，因为如果员工不交出自己的健康数据，代价就是由他每年实际要比提供数据的人多交 5443 美元的医保费。
在包括中国在内的大部分国家，员工体检数据都是对公司保密的。当基因数据与人工智能挂钩，被用来判断一个人未来患病的可能性，它带来的风险远比乙肝信息泄密更大。
保险公司如果将基因数据用于判断未来患病可能，调整保费。基因存在缺陷的人就会需要支付更多费用，尽管他还什么事都没有，一切只是“可能性”增加了几个百分点而已。
对于家境不好的人来说，医疗成本可能决定生死。而现实是，以目前的进展，基因很可能决定医疗成本。
“现在社会管理是把每个社会成员完全原子化，把每个公民当作问题，社会管理是解决一个个问题。这是一个强化的过程。整个现代社会从 19 世纪末期 20 年代以来，尤其是全球化或者流动性趋势越来越强，这种趋势越来越明显。因为它已经不把个人当作共同体的成员了，而是当作一个一个分离的个体，社会管理或者说社会治理并不是为了社会团结和社会文化（的发展），而是成为了通过数字化的手段减少社会动荡的东西。”在谈起算法被应用到社会管理中的趋势时，吴靖教授这么说。
现在谈监管，来得及吗？
耶鲁大学学者 Andrew Tutt 模仿美国的食品药品监督管理局（ FDA ）设计了一套“算法监管局”（FDA for Algrorithms）。他认为当前的算法已经影响到了人们生活的方方面面，因此也应该有这样一套管理系统存在。
今天 FDA（或者中国的 CFDA）决定着什么药可以用于临床、什么原料不能进入食物、什么杀虫剂可以用于农业。
在 Tutt 的设计里，他借鉴了类似的结构，它的监管层次同样也包含了对算法透明程度、算法使用测试中的安全性、责任机制等几个方面。
FDA 在美国已经成立了 111 年。和今天的人工智能一样，它的出台也跟新技术直接相关，在当时这门新技术是化学药品。
19 世纪化学药品逐渐发展起来，吗啡、阿品脱等这类药物都在这个时期被研发出来。但是直到 20 世纪的美国几乎都没有对国内生产的食品、药品出台监管法案。
19 世纪后期美国农业部的化学物质司的 Harvey Wiley 开始对市场上的药品和食品滥用行为展开调查，并在 1887 年到 1902 年期间连续公布了一系列《食品与食品掺杂物》研究报告。该部门还与当时的联邦妇女俱乐部、医疗工作者及制药厂商等多个机构合作游说制定食品药品统一标准法案。
1906 年美国作家厄普顿·辛克莱（Upton Sinclair）出版了小说《屠场》（The Jungle） ，书中对芝加哥肉类罐头工厂脏乱的罐头加工过程做了细致描写，引起了民众的不满。6 月，当时的美国总统西奥多·罗斯福签署了《纯净食品和药品法》。次年，美国农业部下属的化学物质局被重组为食品、药品和杀虫剂组织，三年后更名为 FDA。
从化学药品问题引起广泛质疑到最后正式成立 FDA 中间花了近 30 年的时间。
只是，面对人工智能，还有 30 年么？
题图 《西部世界》剧照
电影业的大麻烦才刚刚开始，IMAX 的坏成绩只是冰山一角
猪流感、1918大流感、埃博拉......这些疾病的名字不仅表达恐惧，还有羞耻
把课外作业做成最酷的独立时尚杂志之一，什么人干的？
- 关注好奇心研究所，与有气质的你共勉高尚趣味 -