亚马逊 CTO 回应人脸识别技术质疑:技术无罪,我们无责任
亚马逊将重新定义其与公众的关系。
文 | 肖漫
近日,亚马逊的高管接受 BBC 的采访,在采访中,高管们对目前具有争议的亚马逊产品(包括 Rekognition、Alexa) 作出了回应,不仅如此,他们还对亚马逊的未来进行了展望。对于采访内容,雷锋网全文编译如下。
亚马逊首席技术官 Werner Vogels 认为亚马逊是一家碰巧做零售的科技公司。他说道,Jeff Bezos(亚马逊 CEO) 是个对互联网很着迷的人,他在创办亚马逊的时候,没想过把它办成书店。Jeff Bezos 曾对他说,“只有‘凡人‘才会把亚马逊当成零售商”。
那么,现在的问题是:亚马逊接下来会变成什么样?这些“凡人”准备好了吗?
在拉斯维加斯举办的 Re:Mars 大会上,亚马逊通过机器学习、机器人和太空方面的演讲清楚地表明,该公司正在经历一个转型阶段,如果成功,将重新定义其与公众的关系。
如今,亚马逊的复杂系统不再被仅仅用于提供交易,快速交付,或是廉价的网络储存。它的大数据能力是警察的工具,可能很快也会被用于军事。在企业界,亚马逊将自己定位为几乎所有事情背后的“大脑”。
总之,无论在规模上,还是在能力上,新的亚马逊都可能会让今天的亚马逊显得特别。
图片来源:Amazon 所有者:Amazon
在本月早些时候,整整一周的时间里,这家原本不愿与媒体深入接触的公司充满热情地做了这些事情:共进晚餐、接受采访,以及非常坦率地讨论了它的野心。
接受采访的 Werner Vogels 被认为是亚马逊里有远见的人之一。这在一定程度上要归功于他参与构建了 Amazon Web Services 背后的 IT 架构,并帮助该部门的负责人 Andy Jassy 说服了数千家组织采用它。
到目前为止,AWS 的创收仍占了亚马逊收入的绝大部分。AWS 云服务的出现意味着,那些不能或不想购买自己的大型服务器的公司现在可以购买他们所需要的计算能力和存储空间——并且他们的虚拟服务器空间将根据他们的需求增长(或收缩)。
如今,亚马逊为一些大公司(比如 Airbnb、Netflix)和其他 100 多万个客户(这些客户共同赋予了亚马逊对大片互联网的“控制权”)提供了基础设施支柱。当 AWS 在 2017 年遭遇技术故障时,科技网站 Gizmodo 表示,它只是“摧毁了互联网”。
除了亚马逊的 AWS,微软、谷歌等许多大公司也在竞争主要云平台,但只有 AWS 到达顶峰。
在 AWS 云服务之外,亚马逊目前正寻求在计算的下一个主要阶段产生类似的影响:机器学习和人工智能,简称为 ML 和 AI。
Vogels 表示,亚马逊需要为某些特定的问题建立新的算法。对于其他的建议,他认为,企业都应该使用亚马逊。如果每个人都能够做到,机器学习的使用将大大增加。
不仅如此,他还希望为企业提供他们无法自己创建出的技术,例如 Textract (雷锋网按,自动从扫描的文档中提取文本和数据),或是使用与 Alexa 语音助手相同的技术将语音记录转换为文本的 Lex。
图片来源: iStockphoto 所有者: iStockphoto
在亚马逊提供的工具中,亚马逊的图像识别产品是最具争议的。每分钟只需支付几便士的费用,亚马逊的 Rekognition(图像识别系统)就能够扫描视频片段,识别人脸,然后与客户的数据库进行比对。
然而,民权组织称它为“可能是有史以来最危险的监视技术”,不仅如此,他们还要求亚马逊停止向政府机构出售这一技术,尤其是警察局(Rekognition 曾被应用于警察局抓捕罪犯,可参见雷锋网此前报道)。旧金山的城市监管会禁止了这一技术的使用(详见雷锋网此前报道),他们表示,这个软件不仅有侵犯性,而且有偏见——对比黑人和亚洲人,它更能识别白色人种。
对此,Vogels 并不认为亚马逊有责任去确保 Rekognition 被正确地或是合乎伦理地使用。他表示,
这不是我做出的决定。这项技术在很多地方得到了很好的应用,决定哪种技术在何种条件下适用是社会的方向。这是一种社会话语和决策——以及决策制定——需要一些发生的事情来决定你可以在哪里应用技术。
另外,值得一提的是,他把 ML 和 AI 比作钢铁厂。他说,钢铁有时被用于制造婴儿孵化器,有时被用于制造枪支。
在不远的未来,亚马逊以及其他科技巨头必须对反竞争的指控以及一些总统候选人要求拆分的呼声作出回应。如果亚马逊成功地实现了利用数据向大众提供 ML 和 AI 的愿景,那么自行辩护可能会变得更加困难。
那么,亚马逊是如何处理用户隐私?当涉及到如何存储和分析数据时,亚马逊是否完全预先与用户沟通?关于这些持续不断的问题,亚马逊将需要作出回答。
就在近期,全球销售超 1 亿的亚马逊智能语音助手 Alexa 引起了人们的强烈关注。今年早些时候的报道揭露出,在某些情况下,亚马逊员工是如何收听孤立的、匿名的录音;而公司的隐私政策中并没有明确说明会被录音的可能性。
对于这一争议,亚马逊 Alexa 的主管 Dave Limp 向 BBC 表示,这只是录音的很小一部分,仅有 1% ,并且用户对这些录音有完全控制权,如果有人担心,他们可以删除这些录音。
不过,他也承认,亚马逊可能会在未来让客户更清楚地了解这一点。他在谈到公司的隐私政策时表示应该增加一些停顿,说得更为详细一些。
亚马逊指出,这种技术能够大规模地带来很多好处——尤其是机器学习能力,它能够以人类团队从未有过的速度筛选信息,无论团队规模有多大。
比如说,反性交易的非营利组织 Thorn 正在利用 Rekognition 去分类广告网站,与失踪青少年数据库进行匹配来寻找失踪人口。
但是,像 Re:Mars 这样的大会表明:亚马逊知道,要想实现自己的雄心壮志,就必须赢得公众的信任。
另外,值得注意的是,人工智能先驱吴恩达对科技行业的声誉进行了相当尖刻的评论,发人深省:
尽管我们领导这个世界穿过了多次技术颠覆浪潮,但我们并没有总是提供最好的领导。随着互联网的到来,我们创造了大量的财富,但我们也加剧了贫富差距。随着人工智能时代的到来,让我们确保这一次,我们能把每个人都带上。
来源:雷锋网