TED学院 | 当今互联网到底出什么问题了？
提示：点击↑上方"小芳老师"免费关注哦
关注回复关键字“演讲”，免费加入每日TED听力打卡群！
演讲者：James Bridle 詹姆斯·布瑞德
语言：英语
简介：演讲人James Bridle是我比较喜欢的一个行为艺术家，虽然他更愿意自我介绍是个作家。他的一些项目获得广泛关注，比如，在演讲开头他提到的在各个公开场合喷绘无人机的项目，用过Dronestagram的作为项目名称，所以我每次玩无人机拍照发在Instagram也都会标注#dronestagram# 的标签。
📃 中文翻译稿
我是詹姆斯。我是个作家也是个艺术家。我喜欢创造一些有关科技的作品。我所做的事包括：在世界各地的城市街道上绘制实体大小的军用无人机轮廓，这样大家就可以了解并开始思考这些平时难以见到也很难想象的科技。
我会建造类神经网络的东西，它能根据气象报导来预测选举结果，因为我很好奇这些奇怪的新科技究竟有多少可能。去年，我自制了一台自动驾驶汽车。但因为我并不完全相信科技，所以我也为它设计了一个陷阱。
我去做这些事主要是因为我觉得它们真的很吸引我，也是因为我认为，当我们谈到科技时，我们其实是在谈论我们自己以及我们理解世界的方式。下面我想和大家分享一个关于科技的故事。
这是一个叫做《惊喜蛋》的短片。影片的内容就是一个人打开了一堆巧克力蛋，然后把里面的玩具展示给观众看。仅此而已，7分钟的影片就这个内容。我想请各位从中注意两件事。第一，这个影片有3000万人次的点阅率。
第二件事是，播放这个影片的频道拥有630万名的订阅者，累计有80亿人次的点阅率，而该频道中的大多数的影片都差不多是这样子的，3000万人看一个人打开这些蛋。
这听起来太奇怪了，但如果你在YouTube上搜索「惊喜蛋」，你会找到1000万支相关影片，我认为这还是个低估的数字。我认为实际数量远大于此。如果你继续搜寻，就会发现它们多不胜数。有数百万支像这样的影片，标题和实际内容都是千奇百怪，而且每天都以递增的数量在上传。这真是个奇怪的世界，对吧？
但重点是，看这些影片的观众并不是成人，而是小孩，年纪很小的小孩。这些影片就像是小孩们的古柯碱，它们一遍又一遍地重复播放，揭晓惊奇蛋的惊喜感，让多巴胺一点一滴地累积，就这样让小孩们完全上了瘾。小孩们会一次又一次地观看这些影片，他们会在此花费数小时的时间。
如果你试着阻止他们观看，他们会不断地一直尖叫。如果你们不相信我，我已经看到观众席上有人在点头了——如果你们不相信我，去问问那些有小孩的人，他们都知道惊喜蛋影片是什么。所以，我们从这里开始说起。2018年，有人或很多人用像脸书及Instagram现今在用的相同机制，让你不断回去查看它们的应用程序。他们在YouTube上用这种方法入侵小孩子的脑袋，来赚取广告收入。
至少，我希望他们只是在赚取广告收入。我希望他们做这种事的目的只是为了赚钱，因为YouTube上有更简单赚取广告收入的方法。你可以捏造一些东西或抄袭别人的东西，比如如果你去搜寻当下很流行的儿童卡通，像「粉红猪小妹」或「汪汪队立大功」，你也会找到数百万个搜寻结果，当然，大多数这类卡通都不是原创者上传的，它们来自一大堆随机账户。
无法知道是谁上传的，也不知道他们上传的动机，这听起来是不是有点熟悉？因为这些操弄方式，正是目前大多数的数字网络平台所做的事。你根本不可能知道这些信息的来源。基本上，就像是给儿童看的假新闻。可笑的是，孩子从出生开始，我们就训练他们按下最先看到的连结，不管它的来源为何。这听起来不是个非常好的主意。
还有一个YouTube频道在儿童圈也很夯，叫做《手指家庭之歌》。我刚听观众席上有人在吟唱，这就是《手指家庭之歌》。这是我能找到的最初版本。是2007年上传的，只有20万人次的点击率。这点点击率似乎不算什么，但它的曲调却会在脑中挥之不去。
我不会放给在座的各位听，因为它的魔音会传入你们脑中盘旋不去，我自己深受其害，我不会这样对你们。但就像惊喜蛋，它会进到孩子们的脑中，让孩子们上瘾。短短几年间这些手指家庭之歌的影片在各处流行开来，还有不同语言版本的，在各种儿童动画片中出现，有食物版的，可以这么说，你能找到的各种动画元素都有相应的版本。
再说一次，在线有数百万支这样的影片，有着各种疯狂的组合。你花越多时间在它们上面，你就会觉得自己越疯狂。
我就是这样开始投入的，有种很深的陌生感，也完全没有办法理解我周围的这些事物是怎么被制造出来的。因为不可能知道这些影片的来源，它们是谁制作的？当中有些看起来是由专业动画师团队制作的，有些则只是软件随机拼凑而成的，有些影片看起来似乎对孩子有益，有些则显而易见绝对是儿童不宜的。
同样的，不可能知道这些东西是由谁制作的。是机器人制作的吗？是人制作的吗？或是酸民制作的？当我们再也不能分辨它们的差别时，意味着什么呢？同样的，这样的不确定性是否有点熟悉？
人们获取点阅率的主要方式──注意，点阅率就是金钱──是把热搜的关键词塞进影片标题里。比如，你可以用「惊喜蛋」接着加上「汪汪队立大功」和「复活节彩蛋」或这一类的东西，把其他热门影片的关键词加进你的标题，最终变成一串无意义的标题字句，没有任何人类看得懂。当然因为只有幼童会看你的影片，他们哪懂什么？这类影片实际的观众是软件本身。它是种算法，是YouTube用来筛选相似影片，及让影片更热门、受推荐的算法。这就是为什么最后你看到的标题或内容，是毫无意义的大杂烩。
但重要的是，你们必须记住，这个演算优化系统还是有人的参与。这些人被迫要应对处理这些与日俱增的怪异文字组合，就像是个拼了命的即兴艺术家，要在同一时间去响应100万名齐声尖叫的学步儿。真的有人被困在这些系统当中，这种算法导向的文化，还有个很奇怪的特点，就是即使你是个人，最终也得要像机器一样行为，才得以存活下来。
此外，在屏幕的另一端，还是有幼童在看这些影片，双眼黏着屏幕，所有的注意力都被这些诡异的手法所吸引。大部分的孩子年纪小到都还不会使用网络。他们只会用小手捶打屏幕。还有所谓的自动播放。这个功能会让各种影片以接力赛的方式播放，无止尽地一直播放下去。
现今的系统中有太多奇怪的东西了，以至于自动播放会带你看到一些很奇怪的影片。就是这样，只要十几个步骤，你就可能从一支可爱的数火车影片，跑到米老鼠手淫的影片。是的，非常遗憾。情况变得越来越糟。会造成这种现象，是因为当这些不同的热门关键词、所有能吸引注意力的组合、与迫不及待要产制播出的影片，全部结合在一起所造成的结果。
这就是那些极其怪异的关键词所自食的恶果。你将手指家庭影片和真人版超级英雄的内容混杂，再加上一些奇怪、酸民才懂的笑话或其他东西，转瞬间，你就真的会看到非常奇怪的页面。
会让父母恼火的内容，通常就是与暴力或是色情相关的内容，对吗？儿童卡通正遭到攻击，正一点点死去，怪异的恶作剧内容真的会吓坏孩子。你们看到的就是软件汇入上述各种杂乱无章的元素后，自动呈现出孩子最害怕的梦魇影片。这些东西真的会影响到小朋友。有家长反应他们的孩子受到了创伤，开始害怕黑暗，开始害怕他们最喜欢的卡通角色，如果你要从这当中学到一件事那就是：若你有小孩，千万别让他们靠近YouTube。
还有一件事真的对我影响很大，那就是我不确定我们是否了解我们是如何走到今天这一步的。我们汇入所有的影响因素、所有的东西，并以无法预期的方式运作出结果。然而，这也是我们建造整个世界的方式。我们汇集所有的数据数据，尽管许多数据是不好的，许多历史资料是充满偏见的、充满我们史上冲动偏激的观点，然后把这些数据数据建入庞大的数据库中，接着让它们自动化，它们自行运作产制出信用报告、保险费、预测性警务系统、和判刑指南。
其实我们就是以这些数据数据在建构当今的世界。我不知道哪种比较糟糕：是我们似乎建造了一个人类绝对负面行为的优化系统，还是似乎是无意为之却这样做了，甚至我们真的没有意识到自己在做什么，因为我们真的不了解我们建立的系统，且我们其实不了解有什么其他不同的方式可以采用。
我认为有几样东西肯定是在YouTube上驱使这个现象发生的原因，第一项就是广告。它靠关注和点阅率获利，不考虑其他的变量，也不在乎这些内容是谁创作的，权力的集中化，隔离了其他的影响变量。我认为，不论你对于使用广告来宣传某个商品有什么样的感受，像这些成年男子包着尿布在沙滩上打滚的画面，这些人冀望他们搞不懂的算法，会因这段影片而付钱给他们。这种现象表明，我们不应该将我们的社会和文化立基在这种东西之上，也不应该用这种方法来赞助它。
另外一个驱动因素就是自动化。也就是说运用所有的技术，在没有任何监督的机制下，一旦影片上架曝光了，就两手一摊、无奈地说：「嘿，跟我们无关，是科技制做出来的。」就像「我们没有参与其中。」一样。这理由可不好。因为这种东西不仅是由算法来主导，也是由算法来监管的。
YouTube首次正视这个问题时，他们说第一件事要做的事，就是他们要使用更好的机器学习算法，来调整播放内容。关于机械学习，任何专家都会告诉你，那就是我们所称的软件，一个没人知道它是如何运作的东西。这些软件已经够多了。我们不应该任由人工智能来决定什么是合适的，因为我们知道会发生什么。它将开始审查其他东西。
它将开始审查同性恋内容。它将开始审查合法的公共演讲。演讲是否合法获准，不应该由一个无法负起责任的系统来决定。这是我们所有人都应该思考与讨论的。
我还想提醒各位：一些替代的方案也不尽如人意。YouTube最近也宣布将要推出儿童专用的应用程序。里面的内容将完全由人来筛选，脸书总裁扎克伯格也在国会说了相同的话，当被问到将如何改进他们的内容时。
他说已经有人在做这件事了。他真正表达出来的是与其让那些蹒跚学步的幼童成为第一个看这些内容的人，你要让那些拿着临时性合约、薪水过低、没有心理健康医疗支持的员工们，成为这些梦魇影片的受害者。
我想我们可以做到的远不止这些。
总结这两件事，我真正的想法是：监管代理。想想我们自己真的能了解多少。藉由监管，我的意思是：我们如何知道依最佳利益来行事。这要在我们自己都搞不懂它是如何运作的系统中，是不可能达成的。权力的不平等终会导致暴力。我们也可在这些系统中看到，理解的不平等也会造成相同的结果。如果要做一件事来改善这些系统，那就是让使用他们的人能更清楚地了解它们。这样大家都有基础的认知，理解到实际的状况
我对这些系统着墨最多的，如我前所述，其实并不关乎于Youtube。而是所有的一切。这些关乎责任和监管的问题，不透明与复杂性的问题，由于中央集权所导致的暴力和剥削问题──这些更重要、更严重的问题。它们不仅仅是YouTube或一般的科技问题而已，甚至不是新的问题，这些问题已经存在很久了，但是最终我们建立了这个系统，全球性的系统──因特网，以非凡的方式向我们展现它无法让人抗拒的魅力。
科技具有非凡的能力去例示与延续我们所有那些卓越的能力，而其通常隐藏着欲望与偏见，而我们把那些欲望与偏见一并编码写进了这世界，但也因为它们被编码写下了所以我们看得到，所以我们就不能假装它们并不存在。我们不能再认为科技是解决所有问题的利器。我们需要把科技当作一种指引，带领我们发现真正的问题所在，如此我们方能正视我们的问题，并且解决它们。
感谢聆听！
谢谢！
海伦·沃特斯：詹姆斯，谢谢你莅临演讲。非常有趣！当你想象影片是由机器霸主接管时，会以为比你讲的还要迷人刺激些。我想知道──这些影片，阻抗增长。对你所描述这些的阻抗是否有所增长呢？你看到任何正面的迹象、萌芽的阻抗吗？
詹姆斯·布瑞德：我并不知道正面的阻抗，因为我认为这是需要长期抗战的事。我想它已崁入到文化很深的层次。我的友人叫艾丽诺·塞尔塔，她总是说：任何影响规模和范围巨大的科技问题，一开始都源自政治问题。
所以这些我们正在努力解决的事情，并不是光靠改进我们的科技而已，应该要改变创造出这些科技的社会。所以现在我认为还有漫长的路要走。但如我所说，藉由将它们搬上台面，通过真诚地解释与沟通，我们就至少可以踏出这个漫长旅程的第一步。
海伦·沃特斯：当你谈及易懂性和数字素养的时候，我认为这很难想象，要用户自己背负数字素养的责任。但是在这个新世界里教育是谁的责任呢？
詹姆斯·布瑞德：我觉得这责任落在我们所有人的身上，我们所做、做建、所创造的全部，都需经彼此相互讨论达成共识，包含那些回避问题的人。我们建造系统并不是为了欺骗或者震摄人们去做正确的事情，而是在每一个步骤去教育他们，因每个系统都具教育性。
这就是我希望看到的，即使它如此令人不悦，如果你能正确、适当地看待它，那么它本身就是一种教育，让你看到复杂的系统是如何结合在一起工作的，或许还能够将这些知识应用到世界其他地方。
海伦·沃特斯：詹姆斯，这是个重要的讨论。我知道许多人抱着开放的心来聆听你的演说。感谢你为我们的早晨揭开精彩的序幕。
詹姆斯·布瑞德：非常感谢大家！（掌声）
声明：除特别注明原创授权转载文章外，其他文章均为转载，版权归原作者或平台所有。如有侵权，请后台联系，告知删除，谢谢
合集收藏
备考专辑：英专听力50篇 & 20天四级单词 & 60篇高分范文
语音单词：美音发音视频教程 & 英音发音视频教程 & 名师课堂100集
新闻英语：VOA标准 & VOA慢速 & BBC新闻 & 18BBC地道英语
歌曲TED: 听歌学英语 & TED合集 & 18年歌曲合集 & 19年歌单