老大哥正在看着你……的大脑

你的大脑，隐私的最后防线，可能不再私密了。

SIGAL SAMUEL

封面：Oska .

NEUROSCIENCE  神经科学

友情提示：该文来自于Vox网站“未来完成时”专栏，请读者谨慎区分想象与现实。

“除了你脑壳里的几个立方厘米以外，没有东西是属于你自己的。” 这句话出自于乔治·奥威尔的反乌托邦小说《1984》。小说发表于1949年，书中的这句话是为了表现人物所处的高压监视状态——但以另一种角度来看，这也是一种幸运，至少他们的大脑还是私密的。

几周前，脸书公司和埃隆·马斯克的Neuralink分别宣告他们正在研发用来“读心”的技术。

马克·扎克伯格的公司投资脑机接口（BCIs）的研究，这项技术可以直接从你的神经元提取思想，并转换成文字。研究员们说他们已经开发出了一种可以实时从大脑活动中解码文字的算法。

马斯克的公司也已经发明了一种柔软的“线”，这种“线”在未来可以植入你的大脑，并使你能够用自己的思想来操控手机或电脑。马斯克打算在明年年底之前开始进行人体测试。

其他公司像Kernel、Emotiv和Neurosky也在进行脑机技术的开发。他们说，这些技术的出发点符合伦理，比如帮助瘫痪的病人控制设备。

这听起来像科幻小说一样，但它已经在改变人们的生活了。在过去的十几年里，很多瘫痪的病人已经接受了脑移植物，用来帮助他们移动计算机光标或控制机械手臂。能够读取思想的移植物距离投入商业化生产还需要若干年时间，但这一领域的研究速度已经比大部分人的预期要快了。

一些神经伦理学家说，我们需要修改现有的人权法，以避免这些技术被滥用。我们需要建立一种新的“心灵法学”（jurisprudence of the mind）来保护我们。很多我们基本的权利界限都会被这些技术所打破，甚至是那些太过平常而不像权利的方面，比如我们判定自己和机器边界的能力。但我们现有的法律并不足以解决这一问题。

可能需要进入法律的四项新权利

一些国家已经在考虑如何制定“神经权利”。在智利，将脑数据保护立为人权的两项法案将会在11月提交议会表决。在一定程度上，这归功于神经科学家拉斐尔·尤斯特（Rafael Yuste）的倡导。而欧洲经合组织（OCED）有望在今年发布一套新的管理脑数据使用的准则。

马塞洛·伊恩卡（Marcello Ienca）是推动这些新人权法案成立的其中一位。伊恩卡是一位神经伦理学家，也是苏黎世大学（欧洲最顶尖的科技大学之一）的一名研究员。他在2017年发表的一篇论文，概述了在神经技术时代，我们应该在法律中规定的四项具体权利。我向他询问对最近Facebook和Neualink披露消息的看法。

— Oska .

“我非常担心脑数据在消费者市场上的商业化。”他说，“我不是在谈论遥远的未来。现在已经出现了消费级神经技术，人们用他们的脑数据来换取私营公司的服务。”他提到神经游戏（通过大脑活动而非传统的控制器，来操纵游戏里的动作）和自我跟踪（self-tracking，即使用可穿戴设备来对睡眠等进行监测）。“我想称其为‘神经资本主义’（neurocapitalism）。”

脑机接口技术包括读取和写入两个系统。读取系统负责读取神经活动，通常借助于人工智能处理软件来解码说话的内容；写入系统向大脑输入新的内容，从而改变其运作方式。一些系统同时具备这两种功能。

我请伊恩卡对他说的四种权利作一些解释，并提供一个神经技术侵犯这一权利的具体事例。他想了一些可怕的情景，并且其中一部分已经在发生了。下面我们分析一下这些事例。

1

认知自由的权利

你应当有权自由地决定自己是否使用一项神经技术。

在中国，有些企业已经在利用一种扫描脑波的帽子从他们的职员大脑中获取信息，这种帽子可以检测职员的抑郁、焦虑、愤怒、疲惫等情绪*。“如果你的上司想让你头戴脑电扫描仪，来监测你的注意力水平，那很可能已经构成了对认知自由原则的侵犯。”伊恩卡说道。这是因为即使穿戴这样的设备不是强制的，你仍然会感到隐性压力而被迫选择这样做——否则你将会陷入到竞争劣势当中。

*译者注：作者援引的是《南华早报》对帝仪科技（Deayea Tech）的报道，原报道亦指出该技术可用来检测工人压力水平调整作息，同时表达了其可能被滥用的担忧。

他补充道，美国军方正在研发一种使士兵们更加服从命令的神经技术。这可能包括让他们在战场上减少共情，并且更加好战。而士兵们则可能要被迫接受这样的改造。

— Oska .

“由军方资助的，监测注意力水平下降的研究已经在进展中，这项研究利用混合脑电接口技术‘读取’到注意力水平的缺乏，并通过神经调制对大脑执行‘写入’，从而提高其警觉性。美国国防部高级研究计划局（DARPA）资助的项目正在进行这样的研究。”伊恩卡说道。

2

心灵隐私的权利

你应当有权选择隔离或共享你的脑数据。

伊恩卡强调说，神经技术对执法和政府监管会造成巨大的影响。他说：“如果脑读取设备可以读取人的思想内容，几年后政府就有可能将这种技术用在讯问和调查上。”

如果当局被授权在未经同意的情况下监听你的思想状态，那么美国宪法中所规定的沉默权和反对自证其罪的原则将会失去意义。

这种场景让人不禁让人想到科幻电影《少数派报告》。在电影里，一个叫做犯罪预防组织的特警部门会在凶手犯罪前确认并逮捕他们。

3

心灵完整的权利

你应当有权在身体上和精神上不受神经技术伤害。

具有“写入”功能的脑机接口可以导致一种新的洗脑形式——理论上，所有人都可以控制我们的思想：想要灌输信仰的宗教，试图镇压不同政见的政权，以及正在招募新兵的恐怖组织。

除此之外，Facebook和Neuralink正在研发的那种设备还可能会被黑客入侵。设想一下，如果在你使用这种设备的时候，有一个恶意的黑客拦截了你的蓝牙信号，并调整了进入你大脑的电流电压，从而使你变得更加抑郁或者顺从——那应该怎么办？

神经伦理学家将之称为大脑劫持（brainhacking）。“这仍然是假设，但这种概念已经被研究验证。”伊恩卡补充道，”而黑客并不需要精通十分复杂的技术来实现劫持。”

4

心理连续性的权利

你应当有权得到保护，以免在未经允许的情况下被篡改自我意识。

— Oska .

在一项研究中，一个患有癫痫病的妇女接受了脑机接口改造，并且产生了对机器强烈的共生感。她说：“它变成了我。” 这家为她植入脑机接口的公司后来倒闭了，她也被迫去除了这一设备。她哭了，说：“我失去了自我。”

伊恩卡说，这一事例表明，心理连续性不仅会被神经技术设备的植入所打断，也会受其移除的影响。他说：“在这种情况下，一家公司基本上就掌握了我们的自我意识。”

另一个对心理连续性的威胁来自于新兴的神经营销领域。广告商们设法探明大脑作出购买决定，和推动这些决定执行的机制。因为这种推动作用发生在意识层面以下，所以这些非侵入性的神经干预甚至可以在我们不知道的情况下发生。如果有一天，神经营销公司正在测试一种潜意识技术，很可能在第二天，你就会发现自己在不清楚原因的情况下，选择了产品A而不是产品B。

消费者权益组织已经对神经营销发出了警告。数字化民主中心的执行主任杰夫·切斯特（Jeff Chester）就已经说过，如果成人广告被有目的地设计，从而绕过我们的理性防线，使我们不能提前判断其真实性，这种广告就应该受到管控。

脑数据是隐私的终极庇护所

考虑到对神经资本主义的担忧，我问伊恩卡是否神经技术应该脱离私营公司的控制，而重新划分为公共产品。他回答说“是的”——既要防止公司遭受损害，又要防止它们只向富人们提供产品。

“一种风险是，这些技术只能被某些经济阶层获得，而这将会加剧现存的社会不平衡。” 他说，“我认为国家应该积极行动，确保这些技术被正确的人们使用。”

伊恩卡、欧洲经合组织、智利，很难说他们所倡导的神经权利能有效地控制住神经技术的风险。但鉴于这项技术发展如此之快，我们似乎确实需要新的法律来保护我们自己，并且现在也正是让专家们阐明我们权利的时候。然而立法者们却动作迟缓，如果我们等到Facebook或Neuralink等设备上市的时候，可能就已经太晚了。

伊恩卡警告说：“脑数据是隐私的终极庇护所。如果我们失去了它，我们也将失去所有。并且，一旦脑数据被大量地收集起来，这一进程就很难再逆转了。”

翻译：阿良

审校：顾金涛

编辑：酸酸

https://www.vox.com/2019/8/30/20835137/facebook-zuckerberg-elon-musk-brain-mind-reading-neuroethics

Sigal Samuel

塞缪尔是Vox网站“未来完成时”的作家。她的写作内容包括人工智能、神经科学以及科技和宗教的交集。她的小说《一英里尽头的神秘主义者》讲述了一个功能失调的蒙特利尔家庭在神秘主义、疯狂和数学方面的故事。它被提名国际都柏林文学奖，并获得加拿大犹太文学奖。她在不列颠哥伦比亚省大学获得创意写作硕士学位，在麦吉尔大学获得哲学学士学位。

····

← 往期回顾（滑动有惊喜） →

深读