“读心”机器面世：是时候担心了吗？

原文作者：Sara Reardon

一项研究利用脑扫描和AI解码想象的言语，神经伦理学家对于它是否威胁精神隐私意见不一。

你脑中的小小声音，如今可以被一个脑扫描仪解码了——至少有些时候可以。研究者开发了首个非侵入性的方法，可以确定想象中说话的主旨内容，为无法说话的人提供了一个可能的交流渠道。但这个技术（目前只有一般准确度）离实现真正的读心术还有多远？政策制定者如何确定这样的技术发展不被滥用？

大多数现有的思想-言语转换技术使用脑植入物，监测一个人运动皮层的活动，并预测嘴唇试图形成的词。为了理解思想背后的真实含义，得克萨斯大学奥斯丁分校的Alexander Huth和Jerry Tang与同事结合了功能性磁共振成像（fMRI，一种非侵入性脑活动检测手段）和称为大型语言模型（LLM）的人工智能（AI）算法，该算法支持着类似ChatGPT的工具，被训练用于预测一段文本中的下一个词。

一项研究使用功能性磁共振成像（fMRI）解码人们的思想。来源：Jerry Tang 和 Alexander Huth

在《自然-神经科学》5月1日发表的一项研究中，研究者让3位志愿者躺在fMRI扫描仪里，在他们每人聆听16小时播客时记录他们的脑活动[1]。通过检测志愿者脑部血流，结合这一信息与他们听到的故事细节及LLM理解单词间关系的能力，研究人员开发了一个编码图谱，关于每个人的大脑如何响应不同的词汇和词组。

接下来，研究者记录了被试在听一个故事、想象讲故事，或观看一场无对话电影时的fMRI活动。研究人员利用先前为每一名参与者编码的模式，结合能根据句子中其他词语确定句子可能如何构建的算法，试图解码这种新的大脑活动。下面的视频显示了当被试在观看动画片Sintel（剧情是一个女孩照料一头幼龙）时做的大脑记录中生成的句子。

来源：Jerry Tang 和Alexander Huth

有准有不准

解码器产生的句子能捕捉到当事人思考的大意：比如“我还没有驾照”这个词组被解码成了“她还没开始学驾驶呢”。而且它在描述人们所看的电影内容方面相当准确。但它产生的许多句子并不准确。

研究者还发现这个技术很容易愚弄。当参与者在听一个录音故事的时候想着一个不同的故事，解码器就无法确定他们听到的是什么词。这个编码图谱还因人而异，意味着研究者无法制造出一个对所有人适用的解码器。Huth认为，随着研究者创建出更详细的个人大脑图谱，要开发通用解码器会变得更加困难。

确定大脑如何从语言中创造意义非常困难，Francisco Pereira说，他是美国国立精神卫生研究院的神经科学家。“能看到有人实现这个真是令人钦佩。”

“警钟”

神经伦理学家对于这一最新进展是否威胁心理隐私意见不一。“我不是煽动恐慌，但这种复杂的、非侵入性技术的发展，似乎比我们想的更接近现实了。”哈佛医学院的生物伦理学家Gabriel Lázaro-Muñoz说，“我认为这是给公众和政策制定者的一个警钟。”

但达特茅斯大学科学哲学家Adina Roskies说，这个技术太难用也太不准确，当下不会产生什么风险。首先，fMRI扫描不是便携的，所以没有某人的配合不可能扫描他们的大脑。她还怀疑除了恢复交流功能以外，是否还有任何理由值得花时间和成本来训练某个人的解码器。“我不觉得现在就该开始担心，”她说，“政府有得是别的方法知道我们在想什么。”

麻省理工大学的认知神经科学家Greta Tuckute认为，解码系统不能在不同个体间通用，而且人们通过想别的事情就能轻易骗过它，这一点令人振奋。“这很好地说明了我们究竟有多少主体性。”她说。

谨慎前进

尽管如此，Roskies说就算解码器效果一般，如果律师或法庭试图在不理解其科学限制的情况下加以利用，也是会产生问题的。比如，在当前这个研究中，词组“我就跳出了[车]”被解码为“我不得不把她推出车”。“这些差距太明显了，它们可能会在司法案例里产生巨大的不同后果，”Roskies说，“我担心他们在不应使用的时候就有能力用上这类东西。”

Tang也同意。“测谎仪不准确，但它有负面后果，”他在一次新闻发布会上说，“没有人应当在不合作的情况下被解码大脑。”他和Huth呼吁政策制定者主动应对“读心”技术怎样可以和不可以合法使用的问题。

Lázaro-Muñoz说，政策行动可以参照2008年的一项美国法律，该法律防止保险公司和雇主以歧视性方式使用人们的遗传信息。他还担心解码器对患有强迫症等疾病的人会有什么影响，他们可能会有非自愿的、侵入性的伤害他人想法，但绝不会采取行动。

Pereira说，解码器可以变得多准确还是个悬而未决的问题，同样，它们是否会最终变得通用而非因人而异也是一样。“这取决于你认为人类有多独特。”

尽管解码器最终会变得善于预测一个系列里的下一个单词，它可能很难理解比喻或隐喻。Pereira说，把单词凑到一起和确定大脑如何编码单词间的关系，之间是相当大的一步。

参考文献：

1. Tang, J., LeBel, A., Jain, S. & Huth, A. G. Nature Neurosci. https://doi.org/10.1038/s41593-023-01304-9 (2023).

原文以Mind-reading machines are here: is it time to worry?标题发表在2023年5月2日《自然》的NEWS EXPLAINER版块上

© nature

doi: 10.1038/d41586-023-01486-z

点击阅读原文查看英文原文

>> 扫码走近《自然》，快速了解更多资讯<<

点亮“星标”是您对我们最大的支持！

版权声明：

本文由施普林格·自然上海办公室负责翻译。中文内容仅供参考，一切内容以英文原版为准。欢迎转发至朋友圈，如需转载，请邮件[e-mail]。未经授权的翻译是侵权行为，版权方将保留追究法律责任的权利。

© 2023 Springer Nature Limited. All Rights Reserved

星标我们🌟，记得点赞、在看+转发哦!