个性化脑机接口及应用
脑机接口(BCI)是一种变革传统人机交互的新型技术,用户的大脑是直接的控制信号源。在BCI转化为实际应用时,由于用户个体之间的感觉、知觉、表象与认知思维活动、脑结构与功能具有一定的差异,通用BCI难以满足不同个体的需求。为此,需要为特定用户定制个性化的BCI。迄今为止,少有文献对个性化BCI涉及的关键科学与技术问题进行阐述,本文聚焦个性化BCI,给出个性化BCI的定义,详述其设计研发以及评价方法和应用,并讨论个性化BCI面临的挑战及未来方向。期望本文对个性化BCI创新研究及实用化提供有益的思路。
脑机接口(Brain-computer Interface,BCI)旨在绕过用户的外周神经和肌肉由其脑信号实现大脑与外部设备的直接交互,具有潜在的医学[1]和非医学应用。研究者对BCI进行了大量研究[1],[2],提出了较为通用的体系结构[3],期望其有广泛的应用。
BCI最早由加州大学洛杉矶分校(UCLA)在1970年代提出[4],当时在动物身上进行了实验,建立了外部环境(或设备)与大脑之间的直接通信路径[5,6],其中2012年发表在《自然》杂志上的两项开创性研究[7-9]显示了BCI系统如何在瘫痪后实现神经手臂控制和手臂运动恢复。2017年,Ajiboye等的研究证实了皮质内BCI系统在肢体障碍患者康复中的有效性[10]。尽管目前已经建立了外部设备与大脑间的连接通路,并且可以从侵入式和非侵入式两个方面证实BCI系统的可用性,但BCI归根结底是由特定用户的心理活动及其诱发的脑信号驱动或操控的。不同用户心理活动及其诱发的脑信号特征差异较大[11],通用BCI系统难以满足特定用户的需求,这要求研发人员为其定制个性化的BCI系统。近年来,为了响应个性化治疗需求,个性化和家庭治疗方案的研究迅速扩大[12],个性化BCI逐渐成为BCI的一个重要的研究方向。
个性化BCI在通用BCI的基础上设计研发,根据特定BCI用户的特征为其定制BCI系统。2009年,Bormane等提出了一种有效降低多通道特征空间维数的特征选择方法,从特征空间中选择最适合特定用户的特征[13]。2011年,Arvaneh等提出用于脑信号通道选择的稀疏公共空间模式(sparse common spatial pattern ,SCSP)算法,为特定用户进行通道选择[14]。2015年,Weyand等发现在相同的心理任务和认知过程引发的刺激中,被试之间存在显著的差异,同时提出了以用户为中心的心理任务评分方法[15]。2017年,Mastakouri等将迁移学习应用于个性化BCI,实现特定用户脑信号分类模型的定制[16]。2020年,Qi W等提出了一个多模态可穿戴系统,用于在用户日常活动中连续和实时监测呼吸模式[17]。
以上研究都是BCI技术的个性化发展,即针对特定用户的需求定制BCI系统。然而,虽然已有研究对个性化BCI的一些方面进行了探索[11,14,18,19],但与通用BCI相比,这方面的研究较少,且没有规范的定义。个性化BCI还有许多需要深入研究的问题:首先,个性化BCI的范式设计是一个难点,如何评估用户对所选范式的满意度也是一个问题,特别是如何为特定用户定制满意的脑信号采集方案。其次,为提高个性化BCI的解码性能,脑信号的个性化处理和神经反馈需要解决哪些问题,目前少有文献对这两方面进行详细阐述。最后,是否能满足相关评价标准是证明一个系统是否有效的关键,目前尚没有较全面的个性化BCI性能评价方法,研究者们所提出的个性化BCI是否能够达到特定用户的需求还有待商榷。
为解决以上问题,需要针对个性化BCI设计完善的评价准则,提出一个规范的个性化BCI的定义,并在设计个性化BCI系统的过程中,尽可能的满足特定用户的需求。
为此,本文将首先讨论并给出一个个性化BCI的定义,然后对个性化BCI的研发环节进行论述。值得一提的是,本文结合通用BCI的评价指标,尝试提出了一个个性化BCI的评价标准。最后本文介绍与讨论个性化BCI的应用、面临的挑战、局限与前景。
个性化BCI是在通用BCI的基础上针对特定用户进行设计和研发的,为此,在阐述个性化BCI之前,下面首先介绍通用BCI,也便于比较。
1.1通用BCI
图1为通用BCI系统示意图,给出了一个BCI系统所包含的主要部分[20]。大多数BCI系统依赖于运动想象(Motor Imagery,MI)、P300、稳态视觉诱发电位(Steady-state visual evoked potentials ,SSVEP)三种典型的BCI范式。同时在脑信号的采集过程中,我们可以通过非侵入式设备采集EEG(Electroencephalogram),NIRS(near infrared spectroscopy)等信号,也可使用侵入式设备采集ECoG (Electrocorticography)[21,22]和LFP(Local field potential)[23]信号。脑信号的个性化处理包括预处理,特征提取与选择以及分类。脑信号预处理的经典算法有卡尔曼滤波[24]、独立成分分析[25]等。特征提取与选择算法也有很多,例如协方差矩阵[26]和张量法[27]等。目前人们对脑信号的分类算法的研究最多,普遍使用的分类算法有支持向量机、非线性贝叶斯分类器、人工神经网络[28]以及多种分类器的组合等[29]。最后图1中的神经反馈可以包括:外设状态、呈现的刺激、控制显示状态、设备控制器状态、用户状态及报告的错误、环境状态等[2]。
通用BCI系统框架有利于比较不同的BCI研究,其目的是提供客观的方法,将BCI技术与其他BCI和非BCI用户接口技术进行对比[2]。
图1:通用BCI系统示意图
(The schematic diagram of a general BCI system)
1.2 个性化BCI
尽管上述通用BCI系统框架试图提供BCI的基准应用,但由于BCI用户之间的个体差异较大(如图2(b)所示),需要在通用BCI系统框架的基础上,为特定的BCI用户定制个性化的BCI系统,如图2(a)所示。
(a)
(b)
(c)
图2(a)BCI用户之间的个体差异;
(b)在通用BCI的基础上研发和设计个性化BCI;
(c)个性化BCI系统示意图
个性化BCI是在通用BCI的基础上,充分考虑BCI用户之间的个体差异,如个体独特的需求、能力特征、心理活动和脑信号特征等[30]来设计、研发和评价BCI系统,以提升系统的用户满意度,增强用户体验感,使其走向实际应用。个性化BCI系统包括为特定BCI用户设计个性化的BCI范式[15,18]、适合用户的特定脑信号采集方案、个性化的脑信号处理算法[19,31](包含特定的预处理模型、个性化通道选择、个性化特征提取与选择以及个性化分类器模型)。除此而外,个性化BCI系统还包括适合用户的外设及控制接口设计与显示、个性化的神经反馈以及运行的智能环境[30],如图2(c)所示。
以上个性化BCI的思想也受到了个体化医疗的启发,个体化医疗是根据病患的基因组信息与相关个体特征,为病患提供个性化治疗方案的一种医疗模式[32],而个性化BCI是设计、研发和评价BCI系统的一种理念和方法。图2(a)表明由生物异质性决定的个体差异使得BCI个体用户的需求(如与外界的交流和控制、神经调节和脑状态监测等)不同,他们的能力特征(如自理能力、视力、听力和想象能力等)、状态特征(身体或生理状况)差异会影响心理活动(包括动机),而心理活动的差异会引起脑信号特征的差异,进而会导致训练的解码模型存在差异,解码结果不同,神经反馈也存在差异。这些差异会导致通用的BCI难以适应或满足不同用户的需求,这就要求我们针对特定用户的情况定制个性化的BCI系统,如图2(b)所示,实现从通用BCI到个性化BCI的转化。
在下文中,我们分别阐述个性化BCI设计与研发方法以及其性能评价和报告准则,特别详述了个性化BCI的应用。
针对特定BCI用户,为实现从通用BCI到个性化BCI的转化,可以对通用BCI的组成部分进行个性化的设计,如表1所示。表1中列出了针对BCI特定部分进行的个性化研究,也包括整体个性化BCI 算法。除此而外,本节也阐述了特定用户的脑信号采集方案、特定的预处理模型、个性化神经反馈与智能环境。
Table 1.Some studies for personalized BCI design.
2.1 个性化的BCI范式设计
认知心理学认为信息加工以心理表征为基本单元,把心理表征的构建、存储、提取以及操纵称为认知过程,而认知过程可以由大脑活动来反映[15]。BCI通过分析大脑活动信号来推测用户认知过程或状态,因此,BCI系统的设计和研发可以借鉴认知心理学的成果。
BCI系统主要由编码和解码组成,其中的BCI编码是为用户预先设计或指定的特定心理任务,通过用户执行这些设定的心理任务,把用户的意图编码或者“写入”到大脑中枢神经活动产生的信号中[15,38,39],如编码到脑电(electroencephalogram,EEG)信号或近红外光谱(near infrared spectroscopy,NIRS)信号中,由EEG或NIRS特征表征用户意图。
BCI编码由BCI范式实现,BCI范式基于BCI编码设定的心理任务,由硬件和软件实现大脑与外部设备直接的交互,构成一类通信或控制系统。BCI范式设计是BCI研发的重要组成部分,它决定用户将面对何种类型的刺激并选择目标刺激,或主动执行什么样的心理活动,进而决定诱导出的神经信号特征[40,41]。如运动想象(motorimagery,MI)BCI范式,该范式明确了为操控MI-BCI,要求用户执行的一组MI任务,包括参与运动的肢体以及运动方式。同步的MI-BCI范式需要由硬件和软件把范式可视化呈现给用户,以提示其按设计的时序执行指定的MI[18],异步的MI范式不需要提示。
不同的BCI范式有不同的功效和适用性,BCI个体用户可根据自己的需求进行选择,同时根据自己的能力和状态特征,考虑执行BCI范式指定心理任务的能力,并结合自己对心理任务的偏好,选择适合自己的个性化BCI范式。
个性化BCI范式一个重要方面是个性化心理任务,个性化心理任务由任务表现(用户执行任务的表现,如分类精度等)、任务适宜性(任务对用户的适宜性)和任务易执行性(用户执行任务的难易度)评价。在设计个性化BCI范式时,有必要对个性化心理任务进行评价。迄今为止,个性化的BCI范式设计主要有以下两种方法:一种是基于心理任务评分的设计方法[11],即通过计算心理任务得分为用户推荐任务,然后用户再根据自己情况进行选择;一种是基于反馈自主调整BCI范式,即将用户放在闭环的系统中,利用可视化呈现等手段让其通过反馈机制自主调整心理任务及其执行方式[18]。
(1)基于心理任务评分的个性化BCI范式设计
Weyand等人提出了以用户为中心的心理任务选择框架(user-centered mental task selection framework),由该框架为用户选择个性化心理任务时,设计多组实验,前几组实验中要求用户执行备选的多种不同心理任务,并利用所提框架对每一种任务进行评分,在之后几组实验中,要求用户根据评分和自己的感受选择适合自己的个性化心理任务。目前有加权斜率评分(User-selected weighted slope scores ,WS-US)、成对精度等级评分(User-selected pair-wise accuracy rankings,PWAR- US)、可重复成套神经心理状态评分(Repeatable Battery for the Assessment of Neuropsychological StatusRBANS) [15]等评分方法。对于WS-US评分方法,以近红外光谱采集方法为例,根据多种不同心理任务期间血液动力学活动程度对任务进行排序,用户参考排序情况选择心理任务;对于PWAR- US评分方法,选取合适的分类特征,对备选心理任务所有可能的成对组合,采用交叉验证进行一次迭代,然后由PWAR- US对这些任务对进行从高到低排序,排序越靠前的任务,分类准确率越高[15];对于RBANS评分方法,要求每个参与者在所有迭代中根据自己感知到的执行任务难易度数据,在列表中选择一对任务[33]。
(2)基于可视化反馈的个性化BCI范式执行
不同BCI用户执行BCI范式指定心理任务的方式通常不相同,同一BCI用户执行特定心理任务的方式也可能有多种,需要为用户寻找适合自己的个性化心理任务执行方式,以诱发可分性好的脑信号特征,从而进一步提高BCI系统的性能,如分类精度等。
此外,BCI系统的核心之一是先进的机器学习算法,它将用户的脑信号特征分类为期望的动作或指令,该算法通常在高维的脑信号特征空间中进行操作,当其不能正确地从脑信号中辨别出想要的指令,可以由数据的可视化反馈来找出原因[18]。目前,支持可视化反馈的技术主要有自组织地图(self-organizing mapSOM),SOM具有降维的作用,能够将记录的神经信号在线可视化为二维SOM上的轨迹,可以为用户提供实时反馈,以帮助用户及时调整执行心理任务的方式并改变心理状态[34,42,43]。
Kuzovkin等人采用可视化反馈的方法帮助用户选择最适合自己的心理范式[34],通过适当的简化,能够直接将心理活动可视化地呈现给用户,用户可以在交互过程中对自己的心理活动实时评估并进行调节,实现“所想即所见或所见即所想”。图3所示为把用户心理活动可视化反馈给该用户,使其及时调整执行心理任务的方式。开始时由于用户没有想象左手或右手运动的经验,其想象的方式往往不适当,可视化反馈的感觉运动节律功率地形图在左右脑的差异不显著,BCI机器学习算法难以区分。用户为提高BCI的分类性能,必须调整自己的心理活动方式,随着其与可视化反馈系统的交互适应,逐渐找到最适合自己的左右手运动想象执行方式,此时,可视化反馈的感觉运动节律功率地形图在左右脑的差异显著,BCI机器学习算法可以准确识别。
这种可视化反馈方法促进了用户与BCI机器学习算法之间的“对话”,通过可视化地向用户解释为什么其当前的一系列心理活动是BCI系统难以识别的、哪些心理活动能够被系统很好地识别以及应该改变哪些心理活动执行方式[11]。用户通过不断调整自己的心理活动,为每个心理任务找到合适的执行方式,使BCI的输出性能持续改善。
图3 通过可视化反馈给用户使其及时调整执行心理任务的方式
2.2特定用户的脑信号采集方案
脑信号采集传感器技术是BCI系统实用化的瓶颈之一,目前采集到的脑信号质量不高,用户的舒适感较差[44,45]。因此,研发能够采集到满足应用的脑信号的传感器,并使其用户体验感好是未来努力的方向。Lyu X等人认为以用户为中心设计脑信号采集方案,要确保传感器设备的安全性、舒适感、美观性和易用性[30]。
目前,脑信号采集方法有多种,然而不是所有的脑信号采集方法[46]都适合特定的BCI用户。由于不同BCI用户的需求、能力特征和状态特征不同,其对脑信号采集方法会有相应的偏好,例如有些BCI用户,可能更愿意选择可穿戴式的EEG耳机,而有些BCI用户,可能只能使用植入式BCI采集ECoG[21,22]或者Spikes/LFP信号[23]。
2.3 脑信号的个性化处理
脑信号的处理模块包括信号的通道选择、特征提取、模式识别等环节。因为每个个体的思维活动,脑部的生理特征不同,采集到的大脑信号也会有所不同,所以对于个性化的BCI系统,信号的个性化处理也是非常重要的一个部分。
2.3.1 特定的预处理模型
脑信号预处理是后续特征提取与选择以及分类模型构建的前置环节,其目的是剔除伪迹,提高信噪比。在通用BCI中,采用通用的伪迹剔除模型提高信噪比,然而不同的BCI用户引起的肌电和眼电等伪迹特征往往不同,需要引入先进的机器学习算法,为特定BCI用户构建伪迹剔除模型,实时监测其产生的伪迹并剔除。
2.3.2 个性化的通道选择
在BCI系统的实验研究中,为了获得更多的数据,往往用多通道采集脑信号,然而并不是每个通道对分类有贡献,有的通道甚至会降低分类精度,不同的通道组合分类性能往往不同。此外,在相同的BCI范式或心理任务下,不同用户脑区的激活之间存在差异,当前人们可以利用格兰杰因果[47]、动态因果建模[48]等手段,计算神经元之间的连接和信息传递的因果关系,为特定BCI用户选择脑区或相应的通道组合,以使BCI系统性能最优。例如,运动想象BCI范式,用户之间ERD/ERS在头皮的分布不完全相同,有必要为不同的运动想象BCI用户进行个性化通道选择。
目前有许多个性化通道选择算法,其选择标准往往不同,但主要目的是为用户选择最适合的通道子集。例如,稀疏公共空间模式(sparse common spatial pattern,SCSP)可以去除不相关的通道,为用户定制通道子集以产生最佳的分类精度,或者不在影响分类精度的前提下,保留最少数量的通道,该算法已成功用于运动想象BCI[14]。选择分布估计 (Select distribution estimation EDA) 能捕获通道之间的相关关系,并根据统计相关性对这些关系编码,进而为BCI用户挑选出性能最好的子集[19]。此外,Wang 等人提出了基于深度信念网络的个性化通道选择方法,该算法基于对神经元输出贡献越大的通道其相应维度的权重越大,通过选取训练后的DBN模型第一层权重较高的几个通道作为最优通道组合[31]。
2.3.3 个性化的特征提取与选择
为以高精度识别BCI用户的心理状态,提取并选择可分性好的脑信号特征是后续分类的前提或基础,是个性化脑信号处理的核心部分。由于不同用户的心理活动方式与能力、生理状况等有差异,在相同BCI范式或心理任务下,同一通道不同用户的时频特征分布不一样, 因此需要针对特定用户进行个性化的特征提取和选择。例如,运动想象心理任务,同一通道(如C3或C4) , 不同用户的ERD/ERS 时频特征分布不一样。
目前个性化的特征提取与选择可通过FBCSP、互信息、遗传算法等,为用户筛选最佳特征。例如,Wang等提出了一种基于滤波器组和弹性网络的个性化特征提取方法,首先采用FBCSP进行特征提取,然后利用训练数据构建弹性网络逻辑回归模型,为每个受试者选出最佳的特征子集[31]。Bormane等提出了一种能有效降低特征空间维数的两阶段特征选择方法。首先采用互信息滤除判别最小的特征,然后将遗传算法用于滤除后的特征空间,以进一步降低维数并得到最佳的特征子集[13]。
2.3.4个性化的分类模型
通用BCI的分类模型有很多,但通用模型不一定适合为特定用户定制的BCI,有必要为个性化BCI系统选择适合用户应用的分类器类型,离散和连续控制任务通常分别选择输出为离散值的分类器和输出为连续信号的回归模型,然后利用上一节选择的特征进行训练,获得个性化的分类模型。此外,由于BCI用户脑信号的非平稳性(脑信号特征随时间变化),训练好的分类模型需要适应这种非平稳性,可以采用在线自适应机器学习更新分类模型参数。
有研究将迁移学习用于预测受试者的个性化分类模型,利用受试者已有的数据为新受试者预测个性化模型,或者为其更新已有模型。Mastakouri等基于迁移学习利用前25位受试者的数据为第26位受试者训练个性化模型,然后由此模型来预测该受试者的其他试验[16]。这种由迁移学习训练的个性化模型将EEG节律与运动表现联系起来,使研究者能够处理不同受试者运动表现的异质性。Kalaganis等提出了一种适用于图信号的数据增强方法,该方法利用图变体经验模式分解,生成人工EEG信号以提高个性化BCI的分类精度[36]。
由于个体之间的脑信号差异较大,以及个体的脑信号特征随时间变化,迁移学习用于BCI的效果有限。尽管研究者已提出了一些个性化的分类器模型,但Lopes-Dias等的工作表明[49],对于部分BCI用户,个性化分类器模型的分类效果与通用的分类器模型没有明显差异,甚至低于通用的分类器模型,这有可能是个性化分类模型训练引起的。
2.3.5 基于整体BCI系统的个性化算法设计
除了对BCI范式、脑信号采集方案、预处理模型、通道选择、特征提取与选择、分类模型这些环节进行个性化设计外,还需要从整个BCI系统的角度出发,为特定BCI用户定制BCI系统并进一步优化。
Ugarte等提出了一种加权鉴别器(Weighted discriminator ,WD)指标[35],该权重反映了受试者对相应参数(如不同信号采集和处理方案)的偏好,为受试者选择最适合的方案,并整合成为其定制的BCI系统。Bashashati等提出了一种基于贝叶斯的优化算法,将其应用于运动想象BCI中[37],根据每个受试者的脑信号特征,该算法利用贝叶斯来优化通道、频段和时段等参数,并对这些参数进行评估以提供个性化的BCI系统。以上研究基于整个BCI系统来设计个性化算法,这方面的研究还有待深入开展。
2.4 个性化神经反馈
神经反馈(Neurofeedback,NF)是一种基于中枢神经活动的生物反馈技术[50][51],是BCI系统的关键环节之一,由其构成闭环双向BCI系统,通过视觉、听觉或触觉等反馈形式将神经活动实时反馈给用户,并运用操作性条件反射原理使用户学会自主增强或抑制神经活动,凭借神经反馈训练达到内源性调控大脑活动,如图1所示。通过神经反馈,可以把用户的脑活动特征、BCI解码结果以及与外设通信或控制的结果以视觉、听觉或触觉等方式可视化地反馈给用户,以调整其心理活动方式,从而调节其脑信号,实现驱动BCI系统并提升其性能[1]。BCI 操作通常需要两个自适应控制器(用户和BCI 自适应算法)的有效交互,神经反馈起到关键作用[1]。
由于不同BCI用户执行相同心理任务时的能力、状态以及方式存在差异,其脑信号特征也存在差异,进而BCI解码结果以及通信或控制结果存在差异,最终导致向用户反馈信号的内容有所不同,其自我调节的过程也不同。此外,不同的BCI用户对神经反馈的形式或界面有偏好。因此,有必要为特定的BCI用户设计个性化的神经反馈。
个性化神经反馈不仅要能够调节特定用户的神经活动,也要在反馈的过程中提高用户的体验感和满意度[52,53]。然而,现有BCI神经反馈比较消耗脑力,用户心理上和身体上易疲劳,甚至觉得枯燥。为了增加神经反馈的有效性,应根据用户的特点(如是健康的,还是有听觉或视觉障碍)来设计特定的反馈通道,并让其轻松愉快的进行神经反馈,而不是完成一个乏味的任务。
2.5 个性化的智能环境
BCI系统是在环境中运行的,其及用户与环境相互作用,该系统的性能与运行环境紧密相关。目前,多数 BCI 系统的研发是在控制良好、结构化的实验室环境中进行的,这样的BCI系统通常难以适应用户的日常生活和工作环境[30],有研究引入共享控制以提高BCI系统的鲁棒性[54]。此外,当前BCI系统的性能或功效还非常有限,有必要设计智能化的运行环境,例如,可由其运行环境中的智能传感器网络和深度学习等技术构建智能化环境系统并与BCI系统融合,以进一步提高BCI系统的性能。
针对特定BCI用户的需求(要求BCI提供的功效能解决其问题)及其能力,并充分考虑其生活或工作环境(可能具有某些独特性),构建适合特定BCI系统(如不同BCI范式)运行和操作的智能化环境,并考虑用户对智能环境的偏好。设计这样的个性化智能环境有利于增强BCI系统与用户的交互性能,提高用户的体验感和满意度[55,56]。
为比较不同BCI系统的性能,报告其性能的准则至关重要[2],个性化BCI也不例外(如图2c所示)。此外,个性化BCI性能评价方法也方便特定用户对该类BCI进行评价以促进其完善。
个性化BCI是在通用BCI的基础上设计研发的(如图2b所示),因此,个性化BCI性能也需要按照通用BCI性能指标进行定量或客观的评价,除此而外,还需要从特定BCI用户的角度出发,通过满意度等指标对其进行评价[30,54]。
3.1 通用BCI系统性能评价方法
通用BCI系统性能评价方法如表2所示,从研发者角度由多种定量指标对其进行评价[2]。在表2中,最常用的指标是分类正确率、信息传输率和Cohen’s Kappa,这三个指标分别体现了BCI的准确性、传输速率以及一致性,可以在一定程度上对BCI做出评估,而敏感性、特异性、误检率、F-测量等指标[2]则可以作为上述三个指标的补充。
表2 通用BCI系统性能评价方法
3.2 个性化BCI性能评价方法
在图4中,特定用户对BCI传感器的满意度评价极为重要,因为BCI传感器的性能会严重影响用户对BCI的接受度[30,54],特定用户操控BCI的工作负荷评价也会影响用户对BCI的接受度[30]。除此而外,也包含了特定用户的视觉模拟量表[2,58],以及特定用户对BCI总体满意度评价[30,54],后者可采用用户对辅助技术满意度评价表 Quest 2.0 及其扩展表[56,58,59]。特别需要注意的是,与特定用户面谈/随访评价非常必要和重,其中的四个问题是BCI技术转化为实际应用需要考虑的[1]。
图4个性化BCI性能评价方法
不管是实验范式的个性化、脑信号处理的个性化还是神经反馈的个性化,其最终目的都是搭建BCI系统平台并投入到实际的应用中。在这个部分中,我们将探讨个性化BCI在运动功能障碍康复、精神疾病治疗康复、情绪识别等领域的应用。表3中列出了迄今为止主要的个性化BCI应用,同时本章将对表中内容进行评述。
Table 3 Different applications of personalized BCI
4.1 个性化BCI在辅助控制中的应用
目前BCI在辅助控制方面应用最多。其中BCI在通信与控制、运动替代等方向已经得到了大量的研究以及较为广泛的应用。
1)通信与控制
无论是BCI的通信还是控制,其基本原理都是类似的,都是通过识别特定模式的大脑信号,实现对外部指令/符号的输出。通过 BCI,严重残疾的用户可以与其他人进行交流,并对外部环境进行控制。Abiri等设计了一个基于手势控制的社交机器人[60],通过与神经反馈机制相结合,为用户定制解码模型以控制社交机器人的手势。Uma,M等开发的了一个个性化的GUI应用程序与EEG设备协作以满足用户的需求[43]。Abiri等证实,在光标控制中,个体的可视化能力与其光标的可控性水平之间存在正相关关系,这可以为个性化的光标控制提供方向[70]。
2)运动替代
AnnalisaColucci等在2022年发表的文献中提到[71],将大脑/神经活动转换为可穿戴执行器的控制信号,能够让大脑/神经外骨骼(B/NE)在运动功能受损的情况下执行运动。在个性化BCI中,Coscia M等[61]通过监测预测精神疲惫的生理生物标志物,例如心率变异性、皮肤电反应或呼吸频率,根据患者的个体能力进行调整改善B/NE的控制参数。此外,Vinoj等人开发了可以根据残疾程度进行个性化定制[62]下肢外骨骼(brain-controlled lower limb exoskeleton BCLLE)。
4.2 个性化BCI在神经疾病康复中的应用
下面以帕金森(Parkinson disease, PD)和脑卒中后的治疗康复为例,讨论个性化BCI在运动与认知功能障碍康复领域的应用。
1)帕金森病的治疗康复
目前还没有能完全治愈帕金森病的方法[72],个性化BCI有望使帕金森病患者的症状有所好转。Bronte-Stewart H M等利用双向深部脑机接口(bidirectional deep brain-computer interface ,dBCI)提出了个性化双阈值控制策略,并将该策略应用于神经或运动输入,以驱动闭环丘脑底核深部脑刺激 (subthalamic nucleus - deep brain stimulation STN-DBS ),用于治疗帕金森病[63]。这是一种个性化的BCI,与传统BCI不同,其根据特定用户的活动状态和用药周期无缝地调整神经刺激的参数,目的是为特定的帕金森病患者提供治疗康复效果最佳的参数,该研究首次证明了闭环深部脑刺激(Deep brain stimulation ,DBS)对PD可行性和有效性。
2)脑卒中后康复
脑卒中会导致患者认知障碍或/和运动障碍[73],针对这两种障碍的康复,当前个性化BCI主要利用基于BCI的神经反馈训练以及经颅电刺激(transcranial electrical stimulation TES)进行干预。
(1)认知障碍康复
研究发现增加特定EEG频带的能量可以改善认知表现,Kübler A等利用该发现设计了基于BCI的神经反馈训练模块以增强脑卒中患者的认知功能,提出了一种神经心理学算法,根据神经心理测试结果,可以为特定脑卒中患者定制或分配不同的、最适合的神经反馈训练模块[64]。
(2)运动障碍康复
Mane R等采用经颅直流电刺激结合BCI(transcranial Direct Current Stimulation coupled BCI TDCS-BCI)对脑卒中患者上肢运动障碍进行干预,发现脑对称指标和功率比指标(Power ratio index PRI)是TDCS-BCI干预的最佳预测指标,这些预测指标有助于识别不同患者的生物特征标志[65]。可以利用特定患者的这种生物特征标志预测其对现有干预措施的预期反应,将预期收益最高的干预措施推荐给患者,从而实现个性化的康复方案。与传统BCI相比,这种个性化BCI应用解决了通用方案对不同患者的适应性问题,为每个患者提供适合自己的、预期收益更高的康复方案。
4.2 个性化BCI在精神障碍康复中的应用
以从大脑向外输出指令为主的BCI(输出式BCI)其功能主要实现与外部世界的通信与控制,与这类BCI相比,还有另一类 BCI,主要由外部设备或机器绕过外周神经或肌肉系统直接向大脑输入电(如DBS),经颅直流/交流电刺激(Transcranial direct/ alternating current stimulation,tDCS/tACS[74-76]))、磁(如经颅磁刺激(Transcranial Magnetic Stimulation,TMS))、声(如经颅超声刺激(Transcranial ultrasound stimulation,TUS))和光等刺激或神经反馈,以调节中枢神经活动,这类BCI可用于精神障碍的物理干预以促进康复。
输入式BCI对精神障碍的调节功效一个主要因素是对特定患者优化最佳神经调节或刺激参数,即个性化的刺激参数设置。Fellous, J.-M.等采用先进的机器学习算法识别大脑状态,并利用神经特征优化刺激参数,他们引入了可解释的人工智能(ExplainableArtifificial Intelligence XAI),以数据驱动的方式识别特定的生物特征标志(如事件相关电位(Event-related Potentials,ERPs)[76-79])来检测异常神经活动[80]。例如,在酒精成瘾患者和动物模型中观察到延迟和/或降低的ERP振幅[78,79,81,82]。当检测到异常的神经活动时开启对大脑的刺激,自适应调整刺激参数,并在大脑活动正常化后立即关闭刺激[66]。ERPs和机器学习可以支持精神症状的诊断,并对特定受试者的疾病进展和治疗结果进行预测,从而实现个性化的治疗康复[67,83]。
4.3 个性化BCI在情绪识别中的应用
情绪调节对个体的身心健康很重要,情绪识别是情绪调节的基础。不同个体的情绪会随时间和环境的变化而变化[84],因此,需要为特定个体定制BCI以识别情绪。
情感BCI (Affective BCI,aBCI)通过测量神经生理信号来监测情绪状态,帮助用户主动定制心理任务,以提高人机交互的性能[68]。例如,个体利用情绪变化操控游戏,当其意识到自己的情绪状态会影响游戏参数时,他会根据自己的偏好主动改变情绪,通过操控游戏的结果和情绪反馈对心理任务进行调整,实现基于个性化的aBCI操控游戏[85]。
此外, Daly等研发了一种用于音乐脑机接口(Brain-computer music interfaces,BCMI)的情绪状态检测系统[69],其中的BCMI通过音乐诱发用户情绪以帮助其调节情绪[37]。Daly 等针对每个受试者训练分类器(实验中使用的音乐刺激由情感算法作曲(Affective algorithm composition AAC)系统创作[86,87]),实验结果表明,与普通的BCIM相比(P<0.05),个性化的BCMI系统能够更准确地检测受试者的情绪(P<0.01)。
4.4 考虑特定用户的BCI相关研究
运动想象(Motor Imagery,MI)、P300、稳态视觉诱发电位(Steady-state visual evoked potentials ,SSVEP)是三种典型的BCI范式。由于特定BCI用户的需求、能力特征、脑信号特征等差异较大,因此,在通用BCI基础上为特定用户定制以上BCI是目前及未来的一个研究方向。
在MI-BCI研究中,Delisle-Rodriguez D等通过用于时频表示的稀疏性约束和总功率,自动定位特定受试者运动想象期间功率最高的波段,以提升分类精度[88]。其次,Wu F等提出了一种具有可分性的、多尺度的滤波器组切空间映射(discriminative and multi-scale filter bank tangent space mapping,DMFBTSM)算法,该算法可为特定受试者定制滤波器组,实现对多类MI任务的识别[89]。此外,Kumar S等为特定受试者优化时域滤波器[90],Gaur P等利用皮尔逊相关系数为特定受试者进行通道选择[91]。
在P300-BCI研究中,Sellers E W等通过定制矩阵大小和刺激间隔(inter stimulus interval ,ISI)等参数为特定用户优化P300-BCI系统[92],Erdogan B等分析了特定用户对拼写范式的反应,为其确定最合适的P300检测频带[93]。近年来,Wang H等采用多尺度卷积神经网络(multiscale-CNN,MS-CNN)训练通用解码模型,然后通过迁移学习,利用特定受试者的一部分数据调整通用模型,以获得为其定制的解码模型[94]。此外,Li M等提出了一种基于交叉验证和自适应阈值的TrAdaBoost(一种迁移学习算法)(TrAdaBoost based on cross-validation and an adaptive threshold,CV-T-TAB),通过选择和组合在新受试上表现良好的已有的多个受试者的分类器,减少了训练所需的数据量,有效地提高了具有少量数据的特定受试者的分类器性能[95]。
在SSVEP研究中,Ravi A等通过为特定用户定制通道子集的方法,以减少刺激间距的变化对SSVEP解码性能的影响[96],其次,Rejer I等利用小波变换(Wavelet Transform,WT)为特定用户确定最佳闪烁频率,以实现SSVEP-BCI的定制[97]。此外,Mehdizavareh M H等利用其他受试者的训练数据来优化特定受试者典型关联分析(canonical correlation analysis ,CCA)模型的超参数[98],Peters B引入了一种自适应选择特定用户试验长度的方法,该方法可以提高信息传输速率和字母选择的正确率[99]。以上研究在SSVEP-BCI的某些方面为特定受试者或用户做了个性化的设计。
5.1 个性化BCI面临的挑战
个性化BCI所面临的挑战不仅仅来自于通用BCI本身的局限,其本身也有许多亟待解决的问题。以下部分将从通用BCI向个性化BCI的转换以及BCI范式、传感器、脑信号分析、神经反馈和评价方法等角度阐述为特定用户定制BCI时需要解决的问题。
1) 如何把通用BCI个性化以适合特定用户
在个性化BCI的研究中,如何处理其与通用BCI的关系,即如何在通用BCI的基础上针对特定用户进行个性化的设计以使其满意,是BCI转化为实际应用面临的一个挑战,也是未来BCI研究的一个重要方向。
2)何种BCI范式适合或使特定用户满意
虽然目前个性化的BCI研究可以让特定用户自由选择已有范式[11],以及通过神经反馈自动调节既定范式[18],但已有范式(如MI范式、P300范式和SSVEP范式等)有其固有的缺陷,例如Chuan-Chih Hsu等提出低频SSVEP会导致光敏性癫痫的风险[100],P300实验时间过长,MI对用户想象能力的要求较高。现有范式难以满足特定用户的需求并使其满意。如何针对特定用户改进已有BCI范式,或如何为其定制新的BCI范式,并将用户评价指标纳入范式设计中,是个性化BCI研究另一个挑战和重要方向。
3)何种脑信号采集传感器适合或使特定BCI用户满意
脑信号采集传感器技术的局限是阻碍BCI系统实用化的瓶颈,目前的无创BCI传感器用户的舒适感(如湿电极需要凝胶或生理盐水降低阻抗,干电极需要一定的压力使其紧贴头皮)和易用性较差(放置或佩戴电极通常需要他人辅助),有创BCI传感器的安全性存在问题(如ECoG记录和皮质内记录会引发创伤),这些因素使BCI的用户满意度较低。Yu和Qi在2018年[101]进行了一项消费者调查,以选择最佳的可穿戴无创脑电图BCI,选择合适的耳机的三个主要特征是以下标准:安全—84.26%,效果精度59.34%,佩戴舒适58.3%.其证明在设计安全且能在采集到有效脑信号的前提下,使特定用户满意的传感器是目前个性化BCI面临的挑战之一。
4)特定用户的何种脑信号特征适合驱动BCI
当把由许多受试者或用户的脑信号数据训练的通用BCI模型用于特定用户时,通常难以确保其性能满足要求,因为个体间以及个体内随时间变化的脑信号差异较大。在特定BCI范式下,如何满足特定用户需求并为其定制特征子集以及分类模型以更好的驱动BCI,还需要深入研究。例如2021年Qi, Wen提出了一种多层递归神经网络(RNN),由长短期记忆(LSTM)模块和漏失层组成[102],有效的提升了脑信号的分类性能,并表现出较强的抗干扰能力。
5)何种神经反馈能够提高BCI性能并使特定用户满意
BCI中神经反馈的是特定用户的大脑活动信息或由其得到的通信与控制结果,以促进用户调整心理活动策略,提高操控BCI的性能。例如D. Borton等提出可以通过闭环的神经反馈,通过调整参数以及不同神经调节特征的引入,满足患者特定动态需求( to meet dynamic patient-specific needs),提供改变神经元网络动态状态(alter the dynamic state of neuronal networks)的机会[103]。如何为特定用户定制神经反馈方案(包括反馈何种脑信号特征、调节方向以及反馈的呈现方式等)以避免枯燥乏味的神经反馈内容和形式,提供具有激励性、沉浸感和用户满意的神经反馈,这也是未来个性化BCI研究的一个重要方面。
6)如何评价为特定用户定制的BCI性能
虽然已有评价或报告BCI性能的准则[57],主要是从技术角度的客观评价指标,但由于BCI是直接由特定用户的脑信号操控,以提高用户的工作效率和生活质量,为此,还需要结合以用户为中心的BCI评价方法,以研发出用户满意的BCI。尽管本文尝试给出了个性化BCI的评价方法,但还需要进一步完善和验证。
5.2 个性化BCI的局限性
尽管个性化BCI有许多的优点,也有很多亟待完善的地方,但由于其必须针对特定用户定制,本身就具有一定的局限性。
首先是资金问题,特定用户不一定可以接受定制个性化BCI带来的制作成本的飙升,同时个性化BCI的研发也需要资金的推动,仅仅针对特定用户进行个性化的研发很难得到更多的资金支持。其次,BCI的研发时间与流程较长,很难使特定用户在短期内使用个性化BCI,而在长时间的定制过程中,用户的需求也会逐渐发生变化,这使得我们无法真正满足特定用户的需求。最后,有些用户并不具备使用BCI的条件或使用BCI的能力较差[104],很难为这些用户定制个性化BCI。
5.3个性化BCI的前景
经过多年的发展,BCI已有较为通用的体系结构,其在医学和非医学领域具有潜在的应用并有许多研究进行了验证。目前BCI研究与实际应用之间还有较大的差距,个性化BCI的研究主要还是集中在医疗康复领域,着眼于让患者获得最适合自己的治疗参数。在以后有望能做到一人一方案,将BCI与其他手段结合,不仅仅只是调整范式和治疗参数,而是使患者获得完整的,从治疗到康复的一整套属于自己的治疗方案。个性化BCI在其他如生活、游戏、军事、交通领域也可以有自己的应用。在生活领域,个性化BCI可以向多模态可穿戴设备的方向发展,根据长时间的、连续的脑信号为用户提供最适合其的服务(如随时监测其生理状态并在一定程度上为其定制治疗方案),这一应用可极大的方便残障人士或老年人的生活。在交通领域,个性化BCI可以和自动驾驶技术结合,通过用户特征为其定制路线,行驶风格等。在军事领域,个性化BCI可以通过士兵的个体特征,为其定制自己的作战方案(例如通过特制的枪支为士兵调节自己的射击距离,强度等)。
目前个性化BCI的研究可以向两个方向发展,在一方面可以将信号溯源到具体神经元,通过神经之间的个性连接探索不同用户的生理差异,另一方面可以为用户定制个性化的传感器,实现用户意图的个性化识别。个性化BCI将是通用BCI走向实用化的重要途经之一,其在通用BCI的基础上为特定用户定制BCI以满足用户需求并提高其满意度。期望个性化BCI的理念和方法在BCI产业转化中具有促进作用。
本文首先尝试给出个性化BCI的定义,并阐述了个性化BCI的设计与研发,包括个性化的BCI范式、通道选择、特征提取与选择、分类模型以及神经反馈等。接着把通用BCI系统性能评价方法与从用户角度的评价方法相结合,探讨了个性化BCI的评价方法。随后介绍了个性化BCI的应用研究,涉及BCI的辅助控制、神经精神疾病康复和情绪识别等,最后讨论了个性化BCI面临的挑战与前景。总之,由于BCI不同用户之间存在个体差异性,个性化BCI的设计开发将是未来一个非常重要的发展方向,如何满足特定用户的需求、完善个性化系统设计中的关键技术、以及建立完善的评估体系将是未来研究工作中的重点方向。
原文链接:
Ma, Y.; Gong, A.; Nan, W.; Ding, P.; Wang, F.; Fu, Y. Personalized Brain–Computer Interface and Its Applications.J. Pers. Med. 2023, 13, 46. https://doi.org/10.3390/jpm13010046
仅用于学术分享,若侵权请留言,即时删侵!
更多阅读
加入社群
欢迎加入脑机接口社区交流群,
探讨脑机接口领域话题,实时跟踪脑机接口前沿。
加微信群:
添加微信:RoseBCI【备注:姓名+行业/专业】。
加QQ群:913607986
欢迎来稿
1.欢迎来稿。投稿咨询,请联系微信:RoseBCI
2.加入社区成为兼职创作者,请联系微信:RoseBCI
点个在看祝你开心一整天!