查看原文
其他

量子机器学习的里程碑!CQC证明量子计算机可进行推理

光子盒研究院 光子盒 2021-12-15
光子盒研究院出品


人类天生会推理。
 
假设你在一个温暖的夏日出门,滑倒了。草是湿的,地面是泥泞的,你不禁会想:是下雨了还是邻居的洒水器把花园打湿了?通常我们的决定是基于这样的推理——如果你猜测这里下过雨,你可能会回屋找一把伞,以防路上再次下雨。
 
虽然推理对人类来说是直观的,但对今天的经典计算机来说却很难模拟尽管计算机可以帮助我们完成一些推理任务:例如,帮助医生进行医学诊断,也可以帮助金融专业人士管理投资。然而,这样的推理模型要求很高:它们需要耗时的计算、大量的数据,从而需要大量的电力。
 
通常,当被问及结果的可信度时,它们也不能对自己的答案和努力给出简单的解释。尤其当一个决策涉及多个yes/no选择时,这些问题变得尤为严重。
 
剑桥量子计算CQC新研究表明,量子计算机可以学会推理。可以说,量子计算机天生擅长不确定性推理——这是我们人类在日常生活中经常遇到的情况。
 
这个研究在arXiv上《用量子计算机进行变分推理》的论文中有详细描述。
 
CQC团队认为,机器学习科学家以及量子软件和硬件开发人员可能是对这一新的研究领域最感兴趣的群体。
 
前者可能会发现这些新工具对于解决诸如研究复杂系统中的推理和因果关系等雄心勃勃的问题很有用。后者可能会利用CQC的工作来发现近期量子计算机在科学、工程和商业中的新应用甚至是量子优势的机会。
 

推理是指从前提和可用信息中推断出结论。你注意到草是湿的。凭直觉,你可以推断一定是下雨了,或者是洒水器打湿了它,或者两者都有。这个推论基于你的前提,即你对“世界如何运转”的理解。
 
前提也可以是编码的专家知识。例如,在医学诊断中,推理是基于对风险因素、疾病和症状之间关系的专家知识。这种关系可以用图来表示。
 
依然是推断是否下雨的例子,把我们对湿草情况的理解模型化为一张图,图中的节点是系统的变量,即“草湿”、“洒水器”、“雨”和“多云”。这些变量已被观察到(如草的状态)或未被观察到(如洒水器的状态)。
 

 贝叶斯网络的简单模型
 
箭头表示连接变量之间的关联关系。例如,“多云”、“洒水器”和“雨”之间的联系编码了我们的想法,即多云的天空影响下雨的可能性和洒水器的活动。而“多云”和“草湿”之间没有直接联系,因为多云不会直接把草打湿(但这种影响可能是间接的,例如通过降雨)。
 
如果我们给所有节点分配条件概率,我们称为贝叶斯网络。
 
有了这样一个贝叶斯网络,我们可以问这样的问题,“如果下雨并且洒水装置关闭,草是湿的可能性有多大?”推论是这个问题的逆问题。再如,“洒水器、雨和云最有可能的状态是什么,可以解释我对湿草的观察?”对这样一个推论性问题的一个潜在答案可能是“洒水器没开,天空多云,还下过雨。”
 
但在现实世界中,推理是不确定的。因为信息经常是不完整的,或者因为我们对系统的理解是不完整的,甚至是不正确的。概率推理就是将不确定性纳入计算机辅助推理的一种原则性方式。不确定性推理是指在给定可用信息的情况下,对许多未观察到的变量的潜在配置进行推理。
 
贝叶斯网络已经成为解决这一任务的重要工具。有时,找到观测数据最有可能的“解释”就足够了。

不确定性推理的另一个任务可能是预测未来的结果,以及你对基于过去观察的预测的信心。在这些情况下,我们需要评估未观测数据的许多潜在结果的概率称为后验概率分布(posterior probability distribution)。在不确定条件下,估计后验分布是推理的关键。
 
在复杂系统中,使用传统的统计方法进行精确的概率推理几乎是不可能的。概率机器学习和人工智能提供了工具,帮助我们扩展到更大的系统。
 
变分推理(variational inference)就是这样一个工具。通过近似后验分布,并利用随机优化和其他技巧,将推理扩展到大规模数据集。然而,即使是这些方法也只能到此为止,因为对于给定的任务,后验分布的近似值可能根本不够表达。这促使经典机器学习研究人员寻找更具表达性的近似后验分布,例如标准化流(normalizing flow)。
 
此外,当未观察到的变量是离散的如洒水器开/关或下雨/不下雨时,标准变分推理可能会失败。
 

量子计算机的输出看起来是随机的。然而,我们可以编程量子计算机来输出具有特定模式的随机序列。这些模式是离散的,可能变得非常复杂,以至于经典计算机无法在合理的时间内计算它们。如果我们需要对越来越多的离散变量进行推理,情况就更糟了。
 
我们能够在量子计算机上运行标准变分推理吗?事情没那么简单。这些经典方法依赖于至少近似地知道控制未知变量随机模式的方程。因为量子计算机能够产生更复杂的模式,不可能把这些写下来。
 
为此,CQC开发了两个新的算法,允许用量子计算机进行有效的变分推理。这些变分量子算法克服了上述问题。
 
新算法直接优化量子计算机的输出模式,直到它们与未观测变量的真实后验分布产生的模式紧密匹配。量子计算机有效地输出推理问题的潜在解决方案,例如“给定观测数据,未观测变量的状态是什么?”然后,这些输出可以用于下游任务,例如,在给定可用数据的情况下找到最有可能的原因,或者预测未来的结果及其可信度。
 

为了展示其方法的有效性,研究人员在模拟器和一台IBM Q量子计算机上实现了三个原理证明。
 
1.“云-洒水器-雨”贝叶斯网络
 
首先,CQC的研究人员使用两个算法对前文中“云-洒水-雨”贝叶斯网络的随机实例进行推理。每个实例将随机条件概率分配给所有节点。两种方法都是“开箱即用”,没有太多的微调。
 
2.隐马尔可夫模型
 
接下来,他们在一个模拟金融时间序列的隐马尔可夫模型中推断市场机制的转换。此任务假设观察到的市场回报时间序列(由图中“Data”后的绿色表示)受描述市场机制(其时间序列由“Latent”后的黑色表示)的潜在变量的影响。例如,市场机制可能是牛市,也可能是熊市。与熊市相比,牛市的回报可能显示出更高的波动性。
 
隐马尔可夫模型后验分布的截断直方图。真实后验和玻恩机后验直方图在10种最可能的潜在配置后被截断。两个分布的模式匹配。
 
上面的直方图比较了近似后验分布(蓝色)和真实后验分布(品红)。为了进行比较,研究人员选择了一个小的系统,这样真实的后验概率仍然是可计算的。总的来说,CQC的方法与真实结果具有很好的一致性。
 
3.“肺癌”贝叶斯网络中的医学诊断
 
最后,研究人员探索了一个教科书上的例子,在给定关于症状和风险因素的部分可用信息的情况下,推断患者可能的疾病集。在这个例子中,他们使用了3个观察到的症状,并推断出5个未观察到的疾病和风险因素的配置。
 
下面的直方图比较了在量子计算模拟器(蓝色)和真实IBM Q量子计算机(灰色)上执行的算法的真实(红色)和近似后验概率。结果表明,CQC的方法可以在真正的量子硬件上工作。与模拟相比,量子计算机上的噪声导致收敛较慢。
 
医学诊断任务的后验分布直方图。显示了模拟后验和真实后验之间非常好的一致性,量子硬件结果尚未完全收敛。下面显示了实验中使用的ibmq_rome量子计算机的线性拓扑结构。
 

简单地说,CQC使用了两种最新的机器学习技术:对抗训练和核化Stein差异法。
 
对抗方法一前一后优化了一个经典概率分类器和一个被称为玻恩机的概率量子模型。玻恩机是近似后验分布的表达。它输出表示未观测变量配置的位串。训练步骤优化分类器和玻恩机的参数,直到其输出与真实后验分布的样本紧密匹配。
 
对抗方法。首先,一个经典概率分类器是基于先验和玻恩机的样本优化的。然后,它的输出用于优化玻恩机,使其分布更接近真实的后验分布。这个过程一直重复,直到收敛。
 
CQC第二种方法是在不进行对抗训练的情况下,使玻恩机和真实后验之间的核化Stein差异最小化。事实证明,他们只能用玻恩机的样本来估计这种差异。这通过将样本映射到再生核希尔伯特空间来实现。在这个核空间中,关于真实后验的期望消失了。最小核化Stein差异意味着玻恩机的输出模拟真实后验样本。
 
核化Stein差异法。设计了一个核映射,使得真实后验样本在核空间中的值为零。这允许在核空间中测量和优化玻恩机样本和真实后验样本之间的距离。
 
对抗方法属于优化f-散度的一类方法(这里是Kullback-Leibler),Stein方法属于优化对偶范数或积分概率度量的一类。
 

量子计算机对什么样的推理最有用?人们还没有一个明确的答案。因为变分推理、概率机器学习、量子计算等领域刚刚开始融合。只能说,从复杂分布中取样是当今含噪的量子设备实现量子优势的最有希望的方式。
 
CQC表示:“我们的推理方法基于取样,并且可以原则性地结合其他领域的专业知识。我们设想与生成建模或自然语言处理中的其他机器学习任务相结合,产生有意义的影响。”
 
随着量子硬件的成熟,CQC希望在未来几年更明确地回答这个开放性问题。
 
参考文章:
[1]https://medium.com/cambridge-quantum-computing/reasoning-under-uncertainty-with-a-near-term-quantum-computer-99882dc04bb
[2]https://arxiv.org/abs/2103.06720

—End—

相关阅读:
CQC实现有史以来最大的量子自然语言处理任务
量子机器学习将首次用于癌症治疗!CQC再下一城
IonQ和QC Ware在量子机器学习领域取得突破
能源巨头开发量子机器学习算法
量子+人工智能来了,多国取得重要进展

#光子盒社群招募中#

进入光子盒社群,与我们近距离互动,了解量子领域更多产业、商业、科技动态,领取量子技术产业报告。
 
现添加社群助手微信Hordcore即可进群 ,与我们一起展望未来!

你可能会错过:
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存