查看原文
其他

融资1.54亿美元!这家公司明年将大规模部署光子AI硬件

光子盒研究院 光子盒 2023-11-30
光子盒研究院
6月1日,光子技术公司Lightmatter宣布,该公司已从SIP Global、富达管理与研究、维京全球投资者、谷歌风投、慧与探路者及现有投资者那里筹集了1.54亿美元的C轮融资。通过这轮融资,Lightmatter迄今已筹集了超过2.7亿美元的资金

Lightmatter是一家位于波士顿的、将光用于人工智能计算的初创公司。
“我们用光把计算机芯片连接在一起,还用光来做深度学习的计算。我们之所以用互连获得这些客户和数据中心规模的部署,是因为生成式人工智能的热潮正在疯狂地推动高端芯片。”
目前,Lightmatter正在向快速增长的人工智能计算市场大举进攻,它声称这将帮助该行业提高水平、还能节省大量的电力。
Lightmatter的芯片基本上使用光流来解决矩阵向量产品等计算过程。这种数学是许多人工智能工作的核心,目前由专门从事这种工作的GPU和TPU执行,但它们都使用传统的硅门和晶体管。
这方面存在的问题是,我们正在接近密度的极限,因此在一定的功率或尺寸下,运算速度也接近极限。这使得像GPT-4这样的训练模型对于超级计算机来说是巨大的,需要消耗巨大的功率并产生大量的废热。
“世界上,大量公司正撞上能源动力瓶颈,并在人工智能的可扩展性方面遇到巨大挑战。传统的芯片推动了可能冷却的边界,而数据中心产生的能源消耗越来越大。”Lightmatter首席执行官兼创始人Nick Harris表示:“除非我们在数据中心部署一个新的解决方案,否则人工智能的进展将大大放缓。”

“有人预测,训练一个大语言模型所耗费的能源比100个美国家庭一年所消耗的还要多。此外,还有人估计,除非创造出新的计算模式,否则到下一个十年末,世界总电量的10%-20%将用于人工智能推理。”
当然,Lightmatter正打算成为这些新范式之一。它的方法(潜在地)更快、更有效,他们使用微观光学波导阵列,让光基本上通过它们来执行逻辑运算:一种模拟-数字混合。由于波导是无源的,主要的电力消耗是创造光本身、并读取和处理输出。
这种形式的光学计算的一个真正有趣的方面是,我们可以通过同时使用一种以上的颜色来增加芯片的功率。蓝色做一种操作,而红色做另一种操作;尽管在实践中更像是800纳米波长做一种、820纳米做另一种。当然,这样做并非易事,但这些“虚拟芯片”可以极大地增加阵列上的计算量。
Harris根据他和他的团队在麻省理工学院所做的光学计算工作(麻省理工学院将相关专利授权给他们)创办了这家公司,并在2018年成功获得了1100万美元的种子轮融资。
一位投资者当时说:“这不是一个科学项目。”但Harris在2021年承认,虽然他们知道“原则上”这项技术应该是可行的,但要使其运作还有很多事情要做。
现在Lightmatter已经筹集了1.54亿美元的C轮融资,并正在为其真正的首次亮相做准备。它有几个试点项目,包括Envise(计算硬件)、Passage(互连,对大型计算操作至关重要)和Idiom(一个软件平台,Harris说它应该让机器学习开发者迅速适应。
Lightmatter Envise单元

“我们已经建立了一个软件栈,可以与PyTorch和TensorFlow无缝集成。”他解释说:“机器学习开发者的工作流程与此相同:我们将这些行业标准应用程序中构建的神经网络导入我们的库,因此所有代码都在Envise上运行。”
目前,试点项目还处于测试阶段,计划在2024年实现大规模生产。届时他们应该有足够的反馈和成熟度,来部署自己的数据中心。
参考链接:[1]https://techcrunch.com/2023/05/31/lightmatters-photonic-ai-hardware-is-ready-to-shine-with-154m-in-new-funding/[2]https://www.reuters.com/technology/ai-boom-triples-valuation-lightmatter-us-startup-using-light-computing-2023-05-31/



相关阅读:

ChatGPT的发展,需要量子算力......

全新计算方法,正重构人工智能......

谷歌:GPT-4败北,转战量子人工智能!

美国光学学会:如何发展光学和光子学经济?

深度 | AI崛起,“光子计算”风口已至!


#光子盒视频号开通啦!你要的,这里全都有#


每周一到周五,我们都将与光子盒的新老朋友相聚在微信视频号,不见不散!


|qu|cryovac>


|qu|cryovac>

你可能会错过:|qu|cryovac>

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存