连年来,跟着AI竞争愈演愈烈,非论是传统如故新兴的处理器巨头齐在围绕CPU、GPU和AI加快器张开了浓烈竞争。尤其是AMD、Intel和英伟达三大绚丽性巨头,由于三者的竞争包含其后者的追逐逆袭、新市集的来势汹汹、老巨头的不甘东谈主后等情节,使得这三个巨头的任何动向尤为关怀。这三家公司围绕着东谈主工智能和PC张开明争暗斗亦然人所共知。
但近日,这三家公司悲惨联手,投资了一家名为Ayar Labs的光芯片初创公司。
三大芯片巨头,看上光互连Ayar Labs今天晓谕,已取得由 Advent Global Opportunities 和 Light Street Capital 领投的 1.55 亿好意思元融资,旨在愚弄其光学 I/O 工夫自便 AI 数据出动瓶颈。这使该公司的总融资额达到 3.7 亿好意思元,并将公司估值进步至 10 亿好意思元以上。
正如Ayar Labs所说,本轮融资的鸿沟和投资者的素质绚丽着 Ayar Labs 的又一个伏击里程碑,该公司正在准备其光学经管决议,以政策性地配合客户阶梯图进行大齐量出产。该公司默示,参与本轮融资的闻明公司就涵括了现时最炙手可热的芯片三大巨头AMD Ventures、Intel Capital 和 NVIDIA ,其他新政策和金融投资者包括 3M Ventures 和 Autopilot。值得一提的是,在之前,Ayar Labs也拿了包括Applied Ventures LLC、Axial Partners、Boardman Bay Capital Management、GlobalFoundries、IAG Capital Partners、Lockheed Martin Ventures、Playground Global 和 VentureTech Alliance在内的稠密闻明企业和机构的钱。
Ayar Labs 首席履行官兼并吞创始东谈主 Mark Wade 默示:“卓越的 GPU 提供商 AMD 和 NVIDIA 以及半导体代工场 GlobalFoundries、Intel Foundry 和 TSMC,再加上 Advent、Light Street 和咱们其他投资者的解救,突显了咱们的光学 I/O 工夫再行界说 AI 基础设施将来的后劲。”“咱们相当交运,在这轮融资中,Light Street 在工夫特定投资方面的深厚专科常识以及 Advent 坚强的私募和成长股权配景为咱们提供了解救。”
据关系府上表示,Ayar Labs成就于 2015 年,公司团队由来自英特尔、IBM、好意思光、Penguin、麻省理工学院、伯克利和斯坦福的许多顶尖工夫巨匠组成。
在官网的先容中,Ayar Labs将公司定位为光学互连经管决议领域的辅导者,其提供的产物数据传输速率与 AI 颠倒。公司默示,在坚贞到 AI 模子的复杂性和鸿沟正在以传统互连工夫无法处理的速率增长,他们开发了业界首个光学 I/O 经管决议,使客户大概最大轨则地进步握住增长的 AI 基础设施的贪图收尾和性能,同期裁减老本、蔓延和功耗。Ayar Labs指出,公司的光学 I/O 经管决议基于开放标准,并针对 AI 历练和推理进行了优化,领有坚强的生态系统,使其大概凯旋大鸿沟集成到 AI 系统中。
如上图所示,Ayar Labs 默示,公司故事的发源不错追忆到公司在2010年的发布的一篇名为《Open foundry platform for high-performance electronic-photonic integration》的论文。据先容,该著述诠释秉承其时商用电子 45 nm SOI-CMOS 代工工艺制造的具有 3 dB/cm 波导损耗的光子器件。通过愚弄现存的前端制造工艺,光子器件与电子器件单片集成在与晶体管疏通的物理器件层中,已矣 4 ps 逻辑级蔓延,而不会裁减晶体管性能。
在著述中,他们展示了一个 8 通谈光学微环谐振器滤波器组和光调制器,它们均由集成数字电路箝制。通过开发一种不需要任何工艺基础设施变嫌的器件遐想按次,不错已矣正常可用的高性能光子电子集成电路平台。
在著述的诠释阶段他们强调,论争展示的电子-光子平台是一种可造访的、低老本的愚弄现存电子代工场基础设施的按次,可用于制造高性能光子器件和开头进的 CMOS 晶体管。使用薄 SOI-CMOS 工艺无需进行代工场里面变嫌,只需进行浅显的后处理即可已矣精采的无源光子性能,摈斥了之前使命中存在的波导损耗瓶颈。著述先容的滤波器组解复用器和调制器等拓荒,以及目下正在开发的集成光电探伤器,组成了先进电子工艺中光子互连平台的基础,该工艺可用于制造现在的微处理器。该代工平台的通用性质使咱们不错使用开头进的工夫,这将极地面促进总共 VLSI 和光子系统及应用领域的新式电光片上系统的相干。
恰是基于这个相干,Ayar Labs在2015年宣告成就,然后在次年取得了种子轮投资(GlobalFoundries 参与了种子轮融资)。
Ayar Labs,聚焦经管的问题在具体先容Ayar Labs的产物之前,咱们先先容一下他们具体思经管什么问题。
正如之前许多报谈中所说,高性能贪图引擎存在带宽和信号问题,这还是不是什么秘要了。若是你思要以合理的每秒容量快速地将数据输入和输出,从而让引擎中的数十到数万个中枢保持劳苦,那么若是你要扶植使用铜线,就必须尽可能缜密地连结它们,非论是插入堆叠内存的插入器上的走线,如故相差 SerDes 的电线,以将贪图引擎连结在通盘以并行运行。
问题在于电线的长渡过长。每次将带宽加多一倍时,由于信号失真,您齐必须将电线长度减半。这是物理学和材料科学的问题,每个东谈主齐知谈最终铜线将被光纤取代。何况由于东谈主工智能使命负载对带宽的弥远需求,将来几年内这似乎将简直成为不可幸免的趋势。
Ayar Labs也恰是这么的“光”参与者,悉力于自便夙昔的数据传输格式。
据了解,他们的贪图是将光通讯顺利置于封装上,而不是受到 IO 密度问题、数据速率扩展和电子封装到封装互连的功率低效性限度。Ayar Labs 的主要不雅点是,在 1cm 到 10cm 的传输范围内,光学 IO 比现时的电子系统更高效。经管数据传输功率扩展问题的最好按次是,惟一您将数据传输到此距离除外,就切换到光学。
闻明行业分析机构semianalysis默示,转向共封装光学器件有许多克己。举例数据不需要从处理器发送到网卡,也不需要通过崇高的光收发器。处理器自己也不错精真金不怕火巨额老本,因为无须将太多的芯单方面积专用于大型高速电气 SerDes。
鉴于 Ayar Labs 已加入开放的 UCIe 标准,Semianalysis觉得他们的芯片将使用该契约行为与外部公司芯片接口的基础层。UCIe 解救英特尔、ASE 和台积电的许多封装选项。在处理器方面,英特尔、AMD、博通、好意思光、联发科和 GUC 齐是该定约的成员。UCIe 极地面裁减了将第三方芯片集成到封装中的干涉门槛,这反过来应该会裁减 Ayar Labs 取得遐想顺利的干涉门槛。此外,Ayar Labs 也明确解救高密度扇出、英特尔的 EMIB 和其他硅中介层工夫。
目下,Ayar Labs有两种主要的产物:一是SuperNova 光源——这是封装外部的辛苦光源,不错将其视为位于 ASIC 封装外部某处的光电源;另一个是TeraPHY 光学 I/O 芯片,这种硅片包含约 7000 万个晶体管和 10,000 多个光学器件。据先容,他们将硅光子器件集成到 CMOS 工艺中,制成咱们行为芯片出售的硅片。该芯片集成到客户 SOC 封装中。
从官网不错看到,SuperNova辛苦光源是 Ayar Labs 光学 I/O 经管决议的撑持,亦然业界首款允洽 CW-WDM MSA 标准的 16 波长光源,可提供多达 16 种波长的光并为多达 16 个端供词电。与 Ayar Labs TeraPHY 光学 I/O 芯片组相并吞,与传统互连(可插拔光学器件 + 电气 SerDes)比拟,该经管决议可提供 5 至 10 倍的更高带宽、10 倍的更低蔓延和 4 至 8 倍的更高能效。光学 I/O 摈斥了 I/O 瓶颈,超越了工艺限度,并为下一代 AI 架构开释了革命架构。
TeraPHY光学 I/O 芯片组则是一种体积小、功耗低、蒙眬量高的铜背板和可插拔光学通讯替代决议。TeraPHY 芯片组的模块化多端口遐想可承载八个光通谈(颠倒于 x8 PCIe Gen5 链路)。这款业界首创的光学 I/O 芯片组将硅光子学与标准 CMOS 制造工艺相并吞。它适用于现存的系统级封装架构,不需要 SoC 定制。
按照该公司CEO Mark Wade所说,Ayar Labs目下的主要交易格式是销售实践产物。他默示,SOC领域还是发生了总共范式更始,以鼓吹 chiplet 的秉承。若是你灵通 ASIC 的盖子,你会看到里面有多个芯片。于是,Ayar Labs将所谓的“KGD”光学芯片装入客户的封装中销售。来到光学 I/O 芯片方面,Ayar Labs将其行为创收产物销售,客户只需顺利从咱们这里购买芯片即可。
Wade强调,Ayar Labs的市集策略专注于经管光子学领域的大齐量、高质地制造问题。咱们与 GlobalFoundries、Applied Materials、英特尔和台积电等主要公司建设了政策协作关系,并与总共一线 CMOS 制造商张开协作。
Ayar Labs还与大型 AI 系管辖域的辅导者 Nvidia 建设了政策协作伙伴关系,共同将咱们的工夫融入将来的 AI 系统。公司的顺利客户正在构建 SOC 和 SOC 系统,其一流生态系统包括 Nvidia、AMD、英特尔、博通和高通等公司。
“构建大鸿沟 AI 模子的结尾客户(举例 Anthropic 和 OpenAI)至关伏击。数据中心在尝试扩展 AI 使命负载时出现了许多严重问题。咱们发现,这些公司对将来的愿景与咱们多年来的预测雷同,这阐明了这少量。”Ayar Labs CEO Mark Wade强调。“咱们的顺利取决于能否干涉这些领域。咱们正在搪塞光子工夫方面的挑战,颠倒是在大齐量、高质地制造方面。这种按次使咱们大概与行业主要参与者协作,同期逍遥最终用户的需求,从而突破东谈主工智能工夫的界限。”Mark Wade接着说。
Ayar Labs 本年八月曾默示,将发布其光学 I/O 工夫来取代芯片内的铜线。该公司正在开发将光学 I/O 放入芯片结构中的工夫,并已相干该工夫十多年。该工夫允许芯片里面已矣更快的通讯,旨在取代速率较慢的铜线。
“借助光学 I/O,你不错突破几十米甚而几百米的距离,然后连结更多的 GPU 或加快器,”Wade 说。
大鸿沟商用在即?在东谈主们很容易觉得,Nvidia、AMD 和英特尔的投资预示着这些公司正在寻求以某种神气在其贪图引擎中部署 TeraPHY 光学传输偏执 SuperNova 激光源。咱们知谈,他们的早期投资者HPE早在 2022 年 2 月就与 Ayar Labs 达成了一项政策投资和协作契约,将硅光子学添加到其“Rosetta”Slingshot 互连中。
但在修起The Next Platform运筹帷幄时,Ayar Labs 交易运营副总裁 Terry Thorn 开打趣说:“他们齐是投资者和公司,咱们正在与他们通盘探索许多好奇艳羡的契机——其中大部分咱们目下还弗成褒贬。”咱们不错思象这种情况会发生,但还有许多其他按次不错已矣共封装光学器件,这三家公司也齐有发明我方产物的民俗。
换而言之,通过这些投资,这些芯片公司可能仅仅思更潜入了解 Ayar Labs 正在作念的事情。但正如Mark Wade在之前的采访中所说,在许多场景中会需要使用光连结。
如他所说,当Ayar Labs刚开动相干这个问题时,许多早期宗旨齐来清高性能贪图社区——你知谈,国度实验室正在建造的大型机器。这些大型系管辖先发现它们存在巨额数据出动问题,这些问题开动成为总共系统性能的瓶颈。这即是Ayar Labs称之为“煤矿中的金丝雀”的 2010 年至 2015 年的时刻段,其时的近况标明底层贪图工夫存在问题。
之后,跟着东谈主工智能使命过程开动出现,以及图像识别、推选引擎等早期使命负载——但其后,颠倒是当调养器模子上线并开动启用新的东谈主工智能应用要领时,咱们干涉了生成式东谈主工智能时间。但重要是要坚贞到,组成这些东谈主工智能贪图系统主干的贪图系统看起来像高性能贪图架构。
“因此,十年前在高性能贪图中发生的疏通数据出动挑战现在开动出现在东谈主工智能系统中,并成为总共系统性能的瓶颈。”Mark Wade强调。
Mark Wade指出,这是一个多方面的问题。您必须让东谈主们在功率受限的情况下将更多带宽传输到更长的距离。因此,这些系统的功率限度并不是无尽的。每个级别齐存在热和功率密度问题 - 芯片级、封装级、系统板级、机架级。因此,每个级别齐存在功率问题。蔓延是您必须更仔细检查的地点。
“如今,东谈主们使用铜线和电气 I/O 以电气神气传输高带宽的神气,您时时会作念一些事情,举例添加纠错,因为您要尝试规复在以电气神气传输数据时发生的总共低收尾和数据损坏。在光学方面,您不错以一种优雅的神气经管这个问题,从而开脱纠错。因此,您不错取得更轻量级的纠错架构,但这会影响蔓延。”Mark Wade说。
为了已矣上述贪图,Ayar Labs一直在丰富其产物线。
若是你看一下阶梯图,就会发现Ayar Labs每隔几年就会将每个芯片的带宽翻一番。他们的贪图从 4 Tbps 加多到 8 Tbps,然后是 16Tbps 和 32 Tbps,这是每个芯片的带宽。Ayar Labs还下调了一些向量——每个芯片的带宽、每个封装实例化多个芯片的才调、扩大总共封装级别带宽以及不错从封装中开释的带宽基数。Ayar Labs的客户时时关怀咱们不错从他们的封装中开释若干带宽,以及在什么样的功率密度敛迹下。颠倒是跟着东谈主工智能系统的发展,每个封装中更高的带宽开释变得越来越伏击,同期也进步了连结的基数。
目下,Ayar Labs的每个芯片有 8 个端口,每个芯片组有 8 个端口。假定每个封装有 4 个芯片组,则您的连结端口为 32 个,您不错将总共这些端口连结到不同的地点。
忖度将来,Wade默示:“咱们目下在实验室中与客户共同开展的使命,实践上是为了在两到三年后已矣初度大鸿沟市集部署。”
写在终末其实光学并不是一项新工夫——光纤简直干涉工夫领域是在 70 年代。咱们开动建造海底电缆和近似的东西,最终连结互联网。光学工夫是人所共知的。
可是将数据顺利以光学神气从贪图包中移出的需务实践上是一个颠倒新的恬逸,这与电气 I/O 问题的恶化速率关系。咱们的应用要领需要更高的带宽和更好的能效——这开动自便现存的基于电气 I/O 的系统。但挑战在于,你弗成只把东谈主们使用的工夫和产物用于东谈主们可能熟谙的更标准化的经管决议,举例使用以太网的可插拔收发器。若是我在数据中心内出动 100 Gbps、400 Gbps 或 800 Gbps,那么这些还是是光学可插拔收发器了。问题是,若是你灵通这些收发器并检察里面的东西,你会发现它们莫得顺利扩展到贪图结构的特质。
因此,要已矣上述贪图,除了要濒临尺寸、元件数目、老本结构,以及总共这些组件的拼装神气外。还有功率收尾、热灵巧度等问题,还有“我弗成顺利将收发器放入贪图机封装中”的一系列问题。
“因此,咱们必须重新开动发明一种具有正确底层特质的工夫:密度、拓荒尺寸、动力收尾,更伏击的是,大概集成到制造工艺中,从而在 CMOS 鸿沟下运行。咱们必须掌合手若何将该工夫纳入封装,因为这是一种真刚直鸿沟的应用。总共这些特质在每一步齐是挑战,咱们公司的一部分,以及咱们多年来所奋发的一部分,实践上是在一步步经管这些问题。”Mark Wade默示。
面向这个市集和契机,除了Ayar Labs除外,Lightmatter、Celestial AI 、Eliyan以及国内的曦智和一大堆的处理器、晶圆厂和封装厂齐在奋发,为硅光子学成为贪图引擎和互连之间的桥梁各特殊招。
著述来源:半导体行业不雅察,原文标题:《Nvidia、AMD和Intel悲惨联手,投资一家光芯片公司》
风险教唆及免责要求 市集有风险,投资需严慎。本文不组成个东谈主投资忽视,也未筹议到个别用户特殊的投资贪图、财务景况或需要。用户应试虑本文中的任何意见、不雅点或论断是否允洽其特定景况。据此投资,攀扯孤高。