美国西部时间8月29日,在斯坦福大学举行的全球芯片行业年度盛会Hot Chips大会上,全球光电混合计算领军企业曦智科技进行了全新光电计算产品Hummingbird的首次公开演示。这是继美国西部时间8月8日发布Photowave之后,曦智科技一个月之内再次推出新产品。至此,曦智科技从光子矩阵计算(oMAC)、片上光网络(oNOC)、片间光网络(oNET)三大核心技术出发,打造的各系列产品均已推出首款硬件,完成了光子计算和光子网络两条产品线的最后一块“拼图”。
Hummingbird是首个用于特定领域人工智能(AI)工作负载的片上光网络(oNOC)处理器,使用先进封装技术,将光芯片和电芯片进行垂直堆叠,集成为一个系统级封装(System in Package,SiP)。
oNOC技术旨在代替电芯片内部或者芯粒之间的电互连网络,把电信号转成光信号,通过光芯片中的光波导网络进行数据通信,提升整体计算效率。通过这一种方式可实现算力和内存扩展,提供更低的延时,更大的互连带宽,以及更多的拓扑结构。
曦智科技创始人、首席执行官沈亦晨博士表示:“光子技术是解决计算规模扩展问题的有效方法。随着AI热潮推动了算力需求的指数级增长,传统的解决方案已经很难跟上,业界可以通过将光子技术纳入下一代产品中来解决扩展问题,Hummingbird验证了这一点。”
知名半导体行业评论人、SemiAnalysis首席分析师Dylan Patel则评论说:“曦智科技正在利用其专有的光子技术打破内存壁垒,这有可能改变半导体行业。”
在Hot Chips大会上,曦智科技工程副总裁Maurice(Mo) Steinman详细介绍了Hummingbird规格参数,以及曦智科技光电混合计算新范式在满足数据中心对更高算力、更低延时、更低功耗的需求上体现出的优势。
Hummingbird通过硅光芯片上的U型光波导传播信号,可实现电芯片上64个核之间的all-to-all全通道广播。这样的形式让Hummingbird相比于传统数字互连解决方案明显降低了延迟和功耗,充足表现了光子技术在提升计算表现上的优越性。
与片上电网络不同,曦智科技的oNOC技术通过计算节点间全互连拓扑结构,扩展了计算集群规模和配置灵活度。
在oNOC架构下,芯粒间距离几乎不可能影响功耗和延迟。因此,该技术很适合开发新的、更可靠的拓扑结构,并且不再局限于相邻两个芯片之间的传输。Hummingbird使得在单个电芯片或芯粒系统中更高效地利用算力成为可能。借助oNOC,将工作负载映射到不同硬件变得更容易,为计算系统模块设计选择正真适合的拓扑结构也变得更灵活。
值得一提的是,Hummingbird还内置了曦智科技自主研发的小型化单/多波长激光光源Moonstone,可实现多至8个通道波长的高功率光输出,这是曦智科技在推动光电混合计算产品化和商业化过程中的又一技术突破。
Hummingbird的电芯片和光芯片被共同封装并集成到一个PCIe板卡上,适用于通用的服务器。结合曦智科技的软件开发工具包(SDK),机器学习和人工智能工作负载可以充分的利用oNOC的优势实现性能优化。此外,oNOC和Hummingbird IP还能够准确的通过客户应用场景进行定制。
Hummingbird的后续版本将采用光罩拼接技术(reticle-stitching)以支持芯粒架构,以此来实现更好的可扩展性,在提高能效比的基础上进一步突破算力瓶颈的制约。
随着Photowave和Hummingbird两款光电混合产品的发布,曦智科学技术产品市场化进程取得了阶段性进展。曦智科技接下来将持续推动产品迭代进程,拓宽产品应用领域,为客户提供一系列算力跃迁解决方案。
