“近年来,人工智能、机器学习和云计算等技术不断发展,产生了海量的数据。随着数据驱动型技术的兴起,对更强大计算机硬件架构的需求也随之产生。为了创造强大的处理器,人们在单个处理器芯片上集成越来越多的内核,以满足数据密集型应用的处理和性能需求。然而,存储器带宽和容量未能跟上CPU(中央处理器)内核数量的增长步伐,使处理器和存储器性能之间出现鸿沟。
”作者:Kapil Sethi,三星半导体DRAM产品计划部高级经理
近年来,人工智能、机器学习和云计算等技术不断发展,产生了海量的数据。随着数据驱动型技术的兴起,对更强大计算机硬件架构的需求也随之产生。为了创造强大的处理器,人们在单个处理器芯片上集成越来越多的内核,以满足数据密集型应用的处理和性能需求。然而,存储器带宽和容量未能跟上CPU(中央处理器)内核数量的增长步伐,使处理器和存储器性能之间出现鸿沟。
而存储器容量和带宽方面的需求得不到满足,正不断推动现有存储器技术突破创新。由于现有常规DRAM的设计存在局限,使存储器容量的扩展难以突破既定量级,因此需要全新的存储器接口技术。此外,人工智能 (AI) 和大数据的兴起推动了异构计算的潮流,多个不同类型的处理器能够并行处理大量数据。
为了顺应发展和变化,针对异构计算和组合基础架构开发下一代互联技术,以实现高效的资源利用。
什么是Compute Express Link™(CXL)?
CXL是CXL™联盟开发的一项开放式互联新标准,基于PCIe物理层的高速、低延迟CPU到设备互连技术。CXL可在主机CPU和互联设备(例如加速器和存储器扩展设备)之间提供高效连接。
CXL事务层由汇总到单个链路的三个动态多路通信子协议组成。这些协议分别称为CXL.io、CXL.cache和CXL.mem。CXL设备连接到CXL主机时,通过CXL.io协议进行发现、枚举、配置和管理。CXL.cache支持CXL设备访问处理器内存,CXL.mem则支持处理器访问CXL设备存储器。CXL.cache和CXL.mem协议栈已通过优化实现低延迟。
CXL联盟确定了三种不同的设备类型:
Type 1 CXL设备是一种缓存设备,例如加速器和SmartNICs(智能网卡)。Type 1设备可通过CXL.cache事务访问主机内存,并维护与主机内存一致的本地缓存。
Type 2 CXL设备是GPU和FPGA(现场可编程逻辑门阵列,AI芯片的一种),具有挂载到设备的DDR(双倍数据率同步动态随机存储器)和HBM(高带宽存储)等存储器。Type 2 CXL设备可以像Type 1 CXL设备一样直接访问主机挂载的存储器。除此之外,Type 2 CXL设备具有本地地址空间,主机CPU可以通过 CXL.mem事务查看和访问该地址空间。
Type 3 CXL设备是内存扩展设备,支持主机处理器通过cxl.mem事务一致地访问CXL设备存储器缓存。Type 3 CXL设备可用于实现存储器容量和带宽的扩展。
三星CXL存储器扩展设备的更多亮点正在解码中。在下篇中,我们将主要探讨三星Type 3 CXL设备的特点和开源CXL软件,敬请期待!
分享到:
猜你喜欢