AITURBO论文阅读: 把 AI 任务的群组 I/O 交给存储层
64 个加速器一起保存 checkpoint,如果每个进程只会向存储系统说“写这个文件”,存储层很难发现大家写了相同参数,也不知道哪些节点还有空闲的传输链路。到了推理阶段,多个实例要读同一份模型或 KV Cache,又会遇到类似的问题。 FAST ‘26 的 Fast Cloud Storage for AI Jobs via Grouped I/O API with Transparent Read/Write Optimizations 研究的是让存储系统看见一组操作的整体意图。论文中的 AITURBO 借用空闲主机 DRAM 和加速器通信网络,把数据读写的去重、放置和分发计划从各 AI 框架里挪到存储层。 先看两张网络为什么不一样忙 论文所在的云集群里,一组加速器既连着存储服务器,也有用于彼此通信的高速计算网络。前者要承担许多作业的文件读写,后者往往按更高的带宽需求建设。受测环境中,一台计算节点的存储网卡为 100 Gbps,论文所列计算侧互联为 200 Gbps;这些是实验集群配置,不是所有 AI 集群的标准值。 可以把 AITURBO 的读路径理解成:数据先从存储服务器取到某些计算节点的 DRAM,再通过原有的计算网络向需要它的加速器转发。多个加速器需要同一块数据时,没有必要每个实例都重新穿过存储网络去拿一份。 存储服务器 ──存储网络──→ 节点 A 的空闲 DRAM │ └─计算网络─→ 需要相同数据的 XPU 组 控制面:job controller 规划来源、落点与转发路径 数据面:各节点依照计划传输,不逐块经过控制器 论文图 8:计算节点内的读写规划器和缓冲区,与计算网络、存储网络协同传输。截图来自 AITURBO 官方 PDF 第 7 页,版权归原作者。 这里的“借路”有前提:计算网络必须有余量,缓冲区也得可用。论文指出某些推荐模型推理工作负载可能把主机 DRAM 用满,AITURBO 因而瞄准的是具备可用资源的 AI 任务,而不是白白创造了新的物理带宽。 ...