在当前由大模型和AIGC驱动的AI时代,算力需求暴增,同时还面临供给不足、供需匹配难、能耗激增等挑战,亟需算力产业由“量”向“质”加速高质量发展。为了推动算力基础设施高质量发展,去年10月工业和信息化部等六部门联合印发了《算力基础设施高质量发展行动计划》。报告的发布,为该政策的进一步落实提供实践路径,加速高质量算力从概念到落地。
“三高三可”促进算力“提质增效”
报告对人工智能时代的“高质量算力”予以明确定义:高质量算力是基于最新人工智能理论,采用先进人工智能的计算架构,与算法、数据深度结合的高水平计算能力。高质量算力具备高算效、高智效、高碳效、可持续、可获得、可评估“三高三可”六大特征。
高算效是指在提高算力理论算效的同时考虑更高的实测性能和资源利用率。理论算效主要体现的是部件和系统能力,2023年年底,全国在用算力中心平均理论算效为11.8GFLOPS/W,仅达到GB/T 43331-2023《互联网数据中心(IDC)技术和分级要求》中通用算力算效第三等级,表明算效水平仍有很大提升空间。实测性能体现的是应用场景下的实测性能,如单位时间内处理的Token数量、运行时延、模型训练时间、数据处理质量等指标。当前算力集群实测性能和理论性能差距过大问题明显,部分算力实际性能不足理论性能的10%。资源利用率则关注的是算力资源利用水平。据公开数据显示,传统模式下的智算中心GPU利用率平均数值低于30%。高算效就是要破解上述算效水平不高、算力资源利用率较低等问题。