trendforce:2024年ai ssd采购容量预计超过45eb-九游游戏app官方
- 1 你赞过了
【天极网企业频道】8月13日消息,据trendforce集邦咨询发布的最新报告显示,由于ai需求的激增,导致ai相关客户在过去两个季度大幅增加了企业级(enterprise ssd)的订单。上游供应商一直在加快工艺升级和2yy产品的规划,计划于2025年投入批量生产,以满足ai应用中对固态日益增长的需求。
据trendforce观察,来自ai服务器客户的企业ssd订单增加,导致该类别的合同价格从2023年第四季度到2024年第三季度上涨了80%以上。固态硬盘在ai开发中发挥着至关重要的作用。在ai模型训练中,ssd主要存储模型参数,包括演化权重和偏差。
ssd的另一个关键应用是创建检查点(check point),定期保存ai模型的训练进度,允许在中断的情况下从特定点恢复。由于这些功能高度依赖于快速数据传输和优越的写入耐久性,客户通常选择4tb/8tb tlc ssd来满足训练过程的严苛要求。
trendforce指出,ai推理服务器中使用的ssd有助于在推理过程中调整和优化ai模型。值得注意的是,ssd可以实时更新数据以微调推理模型结果。ai推理主要提供检索增强生成(rag)和大模型服务。ssd存储rag和大模型用来生成更多信息响应的参考文档和知识库。此外,随着越来越多的生成信息以视频或图像的形式显示,所需的存储容量也在增加,因此tlc/qlc等高容量ssd (16tb或更大)成为ai推理应用的首选。
2024年ai服务器ssd需求市场从第二季度开始,对16tb以上产品的需求大幅增加。随着nvidia h100、h20和h200系列产品的到来,客户对4tb/8tb tlc(三层单元闪存) ssd产品的订单开始进一步增加。trendforce预计,今年与ai相关的ssd采购容量将超过45eb。未来几年,ai服务器预计将推动ssd需求的年均增长率超过60%,ai ssd需求可能从2024年占nand闪存总消费量的5%上升到2025年的9%。
ai推理服务器将继续采用大容量ssd产品。供应商已经开始加速工艺升级,并计划从2025年第一季度开始量产2yy/ 3xx层产品,并推出120tb的enterprise ssd产品。
最新资讯
热门视频