华为发布全新OceanStor A800 AI存储:10TB级带宽 专攻AI大模型
快科技8月14日消息,发布近日,全新在2024华为数据存储用户精英论坛上,存储“AI-Ready的宽专数据基础设施”分论坛成功举行。
为促进AI大模型健康发展,模型华为推出了全新的发布OceanStor A800 AI存储。
华为表示,全新该存储采用数控分离架构,存储提供10TB级带宽和亿级IOPS,宽专满足混合负载的模型高性能要求,有效提升集群可用度。发布通过ModelEngine加速数据预处理,全新显著提高AI训练全流程效率。存储
它在推理场景中支持RAG向量数据库,宽专并通过KVCache技术赋予AI大模型记忆能力,模型以查代算,全面提升推理体验和准确度。
华为数据存储产品线闪存存储领域副总裁严浩指出,随着AI技术的迅速发展,大模型已从单模态演进到多模态,并在推理应用中得到广泛使用。
然而,在AI基础设施的部署与应用中,企业面临集群可用度低、推理体验不佳、数据管理难度大、全栈部署复杂等挑战。华为全新OceanStor A800 AI存储提供了全新解决方案。
未经允许不得转载:
>牛高马大网»
华为发布全新OceanStor A800 AI存储:10TB级带宽 专攻AI大模型