华为发布高性能AI知识库存储解决方案OceanStor A800

[时尚] 时间:2024-04-29 10:35:30 来源:蓝影头条 作者:百科 点击:101次
站长之家(ChinaZ.com)9月22日 消息:华为在全联接大会上发布了高性能 AI 知识库存储解决方案 ——OceanStor A800。发布方案该解决方案针对大模型训练和推理过程中的高性数据处理效率瓶颈提供了三大关键能力,包括超高性能、识库超快恢复和超强推理。存储

OceanStor A800通过创新的解决数控分离架构提升了小文件处理性能,存储单框 IOPS 达到2400万,发布方案训练数据加载效率是高性业界的4倍。采用创新的识库盘控协同技术和 NFS + 并行客户端,实现了500GB/s 的存储超高带宽,TB 级 Checkpoint 大文件读写仅需十几秒,解决断点续训恢复速度是发布方案业界的3倍。

微信截图_20230922093916.png

此外,OceanStor A800还通过存储内生高速向量知识库和智能向量检索引擎提升了大模型行业知识深度、识库精度和时效性,存储消除了 AI “幻觉”,解决实现了25万 + QPS 的毫秒级推理响应。

华为的这一解决方案旨在提升 AI 大模型训练 / 推理效率,优化成本,加速推动 AI 在各行业的应用。

(责任编辑:知识)

    相关内容
    精彩推荐
    热门点击
    友情链接