百度智能云宣布千帆大模型2.0升级发布,一天可跑通大模型效果验证

[焦点] 时间:2024-05-03 21:51:58 来源:蓝影头条 作者:知识 点击:69次
新浪科技讯 9月5日上午消息,百度布千今日举办的智能证2023百度云智大会上,百度智能云宣布千帆大模型平台2.0全面升级发布,云宣以最全的帆大发布工具链、最佳的模型算力效能、最多的升级大模型和数据集以及企业级安全,帮助企业跨越大模型到生产力的跑通鸿沟。

  在工具链方面,大模大模型开发、型效训练、果验部署、百度布千应用开发各个环节是智能证紧密结合的。据介绍,云宣千帆整套的帆大发布工具链可以无缝衔接全生命周期的各个业务流程,最大化提升效率。模型以前,技术团队一个月才能调试、跑通看到大模型的效果,在千帆一站式工具链平台,当天就可以实现。

  在算力效能方面,千帆底层是一套集合了异构算力集群、高速互联的网络、高性能存储,能够支撑万卡规模训练的AI算力基础设施,可将大模型训练、推理的成本降到最低。

  在数据方面,千帆不仅纳管大模型,还可增强大模型的能力。本次全新升级中文增强,可大幅提升大模型中文理解和生成能力,例如LIama2的国外大模型,也可实现中文对话好的效果。同时还全面提升训练和推理性能,训练LlaMA 2的总体吞吐可以提升1/4,推理甚至能提升3倍。

  此外,在企业级安全方面,通过千帆的安全机制,企业能够构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对合规要求很高的客户,千帆支持国内、国外主流芯片和操作系统,也支持私有化部署,确保每个企业自己的大模型都自主可控。(文猛)

责任编辑:王婉莹

(责任编辑:热点)

    相关内容
    精彩推荐
    热门点击
    友情链接