丁宁:大模型的关键突破是“预训练”,效果超出想象

[探索] 时间:2024-04-18 17:34:12 来源:蓝影头条 作者:探索 点击:165次
2023年亚布力论坛夏季高峰会于8月24日-27日在深圳召开。预训练深圳市人工智能与机器人研究院常务副院长丁宁出席并演讲。丁宁大模

  丁宁坦言,型的效果想象“大模型让人印象非常深刻”。关键在其看来,突破大模型的超出关键突破是“预训练的步骤”。

  他解释说,预训练以前机器学习是丁宁大模就问题本身学习相关数据,而“预训练”是型的效果想象先不学某个具体的问题,而是关键所有知识都要了解——构建一种世界的常识体系,把人的突破认知体系,包括物理和逻辑关系都搞清楚了,超出再来说解决具体问题,预训练“它的丁宁大模效果一下子超出人的想象”。

  “这是型的效果想象大模型里面的一个比较关键的问题,通过预训练方法把常识体系构建起来”,他说。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

责任编辑:梁斌 SF055

(责任编辑:探索)

    相关内容
    精彩推荐
    热门点击
    友情链接