丁宁坦言,型的效果想象“大模型让人印象非常深刻”。关键在其看来,突破大模型的超出关键突破是“预训练的步骤”。
他解释说,预训练以前机器学习是丁宁大模就问题本身学习相关数据,而“预训练”是型的效果想象先不学某个具体的问题,而是关键所有知识都要了解——构建一种世界的常识体系,把人的突破认知体系,包括物理和逻辑关系都搞清楚了,超出再来说解决具体问题,预训练“它的丁宁大模效果一下子超出人的想象”。
“这是型的效果想象大模型里面的一个比较关键的问题,通过预训练方法把常识体系构建起来”,他说。
新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。
责任编辑:梁斌 SF055
(责任编辑:探索)