大模型规范提上日程 上海将探索创新监管

[百科] 时间:2024-04-27 09:23:41 来源:蓝影头条 作者:探索 点击:194次
证券时报记者 张淑贤

  2023年世界人工智能大会第二天,大模通用人工智能的型规火爆局面从展馆蔓延至论坛。证券时报记者粗略统计,范提当天举行的上日论坛,超过一半主题中都包含“大模型”或“通用人工智能”的程上创新字样。大模型时代的探索AI趋势如何?“百模大战”存在哪些风险?未来应如何规范?这些话题成为业内人士探讨的焦点。

  7月7日上午,监管商汤科技宣布“商汤日日新SenseNova”大模型体系多方位全面升级。大模商汤科技董事长兼CEO徐立表示,型规商汤希望通过“大模型+大装置”持续推动AI基础设施能力的范提跃进提升,降低大模型的上日下游应用成本和门槛,让大模型的程上创新产业价值在千行百业中绽放。

  下午,探索蜜度发布了国内首个专为智能校对领域打造的监管垂直大语言模型——蜜度文修。据介绍,大模该模型在中文拼写勘误、语法纠正任务上的表现显著优于通用大模型ChatGPT。

  过去的数次人机交互变革,都带来了从终端到连接,到各类应用的颠覆式变革,在业内人士看来,生成式AI也必将带来产业链、价值链和生态的重塑。

  “大模型的突破掀起了人工智能的新一轮技术革命,随之而来的是产业需求呈现爆炸式增长,全新的应用场景和应用模式正迅速涌现。”徐立说。

  腾讯副总裁、腾讯政企业务总裁李强表示,面向垂直产业的模型会成为大模型价值的引爆点。腾讯发布的大模型时代AI趋势报告指出,金融行业、文化娱乐行业等头部机构预计会在一年内,在相对成熟的场景中尝试引入大模型以及生成式AI能力。

  “跟我们接触的公司非常多,交流大模型如何与所在产业结合,我们会认真研究客户实际需求以及对技术的要求。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声接受证券时报记者采访时表示。

  我国人工智能产业在迎来发展机遇的同时,其存在的可信性、安全性等诸多挑战也引起业内的关注。

  “大模型尚不能对输出进行可信性的验证,需要防范相应风险。”国务院参事、中国工程院院士、中国人工智能学会理事长戴琼海表示。

  国内首个类ChatGPT模型——复旦大学MOSS系统的负责人邱锡鹏也表示,“通用大模型目前依然在可信性、安全性、逻辑性等方面存在很多挑战。”

  随着通用型人工智能的发展,人类需要重新思考AI的影响。腾讯报告指出,生成式AI带来了更加复杂难控的风险,包括对人类未来生存的潜在风险,这就要求建立合理审慎的AI伦理和治理框架,塑造负责任的AI生态。

  “当行业风口来临时,基于资本、客户需求等因素,企业都会战略性选择布局大模型。”蜜度首席技术官刘益东接受证券时报记者采访时表示,“但确实大模型的爆发式增长会带来问题,未来相关部门有望逐步规范。”

  将人工智能作为三大先导产业的上海,已在考虑规范发展问题。上海市经信委副主任阮力表示,上海市将人工智能作为三大先导产业之一,不仅积极打造具有国际影响力的世界级产业集群,同时坚持科技向善理念,持续推进人工智能健康规范发展。

  阮力透露,上海将完善人工智能行业治理体系,在人工智能关键领域技术、产品与服务、行业应用、安全伦理等领域加快标准制定。

  “上海还将加强大模型风险管理,启动高风险人工智能产品和服务清单式管理相关研究,积极推动大模型相关治理研究,探索适应大模型特点的创新监管方式。”阮力说。

责任编辑:郝欣煜

(责任编辑:百科)

    相关内容
    精彩推荐
    热门点击
    友情链接