全球首个AI监管法案出炉,欧盟抢占先机?

[娱乐] 时间:2024-03-29 06:15:47 来源:蓝影头条 作者:热点 点击:20次

  近日,欧洲议会、监管欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议,法案这被认为是出炉全球首个全面监管人工智能(AI)的法案。在人工智能呈爆发式发展,欧盟而国际社会对人工智能带来的先机风险担忧不断加剧的当下,这一法案的全球抢占出炉受到全球瞩目。

  基于风险分级的监管监管

  “历史性的!随着《人工智能法案》政治协议在今天达成,法案欧洲成为首个为AI使用设定明确规则的出炉大陆。”当地时间12月8日晚,欧盟欧盟委员会内部市场专员蒂埃里·布雷顿在社交媒体上发文称,先机《人工智能法案》不仅是全球抢占一本规则手册,也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的监管助推器。

  在经过长达36个小时的法案马拉松式谈判后,欧洲议会、欧盟成员国和欧盟委员会于12月8日晚就《人工智能法案》达成协议。

  欧盟委员会主席冯德莱恩对这项法案表示欢迎。她在社交媒体上表示,“《人工智能法案》是全球首创,为值得信赖的人工智能发展设立了独特的法律框架,这也是为了公众和企业的安全和基本权利。”

  这项法案包括在欧盟内使用AI的安全保障条款,以及执法机构在使用AI方面的限制等内容。用户有权对AI的使用提出投诉,AI相关企业违反相关条款则面临罚款等惩罚。

  据《卫报》报道,这项法案的核心是基于风险的分级系统,也就是将人工智能技术应用根据风险类别分类,从“不可接受”到高、中、低风险人工智能,不同风险的人工智能应用对应不同级别的监管。

  最高级别的监管适用于那些对人类健康、安全、人权造成严重威胁的AI系统,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。较低级别的监管也对人工智能服务系统规定了主要义务,包括披露相关数据的基本规则等。

  在引发争议的生物识别监控技术方面,布雷顿表示,欧洲议会禁止使用实时监控和包括情感识别在内的生物识别技术,但有三个例外,包括面对意外恐怖威胁、需要搜寻受害者以及控诉严重犯罪这三种情况。

  据法新社报道,这项法案仍需要欧洲议会和各成员国正式批准,但外界认为,在8日晚达成了政治协议后,法案通过只是时间问题。但是,外界认为,欧盟《人工智能法案》最早也只能在2025年生效,这为人工智能的发展留足了时间。

  欧盟将监督法案的实施,并通过新成立的欧盟人工智能办公室(EU AI office)对那些违反规则的实体进行惩罚,罚金为企业营业额的7%或3500万欧元,以较高者为准。

  监管法案仍存在争议

  近些年来,随着人工智能技术的不断发展,欧盟一直在全力推进人工智能监管。2018年4月,欧盟发布了《欧盟人工智能战略》,此后成立人工智能高级小组。2019年4月,欧盟发布了《可信赖人工智能伦理准则》。2020年2月,欧盟出台《人工智能白皮书》。

  2021年4月,欧盟委员会首次提出《人工智能法案》提案的谈判授权草案。此后,欧洲议会和欧洲理事会就草案进行了多轮修订和讨论。去年12月,欧洲理事会通过了关于《人工智能法案》的共同立场文件。

  今年6月,欧洲议会高票通过了《人工智能法案》谈判授权草案,推动了该法案进入立法程序的最后阶段,即举行欧洲议会、欧盟成员国和欧盟委员会的三方谈判,以确定法案的最终条款。

  上周三,三方为此展开了马拉松式的闭门谈判,第一轮谈判持续了22个小时,但未能达成协议。第二轮谈判于12月8日上午开始,最终各方于当天深夜达成协议。

  中国现代国际关系研究院科技与网络安全研究所执行所长、研究员李艳在接受新京报记者采访时表示,欧洲国家在规则领域一直走在世界前列,尤其是在新兴技术方面,欧洲很注重伦理、规则、监管,因此欧盟率先达成了《人工智能法案》符合其一贯的传统和理念。

  “今年人工智能领域突然出现了爆发式的发展,在这股热潮之下,全球关于人工智能监管的讨论也越来越热,主要的大国和国际组织也逐渐聚焦这一议题。”李艳表示,“欧洲一直觉得自己在规则领域应该发挥引领作用,因此在内外驱动之下,最终于近期达成了这一协议。”

  但是,从欧盟“马拉松式”长跑谈判就可以看到,其内部对于这一法案仍存在争议。李艳指出,对人工智能这一新技术的监管,主要是为了实现安全与发展的平衡,但不同的利益群体对于这种平衡的理解各有不同,在不同的阶段大家的认知也会有所差异,因此争议不可避免。

  “在欧盟内部,一些创新企业、技术社群天然的偏好就是,希望让新技术释放足够的生命力和创新力,不要通过监管阻碍其进一步发展。但对于一些关注人权保护的传统机构,他们可能会觉得监管力度不够,应该进行更严格的监管。”李艳表示。

  法新社报道指出,欧盟在对《人工智能法案》进行谈判的过程中,遇到的一个最主要障碍就是如何监管ChatGPT等通用人工智能系统。一些人担心,过多的监管会损害欧洲人工智能相关企业的发展,让欧洲的人工智能发展落后于其他地区。

  德国工业联合会(BDI)表示,欧洲目前在人工智能关键技术方面面临落后的危险。“随着对人工智能基础模型及应用的全面监管,《人工智能法案》危及制造商和用户双方的竞争力和创新能力。”BDI相关负责人艾里斯·普洛格表示。

  一些人权组织则认为法案内容不够成熟,无法保护民众免受AI系统带来的伤害。数字权利团体Access Now高级政策分析师丹尼尔·洛伊弗表示,欧盟《人工智能法案》的最终文本存在“巨大缺陷”。

  李艳则认为,当前,欧盟只能尽量平衡各方观点,做出一个符合现阶段能够达到的最佳平衡点的选择,后续其可能会在法案的具体实施过程中不断进行调整,以更好地适应人工智能现实发展的需要。

  全球人工智能监管热潮

  2022年底开始,生成式AI系统如OpenAI的ChatGPT的快速发展引发世界警惕,很多人担心AI的过快发展将对就业、隐私、著作权保护甚至人类生命都造成威胁。此后,许多人工智能权威专家、AI领域非营利组织都曾发表公开信,呼吁国际社会警惕人工智能带来的风险。

OpenAI ChatGPT。图/IC PhotoOpenAI ChatGPT。图/IC Photo

  国际AI领域非营利组织“人工智能安全中心”今年5月发布的一封公开信称人工智能可能给人类带来灭绝风险,呼吁将其和对抗大流行病、核战争等风险一同作为全球优先事项。

  这封公开信获得超过350人签署,包括三家全球顶尖AI公司的CEO——“ChatGPT之父”、OpenAI创始人兼CEO萨姆·阿尔特曼,谷歌DeepMind公司CEO戴米斯·哈萨比斯,以及美国Anthropic公司的CEO达里奥·阿莫代伊。

  “人工智能作为一项前沿技术,其不确定性、模糊性非常大。而在面对一个不确定性比较强的新兴领域时,我们需要保持一种更加审慎的态度,以规避风险。”李艳解释称,这也是为何在面对全球性议题时需要前瞻性治理,因为一旦安全隐患出现了,相应的治理成本、付出的代价都会非常高。

  她进一步表示,今年人工智能发展迎来了新一轮高峰和热潮,由此大家开始从发展和安全两个维度思考这项新技术,而监管是其中非常重要的一个部分。

  在全球范围内,随着人工智能监管变得愈加紧迫,包括中国、美国、英国以及许多国际组织都在加速推进人工智能治理规则建设。

  今年7月,中国国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》,自8月15日起施行。10月,美国总统拜登签署了一项关于人工智能安全标准的行政命令——《关于安全、可靠和可信的人工智能发展和使用》。11月,英国举办了全球首届人工智能安全峰会。英国首相苏纳克曾表示,希望英国成为人工智能监管领域的“地理中心”。

  10月26日,联合国秘书长古特雷斯宣布成立人工智能高级别咨询机构(High-level Advisory Body on Artificial Intelligence),对这项技术带来的风险和机遇进行探讨,并为国际社会加强人工智能治理提供支持。

  李艳表示,“人工智能监管已经成为一项全球性的议题,主要大国都有责任推进人工智能治理。与此同时,人工智能监管也需要各方尽可能地合作、形成共识。”以中欧为例,双方在人工智能领域就有着很大的合作空间,一方面可以进行人工智能监管的经验分享和交流,另一方面也可以共同推进全球层面的共同治理。

  欧盟方面认为,此次出炉的《人工智能法案》将具有全球引领作用。欧盟法律和数字监管专家、哥伦比亚法学院教授阿努·布拉德福德(Anu Bradford)表示,欧盟的这一法案“可以为许多考虑对AI进行监管的政府树立榜样”,其他国家“可能不会复制所有条款,但可能会效仿其中的许多方面”。

  但李艳认为,人工智能监管领域可能也不可避免会出现全球竞争。“大家都希望自己在新一轮的技术变革和创新中取得发展优势,人工智能监管也是如此。各国在推进本国的治理时,也希望在国际上能有更大的话语权和规则影响力。”李艳说,“也因此,在全球人工智能监管方面,竞争与合作都不可避免。但最终,还是希望能就全球监管达成共识,共同推进人工智能安全、有利于全人类的发展。”

  记者 | 谢莲 

点击进入专题: 新闻热点精选

责任编辑:张玉

(责任编辑:娱乐)

    相关内容
    精彩推荐
    热门点击
    友情链接