员工称亚马逊AI机器人幻觉现象严重 且泄露公司机密

[百科] 时间:2024-03-28 22:01:17 来源:蓝影头条 作者:时尚 点击:54次
据Cryptopolitan消息,员工亚马逊最新的称亚人工智能项目Amazon Q在宣布三天后就面临了一场舆论风暴。员工们对这个聊天机器人出现严重幻觉和泄露机密数据的马逊问题表达了极大的担忧。据了解,机器觉现机密该智能泄露了包括AWS数据中心位置、人幻内部折扣计划等诸多机密信息。象严泄露

    

“hallucinate”,公司产生幻觉,员工在AI领域意为生成错误的称亚信息。

员工们表明这个聊天机器人没有达到亚马逊高管承诺的马逊安全标准。泄露的机器觉现机密文件详细描述了严重幻觉的情况,Amazon Q会向用户返回有害或不恰当的人幻回答。这一事态被归类为“sev 2”事件,象严泄露这意味着情况非常严重,公司需要工程师们紧急处理。员工

    

亚马逊对内部讨论的回应是淡化员工提出的关切的重要性。一位发言人强调,在亚马逊,通过内部渠道分享反馈是一种常规做法,并坚称没有因为反馈而发现安全问题。公司对收到的反馈表示感激,并保证在从预览产品过渡到正式发布时,会对Q进行微调。

(责任编辑:娱乐)

    相关内容
    精彩推荐
    热门点击
    友情链接