“hallucinate”,公司产生幻觉,员工在AI领域意为生成错误的称亚信息。
员工们表明这个聊天机器人没有达到亚马逊高管承诺的马逊安全标准。泄露的机器觉现机密文件详细描述了严重幻觉的情况,Amazon Q会向用户返回有害或不恰当的人幻回答。这一事态被归类为“sev 2”事件,象严泄露这意味着情况非常严重,公司需要工程师们紧急处理。员工
亚马逊对内部讨论的回应是淡化员工提出的关切的重要性。一位发言人强调,在亚马逊,通过内部渠道分享反馈是一种常规做法,并坚称没有因为反馈而发现安全问题。公司对收到的反馈表示感激,并保证在从预览产品过渡到正式发布时,会对Q进行微调。
(责任编辑:娱乐)