11 月 17 日报道,且泄剑桥词典(Cambridge Dictionary)近日宣布 2023 年年度词汇为“hallucinate”(产生幻觉)。司机
hallucinate 原意为似乎看到、幻觉听到、员工严重感觉到或闻到“一些不存在的称亚东西”,通常是马逊密数指用户在不良健康或者服用药物状态下产生的幻觉。
伴随着 AI 的聊天露崛起,hallucinate 延伸为 AI 产生幻觉,机器据生成错误的且泄信息。
报告文件显示,亚马逊 Q 会产生幻觉,返回有害或不适当的聊天内容。例如,亚马逊 Q 会返回过时的安全信息,可能会让客户面临风险。
亚马逊淡化了员工讨论的重要性,并声称没有发现任何安全问题。然而,泄露的文件引发了人们对 Q 准确性和安全性的担忧,Q 仍处于预览阶段,尚未正式发布。
一名员工将该事件标记为“sev 2”,这意味着该事件非常严重,需要工程师加班第一时间修复。
Q 被定位为 ChatGPT 的企业级版本,旨在比消费级工具更安全。然而,内部文件强调了 Q 提供不准确或有害信息的风险。
报道称 Q 除了存在严重的幻觉之外,还泄露了公司机密数据,包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。
文章发表后,该发言人发布一份声明,反驳了员工的说法,称亚马逊 Q 没有泄露机密信息。
相关阅读:
《亚马逊 AWS 推出 AI 聊天机器人 Amazon Q 为企业提供服务》
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。
(责任编辑:娱乐)