员工称亚马逊 AI 聊天机器人 Q「幻觉」严重,且泄露公司机密数据

12 月 2 日消息,亚马逊于今年 11 月底推出了名为 Q 的 AI 聊天机器人,不过根据国外科技媒体 Platformer 披露的一份内部文件,亚马逊员工称 Q 存在严重的「幻觉」问题,并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。
报告文件显示,亚马逊 Q 会产生幻觉,返回有害或不适当的聊天内容。例如,亚马逊 Q 会返回过时的安全信息,可能会让客户面临风险。一名员工将该事件标记为「sev 2」,这意味着该事件非常严重,需要工程师加班第一时间修复。
Q 被定位为 ChatGPT 的企业级版本,旨在比消费级工具更安全。文章发表后,亚马逊发言人发布一份声明,反驳了员工的说法,称亚马逊 Q 没有泄露机密信息。(来源:IT 之家)