注:图片由midjourney生成
ToxMod系统可以对玩家之间的语音聊天进行实时监控,识别其中是天内否存在仇恨言论、辱骂、使命骚扰等违反游戏社区准则的召唤内容。ToxMod不会直接对玩家进行惩罚,将使家语而是用A音聊将检测到的违规语音内容提交给Activision的人工客服进行审核。
ToxMod系统首先在北美地区试运行,控玩部署在《使命召唤:现代战争2》和《使命召唤:战区》这两款早期作品中。天内11月10日,使命系列最新作《使命召唤:现代战争3》全球发布时,召唤ToxMod也会跟随推出。将使家语届时该系统将覆盖游戏的全球玩家。
据了解,ToxMod系统使用语音转录、情感分析等技术,识别有害内容和正常言论之间的细微差异。相比直接依靠关键词过滤,这种方法可以更加准确地判断语音中的恶意程度。同时,最终审核仍由人工客服来执行,可以避免AI直接作出错误判断。
(责任编辑:知识)