文章概要:

1. 游戲公司Activision 與 Modulate 合作，在游戲中使用 AI 監(jiān)控語音聊天。

2. 新的監(jiān)控系統(tǒng) ToxMod 可以實(shí)時(shí)識別仇恨言論等違規(guī)內(nèi)容。

3. ToxMod 首先在美國測試，11月全球發(fā)布。

微新創(chuàng)想(idea2003.com) 8月31日 消息:最近，游戲公司Activision宣布將在其旗艦射擊游戲《使命召喚》系列中引入人工智能語音聊天審查系統(tǒng)。該系統(tǒng)由人工智能公司Modulate研發(fā)，名為ToxMod。

注:圖片由midjourney生成

ToxMod系統(tǒng)可以對玩家之間的語音聊天進(jìn)行實(shí)時(shí)監(jiān)控，識別其中是否存在仇恨言論、辱罵、騷擾等違反游戲社區(qū)準(zhǔn)則的內(nèi)容。ToxMod不會直接對玩家進(jìn)行懲罰，而是將檢測到的違規(guī)語音內(nèi)容提交給Activision的人工客服進(jìn)行審核。

ToxMod系統(tǒng)首先在北美地區(qū)試運(yùn)行，部署在《使命召喚:現(xiàn)代戰(zhàn)爭2》和《使命召喚:戰(zhàn)區(qū)》這兩款早期作品中。11月10日，系列最新作《使命召喚:現(xiàn)代戰(zhàn)爭3》全球發(fā)布時(shí)，ToxMod也會跟隨推出。屆時(shí)該系統(tǒng)將覆蓋游戲的全球玩家。

據(jù)了解，ToxMod系統(tǒng)使用語音轉(zhuǎn)錄、情感分析等技術(shù)，識別有害內(nèi)容和正常言論之間的細(xì)微差異。相比直接依靠關(guān)鍵詞過濾，這種方法可以更加準(zhǔn)確地判斷語音中的惡意程度。同時(shí)，最終審核仍由人工客服來執(zhí)行，可以避免AI直接作出錯(cuò)誤判斷。