微新創(chuàng)想(idea2003.com) 7月23日消息:線上評(píng)論戰(zhàn)場(chǎng)上，人工智能與人工智能正在對(duì)抗。能夠生成類似人類評(píng)論的生成式人工智能受到專門用于檢測(cè)虛假評(píng)論的人工智能的對(duì)抗。這種對(duì)抗不僅影響著消費(fèi)者，還關(guān)系著網(wǎng)絡(luò)內(nèi)容的未來(lái)。

Fakespot 的創(chuàng)始人兼 CEO Saoud Khalifah 表示，該公司已經(jīng)看到大量生成式虛假評(píng)論。Fakespot 正在努力找到一種方法來(lái)檢測(cè)類似 ChatGPT 的人工智能平臺(tái)生成的內(nèi)容。

他說(shuō)：「今天非常不同的是，這些模型可以寫任何東西。」

虛假在線評(píng)論與真實(shí)在線評(píng)論一樣已經(jīng)存在很長(zhǎng)時(shí)間，但由于人們對(duì)互聯(lián)網(wǎng)上廣泛使用的先進(jìn)人工智能技術(shù)產(chǎn)生了更廣泛的擔(dān)憂，這一問(wèn)題變得更加緊迫。

經(jīng)過(guò)多年的案件逐案件執(zhí)法，上個(gè)月，聯(lián)邦貿(mào)易委員會(huì)提出了一項(xiàng)新規(guī)定來(lái)打擊虛假評(píng)論。如果獲得批準(zhǔn)，該規(guī)定將禁止撰寫虛假評(píng)論、支付評(píng)論、隱瞞誠(chéng)實(shí)評(píng)論和其他欺騙性行為，并對(duì)違反規(guī)定者處以巨額罰款。

但是，到底什么是虛假評(píng)論或真實(shí)評(píng)論變得不那么明確，檢測(cè)虛假評(píng)論的技術(shù)仍然在不斷改進(jìn)中。

聯(lián)邦貿(mào)易委員會(huì)廣告實(shí)踐部門的律師 Michael Atleson 表示：「我們不知道，也無(wú)法知道惡意行為者實(shí)際上是否在使用任何這些工具，以及其中有多少是由機(jī)器人生成的，而不是由人生成的。」「這真的更多是一個(gè)嚴(yán)重的問(wèn)題，它只是我們擔(dān)憂的一個(gè)縮影，這些聊天機(jī)器人將被用來(lái)創(chuàng)造各種虛假內(nèi)容。」

有一些跡象表明，生成式人工智能評(píng)論已經(jīng)非常普遍。CNBC 在 4 月份報(bào)道稱，亞馬遜上的一些評(píng)論明顯涉及到人工智能，其中許多評(píng)論從短語(yǔ)「作為一個(gè) AI 語(yǔ)言模型…」開(kāi)始。

亞馬遜是許多在線賣家中長(zhǎng)期以來(lái)一直在與虛假評(píng)論作斗爭(zhēng)的公司之一。一位發(fā)言人表示，該公司每周收到數(shù)百萬(wàn)條評(píng)論，主動(dòng)阻止了 2 億條疑似虛假評(píng)論。該公司使用人工調(diào)查員和人工智能的組合來(lái)發(fā)現(xiàn)虛假評(píng)論，運(yùn)用機(jī)器學(xué)習(xí)模型分析用戶的評(píng)論歷史、登錄活動(dòng)和與其他賬戶的關(guān)系等因素。

更復(fù)雜的是，生成式評(píng)論并不完全違反亞馬遜的規(guī)定。一位亞馬遜發(fā)言人表示，該公司允許用戶發(fā)布由人工智能生成的評(píng)論，前提是這些評(píng)論是真實(shí)的，并且不違反政策準(zhǔn)則。

這家電商巨頭還表示，它可能需要一些幫助。今年 6 月，亞馬遜的全球銷售合作伙伴服務(wù)副總裁 Dharmesh Mehta 在一篇公司博客中呼吁「私營(yíng)部門、消費(fèi)者團(tuán)體和政府」加強(qiáng)合作，解決虛假評(píng)論問(wèn)題。

關(guān)鍵問(wèn)題是，人工智能檢測(cè)是否能夠勝過(guò)生成虛假評(píng)論的人工智能。Fakespot 檢測(cè)到的第一批生成式虛假評(píng)論來(lái)自印度，幾個(gè)月前，Khalifah 稱這是由「虛假評(píng)論農(nóng)場(chǎng)」生成的，即批量出售虛假評(píng)論的企業(yè)。生成式人工智能有可能讓他們的工作變得更容易。

杜克大學(xué)計(jì)算機(jī)科學(xué)助理教授 Bhuwan Dhingra 表示：「這對(duì)檢測(cè)工具來(lái)說(shuō)，的確是一個(gè)很難通過(guò)的考驗(yàn)。因?yàn)槿绻Ｐ团c人類的寫作方式完全匹配，你很難區(qū)分兩者。我不認(rèn)為有哪個(gè)檢測(cè)器能夠很快地通過(guò)這個(gè)測(cè)試。

幾項(xiàng)研究發(fā)現(xiàn)，人類并不擅長(zhǎng)檢測(cè)由人工智能撰寫的評(píng)論。許多技術(shù)專家和公司正在研究檢測(cè)人工智能生成內(nèi)容的系統(tǒng)，其中一些公司，如 ChatGPT 背后的 OpenAI，甚至正在研發(fā)用于檢測(cè)自己人工智能的人工智能。

芝加哥大學(xué)計(jì)算機(jī)科學(xué)教授 Ben Zhao 表示，對(duì)于 AI 來(lái)說(shuō)，要解決檢測(cè)人工智能生成的評(píng)論的難題「幾乎是不可能的」，因?yàn)闄C(jī)器人生成的評(píng)論往往與人類寫的評(píng)論無(wú)法區(qū)分。

他說(shuō)：「這是一個(gè)持續(xù)的貓鼠游戲，但從根本上講，沒(méi)有什么能夠區(qū)分人工智能創(chuàng)造的內(nèi)容。」「你會(huì)發(fā)現(xiàn)一些系統(tǒng)聲稱它們可以區(qū)分人類寫的文本和 ChatGPT 的文本。但與他們?cè)噲D追趕的東西相比，這些技術(shù)都相當(dāng)簡(jiǎn)單。」

有 90% 的消費(fèi)者表示會(huì)在網(wǎng)上購(gòu)物時(shí)閱讀評(píng)論，這讓一些消費(fèi)者維權(quán)者擔(dān)心。

美國(guó)公共利益研究組織的消費(fèi)者監(jiān)督辦公室主任 Teresa Murray 表示：「這對(duì)消費(fèi)者來(lái)說(shuō)是可怕的。」「AI 已經(jīng)幫助不誠(chéng)實(shí)的企業(yè)以與人類相似的語(yǔ)調(diào)在幾秒鐘內(nèi)產(chǎn)生數(shù)千條真實(shí)的評(píng)論。」