文章概要:

1. 一國(guó)外開發(fā)者2個(gè)月內(nèi)利用OpenAI工具打造AI宣傳機(jī)器，每月運(yùn)營(yíng)成本低于400美元

2. 項(xiàng)目目的是展示AI大規(guī)模生產(chǎn)虛假信息的危險(xiǎn)

3. 開發(fā)者沒有將模型投入使用，因?yàn)樗鼤?huì)推動(dòng)假信息傳播。

微新創(chuàng)想（idea2003.com）9月4日 消息:最近，一名匿名的開發(fā)者利用OpenAI的ChatGPT等工具，在不到2個(gè)月的時(shí)間內(nèi)打造出了一個(gè)人工智能宣傳機(jī)器。這個(gè)名為“CounterCloud”的項(xiàng)目每月的運(yùn)行成本不到400美元，突顯了進(jìn)行大規(guī)模宣傳是多么廉價(jià)和簡(jiǎn)單。

這名開發(fā)者使用了“Nea Paw”這個(gè)化名，聲稱自己是網(wǎng)絡(luò)安全專業(yè)人員。在YouTube上發(fā)布的視頻中，他描述了這個(gè)項(xiàng)目的實(shí)現(xiàn)過程和目的。他表示，自己希望看到AI假信息“在現(xiàn)實(shí)世界中運(yùn)行”，因?yàn)榇笮驼Z(yǔ)言模型具有閱讀和撰寫假新聞的強(qiáng)大語(yǔ)言能力。

他開始將“對(duì)立”文章輸入ChatGPT，并設(shè)定提示語(yǔ)指示其生成反駁文章。AI機(jī)器人會(huì)以不同風(fēng)格和觀點(diǎn)生成同一文章的不同版本，通過“捏造故事”、“偽造歷史事件”來質(zhì)疑原文章的準(zhǔn)確性。為了制造真實(shí)性，還添加了新聞主播朗讀自動(dòng)生成文章的音頻剪輯和照片。

在2個(gè)月內(nèi)，這個(gè)AI系統(tǒng)每天24個(gè)小時(shí)不斷的運(yùn)行，“90%的時(shí)間生成令人信服的內(nèi)容。

開發(fā)者還沒有將模型投入互聯(lián)網(wǎng)使用，因?yàn)檫@會(huì)主動(dòng)傳播虛假信息。但他認(rèn)為，公開CounterCloud項(xiàng)目及其內(nèi)部運(yùn)作機(jī)制，能更好地提醒公眾人工智能宣傳的威脅。