微新創(chuàng)想(idea2003.com) 7月31日消息:據(jù) FBI 稱(chēng)，犯罪分子正在利用開(kāi)源生成式人工智能程序從事各種卑劣行為，包括開(kāi)發(fā)惡意軟件和網(wǎng)絡(luò)釣魚(yú)攻擊。

上周五，F(xiàn)BI 與記者進(jìn)行了電話(huà)交流，討論生成式人工智能程序在科技行業(yè)中引起的轟動(dòng)，同時(shí)也在助長(zhǎng)網(wǎng)絡(luò)犯罪。惡意活動(dòng)范圍涵蓋使用 AI 程序改進(jìn)和推出詐騙行為，甚至恐怖分子咨詢(xún)這項(xiàng)技術(shù)以幫助他們打造更具威力的化學(xué)襲擊。

一名 FBI 高級(jí)官員表示：「隨著 AI 模型的采用和普及不斷增加，我們預(yù)計(jì)這些趨勢(shì)將加劇。」

FBI 沒(méi)有具體指出犯罪分子使用的特定 AI 模型。但該官員指出，黑客們傾向于使用免費(fèi)、可定制的開(kāi)源模型，以及流傳于網(wǎng)絡(luò)犯罪地下世界的私人黑客開(kāi)發(fā)的收取費(fèi)用的 AI 程序。

該官員補(bǔ)充說(shuō)，經(jīng)驗(yàn)豐富的網(wǎng)絡(luò)罪犯正在利用 AI 技術(shù)開(kāi)發(fā)新的惡意軟件攻擊，并改進(jìn)它們的傳遞方法，包括使用由 AI 生成的網(wǎng)站作為網(wǎng)絡(luò)釣魚(yú)頁(yè)面，可以秘密傳播惡意計(jì)算機(jī)代碼。同樣的技術(shù)幫助黑客開(kāi)發(fā)多態(tài)惡意軟件，可以逃避殺毒軟件的檢測(cè)。

上個(gè)月，F(xiàn)BI 還警告稱(chēng)，騙子正在使用 AI 圖像生成器創(chuàng)建性主題的深度偽造視頻，試圖勒索受害者的錢(qián)財(cái)。這些不同 AI 技術(shù)驅(qū)動(dòng)的方案的確切規(guī)模仍不清楚。但在今天的電話(huà)交流中，F(xiàn)BI 的工作人員補(bǔ)充說(shuō)，該機(jī)構(gòu)所看到的大多數(shù)案件涉及犯罪分子使用 AI 模型來(lái)加強(qiáng)他們傳統(tǒng)的詐騙計(jì)劃。其中包括利用 AI 語(yǔ)音克隆技術(shù)進(jìn)行電話(huà)詐騙，試圖欺詐親人或老年人。

作為回應(yīng)，F(xiàn)BI 表示已與 AI 公司進(jìn)行了富有成效的討論，以解決這個(gè)問(wèn)題，例如使用「水印」系統(tǒng)使任何人都能更容易地識(shí)別 AI 生成的內(nèi)容和圖像。

「我們確實(shí)將其視為國(guó)家優(yōu)先事項(xiàng)，」該高級(jí)官員在討論 AI 威脅時(shí)補(bǔ)充道。「這是最近的發(fā)展，影響到 FBI 的所有項(xiàng)目。」