文章概要:

1. AI生成深度偽造圖像的潛在風(fēng)險(xiǎn)，包括惡意用途和法律挑戰(zhàn)。

2. 研究指出數(shù)字水印保護(hù)容易被繞過(guò)，引發(fā)信息泄漏和欺詐問(wèn)題。

3. 盡管存在挑戰(zhàn)，設(shè)計(jì)強(qiáng)大的數(shù)字水印仍然是應(yīng)對(duì)問(wèn)題的一種可能解決方案。

微新創(chuàng)想(idea2003.com) 10月9日 消息:近年來(lái)，AI技術(shù)的發(fā)展使得生成深度偽造圖像變得輕而易舉。例如，阿諾德·施瓦辛格的臉被疊加到克林特·伊斯特伍德的《丑牛》電影中。這些深度偽造圖像有時(shí)會(huì)帶來(lái)娛樂(lè)，但最近的發(fā)展卻引發(fā)了更加不安的趨勢(shì)，將數(shù)字虛假信息轉(zhuǎn)向了惡意用途。

最近，演員湯姆·漢克斯在社交媒體上譴責(zé)一則廣告，該廣告使用了他的AI生成肖像來(lái)推廣一項(xiàng)牙科保健計(jì)劃。此外，擁有超過(guò)50億觀看次數(shù)的YouTuber Mr. Beast被虛假地展示為以2美元的價(jià)格提供iPhone15Pro。普通市民也成為目標(biāo)，他們的面孔出現(xiàn)在社交媒體上，而未經(jīng)他們同意。最令人不安的是“復(fù)仇色情”的增加，其中受傷害感情的人發(fā)布了虛假的圖像，將前任伴侶描繪成令人尷尬或色情的場(chǎng)景中。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

為了應(yīng)對(duì)這一問(wèn)題，主要的數(shù)字媒體公司，如OpenAI、Alphabet、亞馬遜和DeepMind，承諾開(kāi)發(fā)工具來(lái)打擊虛假信息。其中一個(gè)關(guān)鍵方法是在AI生成的內(nèi)容上使用數(shù)字水印。然而，一份發(fā)表在arXiv預(yù)印本服務(wù)器上的研究報(bào)告指出，要遏制這種數(shù)字虛假信息濫用的能力存在困難。

馬里蘭大學(xué)的教授進(jìn)行了測(cè)試，展示了保護(hù)性水印的輕松繞過(guò)方法。其中一位報(bào)告作者Soheil Feizi表示:“目前我們沒(méi)有可靠的數(shù)字水印技術(shù)。”他表示，他的團(tuán)隊(duì)都可以成功繞過(guò)數(shù)字水印技術(shù)。他還警告說(shuō)，AI的誤用可能導(dǎo)致涉及虛假信息、欺詐乃至選舉操縱等潛在危害，這些危害涵蓋了個(gè)人和更廣泛社會(huì)的傷害。

研究團(tuán)隊(duì)采用了一種稱(chēng)為“擴(kuò)散凈化（diffusion purification）”的過(guò)程，該過(guò)程將高斯噪聲應(yīng)用于數(shù)字水印，然后將其刪除。這留下了一個(gè)扭曲的水印，可以繞過(guò)檢測(cè)算法，而圖像的其余部分幾乎沒(méi)有改變。他們還成功地證明，惡意行為者通過(guò)訪問(wèn)黑匣子數(shù)字水印算法可以發(fā)布帶有標(biāo)記的虛假照片，以欺騙檢測(cè)器認(rèn)為它們是合法的。

盡管如此，F(xiàn)eizi也表達(dá)了一些樂(lè)觀情緒，他說(shuō):“根據(jù)我們的研究結(jié)果，設(shè)計(jì)強(qiáng)大的數(shù)字水印是一項(xiàng)具有挑戰(zhàn)性但不一定不可能的任務(wù)。”因此，目前人們?cè)趯彶榘赡軐?duì)他們重要的內(nèi)容的圖像時(shí)，必須要保持警惕，雙重檢查來(lái)源，并運(yùn)用常識(shí)。