微新創想(idea2003.com) 7月31日消息:據 FBI 稱，犯罪分子正在利用開源生成式人工智能程序從事各種卑劣行為，包括開發惡意軟件和網絡釣魚攻擊。

上周五，FBI 與記者進行了電話交流，討論生成式人工智能程序在科技行業中引起的轟動，同時也在助長網絡犯罪。惡意活動范圍涵蓋使用 AI 程序改進和推出詐騙行為，甚至恐怖分子咨詢這項技術以幫助他們打造更具威力的化學襲擊。

一名 FBI 高級官員表示：「隨著 AI 模型的采用和普及不斷增加，我們預計這些趨勢將加劇。」

FBI 沒有具體指出犯罪分子使用的特定 AI 模型。但該官員指出，黑客們傾向于使用免費、可定制的開源模型，以及流傳于網絡犯罪地下世界的私人黑客開發的收取費用的 AI 程序。

該官員補充說，經驗豐富的網絡罪犯正在利用 AI 技術開發新的惡意軟件攻擊，并改進它們的傳遞方法，包括使用由 AI 生成的網站作為網絡釣魚頁面，可以秘密傳播惡意計算機代碼。同樣的技術幫助黑客開發多態惡意軟件，可以逃避殺毒軟件的檢測。

上個月，FBI 還警告稱，騙子正在使用 AI 圖像生成器創建性主題的深度偽造視頻，試圖勒索受害者的錢財。這些不同 AI 技術驅動的方案的確切規模仍不清楚。但在今天的電話交流中，FBI 的工作人員補充說，該機構所看到的大多數案件涉及犯罪分子使用 AI 模型來加強他們傳統的詐騙計劃。其中包括利用 AI 語音克隆技術進行電話詐騙，試圖欺詐親人或老年人。

作為回應，FBI 表示已與 AI 公司進行了富有成效的討論，以解決這個問題，例如使用「水印」系統使任何人都能更容易地識別 AI 生成的內容和圖像。

「我們確實將其視為國家優先事項，」該高級官員在討論 AI 威脅時補充道。「這是最近的發展，影響到 FBI 的所有項目。」