Google 逐步發布 Bard AI 以便社會適應 人工智能深度偽造視頻引發擔憂
站長之家(ChinaZ.com) 7月11日消息:谷歌首席執行官桑達爾·皮查伊(Sundar Pichai)對使用人工智能制作公眾人物的假視頻發出警告,他表示這將很快變得「容易」。
皮查伊在接受 CBS 的《60 分鐘》采訪時發表了這番評論,他告訴采訪者斯科特·佩利(Scott Pelley),谷歌正在限制其 Bard AI 的公開功能,以防止濫用。
皮查伊對佩利說:「AI 很容易制作視頻,你知道,可以是斯科特說了什么,或者我說了什么,而我們從未說過。」他補充道:「在社會層面上,這可能會造成很多傷害。」
佩利問道:「Bard 對社會安全嗎?」皮查伊回答說:「目前我們的發布方式是有限試驗,我認為是安全的。但我們每一步都要負責任。」
佩利進一步澄清:「你慢慢釋放它是為了讓社會適應嗎?」皮查伊回答說:「這是其中一部分原因。另一部分原因是為了獲得用戶反饋。在構建更強大的安全層之前,我們可以開發更可靠的安全機制。」
目前,現有的 AI 模型已經能夠制造出幾乎無法與現實區分的公眾人物圖片。而在視頻和音頻制作方面,AI 的能力還有待提高。
皮查伊還表示,谷歌并不總是完全理解 Bard AI 提供的答案,并舉了一個例子,即該程序似乎自學了孟加拉語,盡管未經過相關訓練。
佩利問道:「你并不完全了解它是如何工作的,但你將它放在社會上使用了?」
皮查伊回答說:「是的。讓我這樣說,我們也并不完全了解人類思維的工作方式。」