微新創(chuàng)想(idea2003.com) 10月16日消息:微軟于上周發(fā)布了其 Bing Image Creator 的新版本，這是一個由 OpenAI 的新模型 DALL-E 3 提供支持的 AI 圖像生成工具。它旨在提供比之前的圖像生成 AI 模型（如 Midjourney、Stable Diffusion 或 OpenAI 自己的 DALL-E 2）更強大的功能，包括比以前更豐富地理解復(fù)雜用戶請求的能力。

與過去一年發(fā)布的大多數(shù)生成式 AI 模型一樣，OpenAI 和微軟的模型都非常強調(diào)「安全」。在圖像生成的情況下，安全可以指的是系統(tǒng)生成偽造真實人物圖像的能力的限制，或者識別提供的圖像中的人物。但安全也意味著更廣泛的內(nèi)容：正如微軟所表明的，它已構(gòu)建了一個內(nèi)容審查系統(tǒng)，將拒絕生成有害或不適當(dāng)內(nèi)容的任何請求，包括任何可能被視為種族主義、性別歧視或其他令人反感的內(nèi)容。

在 Bing Image Creator 發(fā)布后的幾小時內(nèi)，該內(nèi)容審查系統(tǒng)就面臨了考驗。用戶很快就能生成著名卡通角色在飛往 911 事件前的世界貿(mào)易中心的飛機駕駛艙內(nèi)的圖像，以及某人與饒有意思地類似說唱歌手 Drake 的形象解救納粹集中營的圖像。

內(nèi)容審查系統(tǒng)通常會拒絕明確請求描繪 911 事件或者飛機駕駛艙窗戶里能看到雙子塔的圖像。但用戶發(fā)現(xiàn)了一種變通方法：他們指示系統(tǒng)創(chuàng)建像海綿寶寶這樣的角色在一架飛機上，背景是紐約市的天際線，以及「兩座高樓大廈」。

顯然，這種「藝術(shù)」幼稚且毫無品味。但它在相對低風(fēng)險的環(huán)境中提出了一個更廣泛的問題，涉及人工智能安全工作的性質(zhì)，甚至安全本身的性質(zhì)。

隨著 AI 變得更加強大，個體將能夠以越來越精確的方式運用它，就像 Adobe Photoshop 擁有比 Microsoft Paint 更多的選項一樣。隨著這一趨勢的發(fā)展，將變得更難以根據(jù)媒體、學(xué)術(shù)界和許多 AI 公司所提倡的「安全」的廣泛定義來制定系統(tǒng)。AI 可以受到更精確的控制，聰明的用戶將能夠更精確地找到繞過旨在防止制作冒犯自由觀念的內(nèi)容的審查規(guī)則的方法。

即使按照廣泛定義的安全標(biāo)準，制定一個高度先進的 AI 系統(tǒng)是可能的，也不清楚這樣的系統(tǒng)是否令人滿意。互聯(lián)網(wǎng)惡作劇者用來生成上述圖像的變通方法是操縱系統(tǒng)的方式。但請考慮哪種系統(tǒng)聽起來更令人擔(dān)憂：一個可以操縱以生成一些人可能會感到冒犯的內(nèi)容的系統(tǒng)，還是一個可以窺視用戶的內(nèi)心、理解他們真正的動機，并決定是否愿意遵守的系統(tǒng)？前者是數(shù)字工具的延伸，盡管能力極強，但已經(jīng)有幾十年了。后者讓人想起了《2001 太空漫游》中的 HAL 9000。即使這樣的系統(tǒng)是可能的，也很不清楚它是否是一個好的創(chuàng)造，特別是如果它是為了防止人們在互聯(lián)網(wǎng)上感到冒犯而被創(chuàng)建的。

隨著 AI 變得更加強大，以及擁有如此令人擔(dān)憂的能力的可能性變得更清晰，有必要在最初就確定 AI 系統(tǒng)應(yīng)受用戶控制。增加安全性的努力直接與這一目標(biāo)相沖突，可能導(dǎo)致高度強大的 AI 系統(tǒng)是為了滿足監(jiān)管機構(gòu)和其他守門人而建，而不是個體用戶。

通用人工智能工具的崛起，如 DALL-E 3 或 ChatGPT，以及即將到來的更強大的系統(tǒng)，引發(fā)了政策制定者、技術(shù)專家和所有相關(guān)公民的嚴重擔(dān)憂，確保系統(tǒng)符合安全的過于寬泛的標(biāo)準不是其中之一。可以想象，未來幾年可能會出現(xiàn) AI 系統(tǒng)，例如，能夠民主化開發(fā)新型生物武器，但 AI 已經(jīng)被用于幫助人類探索科學(xué)和工程的新領(lǐng)域，如核聚變和癌癥治療。它們將有一天被用于教育數(shù)百萬兒童，并幫助公民應(yīng)對不斷發(fā)展的挑戰(zhàn)。

我們?nèi)绾翁幚磉@些新工具，我們是否信任它們，以及我們?nèi)绾螌⑺鼈兗{入我們的社會，將決定它們是否會使個人和整體的能力提升。倘若幸運的話，也許它還能提升我們討論的基調(diào)。