編者按：本文來(lái)自微信公眾號(hào) 劉潤(rùn)（ID：runliu-pub），作者：二蔓 ，編輯：李桑，微新創(chuàng)想經(jīng)授權(quán)發(fā)布。

2023年，每天都是大新聞。而其中的一大半，都和AI有關(guān)。

今年年初，ChatGPT突然爆火。緊接著，就是AI領(lǐng)域一顆又一顆的重磅炸彈。GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API，扎堆引爆。鋪天蓋地的新消息，席卷了每一個(gè)人的視覺(jué)神經(jīng)。

就在上個(gè)月末（5月31日），AI界又發(fā)生了一件大事兒。

包括OpenAI CEO，山姆·奧特曼（Sam Altman）等人在內(nèi)的，一眾全球范圍內(nèi)AI領(lǐng)域的重要人物，共同聯(lián)署了一封公開(kāi)信，呼吁全球共同努力，降低人工智能導(dǎo)致的滅絕風(fēng)險(xiǎn)。

這封公開(kāi)信很短，短到總共就只有22個(gè)詞。

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

應(yīng)將緩解人工智能導(dǎo)致的滅絕風(fēng)險(xiǎn)，與其他社會(huì)規(guī)模風(fēng)險(xiǎn)（如大流行病和核戰(zhàn)爭(zhēng)）等視作等同，作為全球優(yōu)先事項(xiàng)。

字越少，事兒越大。

這到底是發(fā)生了什么？我記得前一陣子好像也有這么一封信。人工智能的高速發(fā)展不是提升效率的好事嗎？怎么就和大流行病、核戰(zhàn)爭(zhēng)扯上關(guān)系了？他們到底是在擔(dān)憂些什么？這和我有什么關(guān)系？

這些問(wèn)題，太重要了。

于是，我試著梳理了一下，想知道這封公開(kāi)信到底是怎么來(lái)的，人們對(duì)AI的擔(dān)憂到底是怎么一步一步走到今天的，我們又該怎么辦？

然后，我越梳理越有一種感覺(jué)，越梳理這種感覺(jué)就越強(qiáng)烈：

山姆·奧特曼的格局，可能遠(yuǎn)比我們想象的，還要大得多。

什么意思？

這件事，可能還要從兩個(gè)多月之前開(kāi)始說(shuō)起。

01滅絕風(fēng)險(xiǎn)

還記得上一封著名的“AI公開(kāi)信”嗎？

3月30日，著名企業(yè)家埃隆·馬斯克等一千多名業(yè)界、學(xué)界人士聯(lián)署發(fā)表公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，暫停至少6個(gè)月。

3月30日，距離年初那一波爆火的GPT-3.5，才剛剛過(guò)去119天。距離更強(qiáng)大的GPT-4的推出，才剛剛過(guò)去了2周。

這是要干什么？為什么眾多大咖要一起呼吁，他們到底在擔(dān)憂什么？

我想，最主要的原因，還是因?yàn)锳I的發(fā)展，實(shí)在是太快了。

如果相關(guān)的監(jiān)管和法律沒(méi)有跟上，甚至連發(fā)明者也缺乏有效的控制手段。在這種條件下，無(wú)限制地使用AI，如果出現(xiàn)問(wèn)題，很可能就會(huì)對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。

比如，如果人工智能系統(tǒng)設(shè)計(jì)不當(dāng)或被惡意使用，可能會(huì)導(dǎo)致數(shù)據(jù)泄露、隱私侵犯、社會(huì)不公等等問(wèn)題。

比如，隨著人工智能的進(jìn)一步發(fā)展，未來(lái)可能會(huì)出現(xiàn)“超級(jí)人工智能”的存在。這種智能可能會(huì)遠(yuǎn)超人類(lèi)的智力水平，對(duì)人類(lèi)產(chǎn)生滅絕風(fēng)險(xiǎn)。

哪有這么夸張?。緼I，不是來(lái)幫助我們提升效率的好東西嗎？況且，AI又不是這兩年才有的東西。要是真有這么夸張，早干什么去了？

這是因?yàn)?，就連從業(yè)者也沒(méi)有想到，連接主義，竟然能強(qiáng)大到這個(gè)地步。

02連接主義

什么是連接主義？

在很長(zhǎng)的一段時(shí)間里，AI的發(fā)展，走的其實(shí)是一條名叫“邏輯主義（Logicism）”的道路。

邏輯主義，說(shuō)白了就是主張用公理和邏輯體系，來(lái)搭建一套人工智能系統(tǒng)。

比如你想學(xué)習(xí)一門(mén)語(yǔ)言，你要知道語(yǔ)法規(guī)則。“主語(yǔ)+謂語(yǔ)+賓語(yǔ)”，就是一種句子規(guī)則。“我（主語(yǔ)）想要（謂語(yǔ)）吃飯（賓語(yǔ)）”，就符合這種規(guī)則。通過(guò)列舉各種各樣的規(guī)則和邏輯，來(lái)讓AI學(xué)習(xí)語(yǔ)言。

但你想想，語(yǔ)言是多么微妙，復(fù)雜，富有情感。女朋友一個(gè)“嗯”字，背后就有八萬(wàn)四千種情緒。規(guī)則怎么可能窮舉，邏輯怎么可能沒(méi)有漏洞。

而且，人根本就不是這樣學(xué)習(xí)的。你從小學(xué)習(xí)語(yǔ)言，是先學(xué)習(xí)語(yǔ)法嗎？不。我們是在一個(gè)環(huán)境里，跟著媽媽咿呀學(xué)語(yǔ)，跟著爸爸哼哼唧唧，看著看著，聽(tīng)著聽(tīng)著，自然就會(huì)了。

這個(gè)“自然就會(huì)了”，其實(shí)是因?yàn)槿四X的神經(jīng)元不斷連接。人腦的神經(jīng)元數(shù)量，據(jù)說(shuō)可以達(dá)到1000億個(gè)，這些神經(jīng)元，一旦接觸外界的刺激，就會(huì)產(chǎn)生連接。刺激越多，連接就越多，直到人腦突然涌現(xiàn)出知識(shí)和智慧。很多事情，自然就會(huì)了。

這種人腦產(chǎn)生智能的方式，也被用在了AI上。給AI很多數(shù)據(jù)，讓它自己看，自己學(xué)，自己感受。這個(gè)路線，又叫“連接主義（Connectionism）”。連接主義，也成為現(xiàn)在AI發(fā)展的主流。

換句話說(shuō)，今天的AI越來(lái)越厲害，是因?yàn)檎娴脑絹?lái)越像個(gè)“人”了。而且，是一個(gè)擁有上萬(wàn)億“神經(jīng)元”的“人”。

那么，明天呢？明天的AI，又會(huì)變成什么樣？誰(shuí)知道上萬(wàn)億個(gè)神經(jīng)元在接觸了大量的外界刺激之后，會(huì)涌現(xiàn)出怎樣可怕的知識(shí)和智慧來(lái)？

這種來(lái)自未知的恐懼，用埃隆·馬斯克（Elon Reeve Musk）的話說(shuō)就是：

人工智能，遠(yuǎn)比核武器更加危險(xiǎn)。

所以，必須要有人呼吁，必須要有人干預(yù)，必須要有人大聲疾呼。

那么，收到3月30日那封公開(kāi)信的從業(yè)者們，真的會(huì)乖乖地暫停AI訓(xùn)練嗎？大概率不會(huì)的。

為什么？因?yàn)檫@是一個(gè)“壞的納什均衡”。

03納什均衡

什么是“壞的納什均衡”？

你在劇場(chǎng)看戲劇。這出戲演得特別好，特別妙。可是，第一排的那幫人，真的太可惡了。為了能看得更清楚一些，他們竟然忍不住站了起來(lái)。

這下可好。他們一旦站起來(lái)，第二排的觀眾就被擋住了。于是，第二排觀眾也站起來(lái)了。接著，就是第三排，第四排，第五排。

就這樣，整個(gè)劇場(chǎng)的人，最后都是站著看完的這場(chǎng)戲。

但是，你發(fā)現(xiàn)沒(méi)有，整個(gè)劇場(chǎng)都站起來(lái)了之后，大家從觀看視線的角度，還是跟原來(lái)坐著一樣。本來(lái)所有人都可以舒舒服服地坐著看，但就是因?yàn)榈谝慌诺娜苏酒饋?lái)了，所有人就都得跟著站起來(lái)看。

這就是“壞的納什均衡”。

每一個(gè)參與其中的人的“最優(yōu)策略”，是“不遵守規(guī)則”。每一個(gè)人的不遵守規(guī)則，又會(huì)導(dǎo)致“最差結(jié)果”。

所以，一紙公開(kāi)信，很容易變成一張“今天誰(shuí)復(fù)習(xí)誰(shuí)是小狗”的廢紙。一到家，只有那個(gè)提議的人沒(méi)復(fù)習(xí)。

所謂的暫停開(kāi)發(fā)，很容易就會(huì)演變成秘密開(kāi)發(fā)。前排所有的觀眾都站起來(lái)了，我不站起來(lái)，我就看不到戲劇了。對(duì)面所有的對(duì)手都舉著槍?zhuān)乙前褬尫畔?，我就必死無(wú)疑。萬(wàn)一別人都在研究，就我沒(méi)有，那我的損失就太大了。

那怎么辦？

這時(shí)，最好的解決辦法就是：行政手段。

04行政手段

什么是行政手段？

誰(shuí)都不準(zhǔn)站起來(lái)，誰(shuí)站起來(lái)罰款，是行政手段。禁止參加校外的輔導(dǎo)課，誰(shuí)參加就罰款，是行政手段。不允許使用不合規(guī)的廣告，誰(shuí)使用就罰款，是行政手段。

3，2，1。都給我把槍放下來(lái)。

當(dāng)所有人只要“不遵守規(guī)則”就會(huì)受到足夠力度的懲罰的時(shí)候，每個(gè)人才會(huì)乖乖地遵守規(guī)則。當(dāng)每個(gè)人都遵守規(guī)則的時(shí)候，才會(huì)發(fā)現(xiàn)，坐著，也許也挺好。

于是，5月16日晚上，山姆·奧特曼，走上了美國(guó)參議院的聽(tīng)證會(huì)，并在聽(tīng)證會(huì)上表示，政府監(jiān)管對(duì)行業(yè)的未來(lái)至關(guān)重要。

你能想象嗎？山姆·奧特曼，竟然在聽(tīng)證會(huì)上表示：我愿意遵守規(guī)則，請(qǐng)給我戴上手銬。而且，我建議你可以這樣給我戴。

第一，建立一個(gè)政府機(jī)構(gòu)，給我們發(fā)放許可證，如果模型不符合政府制定的安全準(zhǔn)則，也可以撤銷(xiāo)這些許可證。

第二，為高能力的人工智能模型制定安全標(biāo)準(zhǔn)，并建立模型必須通過(guò)的具體功能測(cè)試，確保它不產(chǎn)生危險(xiǎn)內(nèi)容。

第三，引入與創(chuàng)造者及政府無(wú)關(guān)的第三方專(zhuān)家進(jìn)行獨(dú)立評(píng)估，以確保人工智能工具在立法準(zhǔn)則內(nèi)運(yùn)行。

一刀，兩刀，三刀。刀刀砍在要害上。

有了許可證之后，開(kāi)發(fā)AI所需要的數(shù)據(jù)，可能就拿不到了。有了安全標(biāo)準(zhǔn)之后，OpenAI目前已有的能力，可能會(huì)受到強(qiáng)烈的限制。有了第三方專(zhuān)家之后，所有炫目華麗的科技，可能都要在鐐銬下起舞。

而這個(gè)召喚手銬的人，不是某個(gè)還在觀望AI的人，不是某家還沒(méi)成功開(kāi)發(fā)的公司，而是OpenAI的首席執(zhí)行官，AI世界的重要人物，某種意義上未來(lái)世界的領(lǐng)跑者，山姆·奧特曼。

天啊，這是什么樣的格局。

可是，他會(huì)這么說(shuō)，應(yīng)該也不奇怪吧？該賺的錢(qián)，他早就賺夠了。監(jiān)管之后，所有人都不發(fā)展了，OpenAI領(lǐng)頭羊的位置反而得到了保護(hù)。這副手銬對(duì)山姆·奧特曼來(lái)說(shuō)，簡(jiǎn)直就是實(shí)打?qū)嵉慕鹗咒D呀！

唉。那我想說(shuō)，這也太低估奧特曼的境界了。

OpenAI，根本就是一家非營(yíng)利機(jī)構(gòu)。

05非營(yíng)利機(jī)構(gòu)

什么是非營(yíng)利機(jī)構(gòu)？

非營(yíng)利機(jī)構(gòu)，在英文世界里叫做，Non-Profit Organization，指的是那些不以營(yíng)利為目的的組織。非營(yíng)利組織的運(yùn)作并不是為了產(chǎn)生利益，這一點(diǎn)通常被視為這類(lèi)組織的主要特性。但是，關(guān)鍵是但是，但是，非營(yíng)利組織還是必須產(chǎn)生收益，以提供其活動(dòng)的資金，只不過(guò)它的收入和支出都是受到嚴(yán)格限制的。

舉個(gè)例子。

你是一家非營(yíng)利機(jī)構(gòu)性質(zhì)的私立學(xué)校創(chuàng)始人，你的夢(mèng)想，是通過(guò)特有的教學(xué)理念，來(lái)提升中國(guó)學(xué)生的綜合素質(zhì)。而這家擁有遠(yuǎn)大夢(mèng)想的私立學(xué)校，收入不菲。我的孩子想到你這里來(lái)上學(xué)，光是一年的學(xué)費(fèi)就要大20萬(wàn)。你每年招收500名學(xué)生，那么這家私立學(xué)校每年能從學(xué)費(fèi)上拿到的收入，是整整1個(gè)億。這1個(gè)億，是給你用來(lái)支付教師工資、購(gòu)買(mǎi)課桌椅、提升教學(xué)環(huán)境，用來(lái)支撐各類(lèi)運(yùn)行費(fèi)用，用來(lái)實(shí)現(xiàn)“非營(yíng)利目的”的。

注意，重點(diǎn)來(lái)了。這1個(gè)億，在支撐完各種費(fèi)用之后，還有盈余，怎么辦？對(duì)不起，多出來(lái)的錢(qián)，你不能從中分紅。你得把這筆錢(qián)，用在請(qǐng)更好的老師、買(mǎi)更好的課桌椅上?？墒强墒?，那萬(wàn)一我收的學(xué)費(fèi)，還不足以支撐運(yùn)行費(fèi)用，怎么辦？很遺憾，你也不能融資。你只能接受別人的捐贈(zèng)。

這就是：非營(yíng)利機(jī)構(gòu)。

你見(jiàn)過(guò)的一些私立學(xué)校，是非營(yíng)利機(jī)構(gòu)；你聽(tīng)過(guò)的一些基金會(huì)，是非營(yíng)利機(jī)構(gòu)；而這家一飛沖天的OpenAI，竟然也是非營(yíng)利機(jī)構(gòu)。

而奧特曼的夢(mèng)想，是在這個(gè)非營(yíng)利機(jī)構(gòu)里，用（在很多人眼里，根本不可能的）通用人工智能，造福全人類(lèi)。不是賺錢(qián)。但是，如果他一不小心賺到錢(qián)了，這筆錢(qián)也要繼續(xù)投入到“造福全人類(lèi)”中去，是不能從中分紅，再拿回去買(mǎi)房買(mǎi)車(chē)買(mǎi)島買(mǎi)飛機(jī)的。

于是，在聽(tīng)證會(huì)的現(xiàn)場(chǎng)，我們看到了那個(gè)我不知道該怎么形容的表情。

在吃驚地向聽(tīng)證會(huì)核實(shí)了好幾次提問(wèn)之后，山姆·奧特曼才帶著木訥地表情回答說(shuō)：我在開(kāi)放人工智能中沒(méi)有股權(quán)，我賺到的錢(qián)只夠我購(gòu)買(mǎi)食物和保險(xiǎn)。

我根本就沒(méi)有錢(qián)。

啊？怎么可能。就連聽(tīng)證會(huì)都吃驚地說(shuō)到：你需要一個(gè)律師，我懷疑你被人騙了。

天啊。這是怎樣一個(gè)理工男，怎樣一個(gè)鐵憨憨，怎樣一個(gè)理想主義者。

他要通過(guò)人工智能，造福全人類(lèi)。他要實(shí)現(xiàn)他的理想，而不是賺錢(qián)。也許他會(huì)一不小心賺到錢(qián)，但請(qǐng)放心，他一定會(huì)繼續(xù)用這筆錢(qián)來(lái)造福全人類(lèi)。

但現(xiàn)在，為了更好地造福全人類(lèi)，也順帶著實(shí)現(xiàn)我的理想，請(qǐng)為我戴上手銬。

于是，他終于在一個(gè)致力于推動(dòng)AI安全研究和政策的非營(yíng)利組織Safe AI Society發(fā)起的，呼吁全球的研究者、政策制定者和公眾共同努力而不是只有從業(yè)者的，只有22個(gè)詞的公開(kāi)信上，簽下了自己的名字。

Sam Altman。

06最后的話

那么，簽下這封公開(kāi)信之后，AI的世界將會(huì)變成什么樣呢？

還不確切知道?？春竺姘l(fā)展吧。但我想，這大概只是一個(gè)開(kāi)始。

也許，我們要等很久很久，才能見(jiàn)到GPT-4.5了。也許，我們很快會(huì)迎來(lái)一套全新的法規(guī)，全新的部門(mén)。也許，我們將會(huì)用上更高效，同時(shí)也更安全的人工智能。

那么，這對(duì)我們又意味著什么？

也許，我們最應(yīng)該從中習(xí)得的一件事就是：永遠(yuǎn)，不要放棄做一個(gè)理想主義者。永遠(yuǎn)，不要放棄做一個(gè)有格局的人。永遠(yuǎn)，不要忘記自己的初心。

唉。很多人都希望改變世界。但是走著走著，就被這個(gè)世界改變了。即使沒(méi)有被改變，世界也會(huì)說(shuō)，你變了。

他們會(huì)說(shuō)，3月30日的公開(kāi)信，是在“GPT-4剛剛推出2周”的時(shí)候呼吁的，明擺著就是為了打壓山姆·奧特曼。

他們會(huì)說(shuō)，5月16日的聽(tīng)證會(huì)，請(qǐng)求政府實(shí)行行業(yè)監(jiān)管，明擺著就是為了持證上崗，實(shí)行壟斷。

他們會(huì)說(shuō)，5月31日的公開(kāi)信，肯定是因?yàn)樯侥贰W特曼已經(jīng)得到了官方人員的許諾，才簽的字。

他們會(huì)說(shuō)，不過(guò)就是天天露臉，想火想瘋了罷了。

他們會(huì)說(shuō)，搞不好，連這個(gè)人都是假的！

一旦愿意相信陰謀，這個(gè)世界其實(shí)到處都可以是陰謀。

只是，在這個(gè)糖果商不會(huì)告訴你吃得太多會(huì)蛀牙的世界里，我愿意相信他沒(méi)有陰謀。

在這個(gè)太多人在灰色地帶做著明明就令行禁止的事的世界里，我愿意相信他沒(méi)有陰謀。

在這個(gè)很多人眼中鈔能力就是一切的世界里，我愿意相信他沒(méi)有陰謀。

我愿意相信，奧特曼沒(méi)有陰謀。

就像我愿意相信，人性本善。

唉。

本文為專(zhuān)欄作者授權(quán)微新創(chuàng)想發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表微新創(chuàng)想立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系http://www.i0562.net/。

隨著GPT-4、Stable Diffusion和Midjourney的爆火，越來(lái)越多的人開(kāi)始在工作和生活中引入生成式AI技術(shù)。

甚至，有人已經(jīng)開(kāi)始嘗試用AI生成的數(shù)據(jù)來(lái)訓(xùn)練AI了。難道，這就是傳說(shuō)中的「數(shù)據(jù)永動(dòng)機(jī)」？

然而，來(lái)自牛津、劍橋、帝國(guó)理工等機(jī)構(gòu)研究人員發(fā)現(xiàn)，如果在訓(xùn)練時(shí)大量使用AI內(nèi)容，會(huì)引發(fā)模型崩潰（model collapse），造成不可逆的缺陷。

也就是，隨著時(shí)間推移，模型就會(huì)忘記真實(shí)基礎(chǔ)數(shù)據(jù)部分。即使在幾乎理想的長(zhǎng)期學(xué)習(xí)狀態(tài)下，這個(gè)情況也無(wú)法避免。

因此研究人員呼吁，如果想要繼續(xù)保持大規(guī)模數(shù)據(jù)帶來(lái)的模型優(yōu)越性，就必須認(rèn)真對(duì)待人類(lèi)自己寫(xiě)出來(lái)的文本。

論文地址：https://arxiv.org/abs/2305.17493v2

但現(xiàn)在的問(wèn)題在于——你以為的「人類(lèi)數(shù)據(jù)」，可能并不是「人類(lèi)」寫(xiě)的。

洛桑聯(lián)邦理工學(xué)院（EPFL）的最新研究稱(chēng)，預(yù)估33%-46%的人類(lèi)數(shù)據(jù)都是由AI生成的。

訓(xùn)練數(shù)據(jù)，都是「垃圾」

毫無(wú)疑問(wèn)，現(xiàn)在的大語(yǔ)言模型已經(jīng)進(jìn)化出了相當(dāng)強(qiáng)大的能力，比如GPT-4可以在某些場(chǎng)景下生成與人類(lèi)別無(wú)二致的文本。

但這背后的一個(gè)重要原因是，它們的訓(xùn)練數(shù)據(jù)大部分來(lái)源于過(guò)去幾十年人類(lèi)在互聯(lián)網(wǎng)上的交流。

如果未來(lái)的語(yǔ)言模型仍然依賴(lài)于從網(wǎng)絡(luò)上爬取數(shù)據(jù)的話，就不可避免地要在訓(xùn)練集中引入自己生成的文本。

對(duì)此，研究人員預(yù)測(cè)，等GPT發(fā)展到第n代的時(shí)候，模型將會(huì)出現(xiàn)嚴(yán)重的崩潰問(wèn)題。

那么，在這種不可避免會(huì)抓取到LLM生成內(nèi)容的情況下，為模型的訓(xùn)練準(zhǔn)備由人類(lèi)生產(chǎn)的真實(shí)數(shù)據(jù)，就變得尤為重要了。

大名鼎鼎的亞馬遜數(shù)據(jù)眾包平臺(tái)Mechanical Turk（MTurk）從2005年啟動(dòng)時(shí)就已經(jīng)成為許多人的副業(yè)選擇。

科研人員可以發(fā)布各種瑣碎的人類(lèi)智能任務(wù)，比如給圖像標(biāo)注、調(diào)查等，應(yīng)有盡有。

而這些任務(wù)通常是計(jì)算機(jī)和算法無(wú)法處理的，甚至，MTurk成為一些預(yù)算不夠的科研人員和公司的「最佳選擇」。

就連貝佐斯還將MTurk的眾包工人戲稱(chēng)為「人工人工智能」。

除了MTurk，包括Prolific在內(nèi)的眾包平臺(tái)已經(jīng)成為研究人員和行業(yè)實(shí)踐者的核心，能夠提供創(chuàng)建、標(biāo)注和總結(jié)各種數(shù)據(jù)的方法，以便進(jìn)行調(diào)查和實(shí)驗(yàn)。

然而，來(lái)自EPFL的研究發(fā)現(xiàn)，在這個(gè)人類(lèi)數(shù)據(jù)的關(guān)鍵來(lái)源上，有近乎一半的數(shù)據(jù)都是標(biāo)注員用AI創(chuàng)建的。

論文地址：https://arxiv.org/abs/2306.07899v1

模型崩潰

而最開(kāi)始提到的「模型崩潰」，就是在給模型投喂了太多來(lái)自AI的數(shù)據(jù)之后，帶來(lái)的能夠影響多代的退化。

也就是，新一代模型的訓(xùn)練數(shù)據(jù)會(huì)被上一代模型的生成數(shù)據(jù)所污染，從而對(duì)現(xiàn)實(shí)世界的感知產(chǎn)生錯(cuò)誤的理解。

更進(jìn)一步，這種崩潰還會(huì)引發(fā)比如基于性別、種族或其他敏感屬性的歧視問(wèn)題，尤其是如果生成AI隨著時(shí)間的推移學(xué)會(huì)在其響應(yīng)中只生成某個(gè)種族，而「忘記」其他種族的存在。

而且，除了大語(yǔ)言模型，模型崩潰還會(huì)出現(xiàn)在變分自編碼器（VAE）、高斯混合模型上。

需要注意的是，模型崩潰的過(guò)程與災(zāi)難性遺忘（catastrophic forgetting）不同，模型不會(huì)忘記以前學(xué)過(guò)的數(shù)據(jù)，而是開(kāi)始把模型的錯(cuò)誤想法曲解為現(xiàn)實(shí)，并且還會(huì)強(qiáng)化自己對(duì)錯(cuò)誤想法的信念。

舉個(gè)例子，比如模型在一個(gè)包含100張貓圖片的數(shù)據(jù)集上進(jìn)行訓(xùn)練，其中有10張藍(lán)毛貓，90張黃毛貓。

模型學(xué)到的結(jié)論是，黃毛貓更普遍，同時(shí)會(huì)傾向于把藍(lán)毛貓想象的比實(shí)際更偏黃，所以在被要求生成新數(shù)據(jù)時(shí)可能會(huì)返回一些類(lèi)似綠毛貓的結(jié)果。

而隨著時(shí)間的推移，藍(lán)毛的原始特征在多個(gè)訓(xùn)練epoch中逐漸被侵蝕，直接從藍(lán)色變成了綠色，最終再演變?yōu)辄S色，這種漸進(jìn)的扭曲和丟失少數(shù)特征的現(xiàn)象就是模型崩潰。

具體來(lái)說(shuō)，模型崩潰可以分為兩種情況：

1. 早期模型崩潰（early model collapse），模型開(kāi)始丟失有關(guān)分布尾部的信息；

2. 后期模型崩潰（late model collapse），模型與原始分布的不同模式糾纏在一起，并收斂到一個(gè)與原始分布幾乎沒(méi)有相似之處的分布，往往方差也會(huì)非常小。

與此同時(shí)，研究人員也總結(jié)出了造成模型崩潰的兩個(gè)主要原因：

其中，在更多的時(shí)候，我們會(huì)得到一種級(jí)聯(lián)效應(yīng)，即單個(gè)不準(zhǔn)確的組合會(huì)導(dǎo)致整體誤差的增加。

1. 統(tǒng)計(jì)近似誤差（Statistical approximation error）

在重采樣的每一步中，信息中非零概率都可能會(huì)丟失，導(dǎo)致出現(xiàn)統(tǒng)計(jì)近似誤差，當(dāng)樣本數(shù)量趨于無(wú)限會(huì)逐漸消失，該誤差是導(dǎo)致模型崩潰的主要原因。

2. 函數(shù)近似誤差（Functional approximation error）

該誤差主要源于模型中的函數(shù)近似器表達(dá)能力不足，或者有時(shí)在原始分布支持之外的表達(dá)能力太強(qiáng)。

眾所周知，神經(jīng)網(wǎng)絡(luò)在極限情況下是通用的函數(shù)近似器，但實(shí)際上這種假設(shè)并不總是成立的，特別是神經(jīng)網(wǎng)絡(luò)可以在原始分布的支持范圍之外引入非零似然。

舉個(gè)簡(jiǎn)單例子，如果我們?cè)噲D用一個(gè)高斯分布來(lái)擬合兩個(gè)高斯的混合分布，即使模型具有關(guān)于數(shù)據(jù)分布的完美信息，模型誤差也是不可避免的。

需要注意的是，在沒(méi)有統(tǒng)計(jì)誤差的情況下，函數(shù)近似誤差只會(huì)發(fā)生在第一代，一旦新的分布能被函數(shù)近似器描述出來(lái)，就會(huì)在各代模型中保持完全相同的分布。

可以說(shuō)，模型強(qiáng)大的近似能力是一把雙刃劍：其表達(dá)能力可能會(huì)抵消統(tǒng)計(jì)噪聲，從而更好地?cái)M合真實(shí)分布，但同樣也會(huì)使噪聲復(fù)雜化。

對(duì)此，論文共同一作Ilia Shumailov表示：「生成數(shù)據(jù)中的錯(cuò)誤會(huì)累積，最終迫使從生成數(shù)據(jù)中學(xué)習(xí)的模型進(jìn)一步錯(cuò)誤地理解現(xiàn)實(shí)。而且模型崩潰發(fā)生得非常快，模型會(huì)迅速忘記最初學(xué)習(xí)的大部分原始數(shù)據(jù)?！?/p>

解決方法

好在，研究人員發(fā)現(xiàn)，我們還是有辦法來(lái)避免模型崩潰的。

第一種方法是保留原始的、完全或名義上由人類(lèi)生成的數(shù)據(jù)集的高質(zhì)量副本，并避免與AI生成的數(shù)據(jù)混合，然后定期使用這些數(shù)據(jù)對(duì)模型進(jìn)行重新訓(xùn)練，或者完全從頭訓(xùn)練一遍模型。

第二種避免回復(fù)質(zhì)量下降并減少AI模型中的錯(cuò)誤或重復(fù)的方法是將全新的、干凈的、由人類(lèi)生成的數(shù)據(jù)集重新引入訓(xùn)練中。

為了防止模型崩潰，開(kāi)發(fā)者需要確保原始數(shù)據(jù)中的少數(shù)派在后續(xù)數(shù)據(jù)集中得到公正的表征。

數(shù)據(jù)需要仔細(xì)備份，并覆蓋所有可能的邊界情況；在評(píng)估模型的性能時(shí)，需要考慮到模型將要處理的數(shù)據(jù)，甚至是最不可信的數(shù)據(jù)。

隨后，當(dāng)重新訓(xùn)練模型時(shí)，還需要確保同時(shí)包括舊數(shù)據(jù)和新數(shù)據(jù)，雖然會(huì)增加訓(xùn)練的成本，但至少在某種程度上有助于緩解模型崩潰。

不過(guò)，這些方法必須要內(nèi)容制作者或AI公司采取某種大規(guī)模的標(biāo)記機(jī)制，來(lái)區(qū)分AI生成的內(nèi)容和人類(lèi)生成的內(nèi)容。

目前，有一些開(kāi)箱即用的解決方案，比如GPTZero，OpenAI Detector，或Writer在簡(jiǎn)單的文本上工作得很好。

然而，在一些特殊的文本中，這些方法并不能有效執(zhí)行。比如，在EPFL研究中有ChatGPT合成的10個(gè)總結(jié)，而GPTZero只檢測(cè)到6個(gè)是合成的。

對(duì)此，研究人員通過(guò)微調(diào)自己的模型來(lái)檢測(cè)AI的使用，發(fā)現(xiàn)ChatGPT在編寫(xiě)本文時(shí)是最常用的LLM。

對(duì)于構(gòu)建的檢測(cè)AI數(shù)據(jù)的方法，研究人員利用原始研究中的答案和用ChatGPT合成的數(shù)據(jù)，訓(xùn)練了一個(gè)定制的「合成-真實(shí)分類(lèi)器」。

然后用這個(gè)分類(lèi)器來(lái)估計(jì)重新進(jìn)行的任務(wù)中合成答案的普遍性。

具體來(lái)講，研究人員首先使用真正由人類(lèi)撰寫(xiě)的MTurk回應(yīng)，和合成LLM生成的回應(yīng)，來(lái)訓(xùn)練特定任務(wù)的「合成-真實(shí)分類(lèi)器」。

其次，將這個(gè)分類(lèi)器用于MTurk的真實(shí)回應(yīng)（其中眾包人可能使用，也可能沒(méi)有依賴(lài)LLM），以估計(jì)LLM使用的普遍性。

最后，研究者確認(rèn)了結(jié)果的有效性，在事后比較分析擊鍵數(shù)據(jù)與MTurk的回應(yīng)。

實(shí)驗(yàn)結(jié)果顯示，這個(gè)模型在正確識(shí)別人工智能文本方面高達(dá)99%的準(zhǔn)確率。

此外，研究人員用擊鍵數(shù)據(jù)驗(yàn)證了結(jié)果，發(fā)現(xiàn)：

– 完全在MTurk文本框中寫(xiě)的總結(jié)（不太可能是合成的）都被歸類(lèi)為真實(shí)的；

– 在粘貼的總結(jié)中，提取式總結(jié)和LLM的使用有明顯區(qū)別。

具體來(lái)講，人工智能生成的文本通常與原始總結(jié)幾乎沒(méi)有相似之處。這表明AI模型正在生成新文本，而不是復(fù)制和粘貼原始內(nèi)容的一部分。

「人類(lèi)數(shù)據(jù)」很重要

現(xiàn)在，人們普遍擔(dān)心LLM將塑造人類(lèi)的「信息生態(tài)系統(tǒng)」，也就是說(shuō)，在線可獲得的大部分信息都是由LLM生成的。

使用綜合生成數(shù)據(jù)訓(xùn)練的LLM的性能明顯降低，就像Ilia Shumailov所稱(chēng)會(huì)讓模型患上「癡呆癥」。

而這個(gè)問(wèn)題將會(huì)變得更加嚴(yán)重，因?yàn)殡S著LLM的普及，眾包工作者們已經(jīng)廣泛使用ChatGPT等各種LLM。

但對(duì)于人類(lèi)內(nèi)容創(chuàng)作者來(lái)說(shuō)，這是一個(gè)好消息，提高工作效率的同時(shí)，還賺到了錢(qián)。

但是，若想挽救LLM不陷于崩潰的邊緣，還是需要真實(shí)的「人類(lèi)數(shù)據(jù)」。

1. 人類(lèi)數(shù)據(jù)在科學(xué)中仍然是至關(guān)重要的

2. 在合成數(shù)據(jù)上訓(xùn)練模型可能會(huì)帶來(lái)偏見(jiàn)和意識(shí)形態(tài)永久化

3. 隨著模型變得流行和更好/多模態(tài)，采用率只會(huì)增加

總的來(lái)說(shuō)，由人類(lèi)生成的原始數(shù)據(jù)可以更好地表示世界，雖然也可能包含某些劣質(zhì)、概率較低的數(shù)據(jù)；而生成式模型往往只會(huì)過(guò)度擬合流行數(shù)據(jù)，并對(duì)概率更低的數(shù)據(jù)產(chǎn)生誤解。

那么，在充斥著生成式AI工具和相關(guān)內(nèi)容的未來(lái)，人類(lèi)制作的內(nèi)容或許會(huì)比今天更有價(jià)值，尤其是作為AI原始訓(xùn)練數(shù)據(jù)的來(lái)源。

參考資料：

https://arxiv.org/abs/2306.07899v1

https://arxiv.org/abs/2305.17493v2

本文（含圖片）為合作媒體授權(quán)微想智云轉(zhuǎn)載，不代表微想智云立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系http://gpt.idea2003.com/。

編者按：本文來(lái)自微信公眾號(hào) 硅發(fā)布（ID：guifabucom），作者：Lynn Yang，微想智云經(jīng)授權(quán)轉(zhuǎn)載。

前些天有這樣一條消息：5 月 29 日，OpenAI 創(chuàng)始人薩姆.奧特曼在接受人工智能公司 Humanloop 的 CEO 拉扎.哈比卜訪談時(shí)談到了 OpenAI 的未來(lái)。

盡管第二天，Humanloop 應(yīng) OpenAI 要求迅速刪除了這一分享。但根據(jù)其他網(wǎng)站的轉(zhuǎn)載，我們依然可以追溯到奧特曼當(dāng)時(shí)分享的幾個(gè)核心要點(diǎn)。

其中，奧特曼提到了一個(gè)重要信息。如下：

“ChatGPT 不會(huì)很快發(fā)布后續(xù)插件，因?yàn)閺膶?shí)際市場(chǎng)情況看，插件目前沒(méi)有達(dá)到產(chǎn)品與市場(chǎng)的契合度（Product/Marketing Fit）。除了瀏覽之外，插件的使用情況表明，他們還沒(méi)有和市場(chǎng)達(dá)到最佳的契合點(diǎn)?！?/p>

換句話說(shuō)：ChatGPT 并沒(méi)有像很多人預(yù)期的那樣因?yàn)椴寮蔀橐粋€(gè)超級(jí)入口。

那么究竟是為什么呢？

（一）

5 月 29 日那天，我正好把自己關(guān)在家里，緊張兮兮地測(cè)試釘釘加入生成式 AI 后的能力。

5 月底，我成為了“釘釘斜杠‘/’”第一批邀請(qǐng)測(cè)試的企業(yè)用戶，“釘釘斜杠‘/’”首批開(kāi)放的能力還挺多，不光有熟悉的文檔，還有群聊、應(yīng)用開(kāi)發(fā)以及會(huì)議等場(chǎng)景。

我的目標(biāo)是：我要測(cè)試一下這幾個(gè)場(chǎng)景的生成式 AI 能力，并將其與我所熟知的海外同類(lèi)產(chǎn)品做一對(duì)比。

首先我發(fā)現(xiàn)，釘釘文檔與 Notion 很像，都圍繞辦公內(nèi)容生產(chǎn)的自動(dòng)化設(shè)置了十幾個(gè)場(chǎng)景。但兩者的最大差異是：釘釘把“文生圖”、“文生表格”的能力也一起放進(jìn)了文檔里。

這樣做的最大好處是：在工作中，我們可以在一個(gè)界面，就完成寫(xiě)作、插圖和表格的植入。這將大大提高職場(chǎng)人士生產(chǎn)內(nèi)容的效率，也使釘釘成為了國(guó)內(nèi)首個(gè)將文生圖 AI 能力落地到應(yīng)用中的生產(chǎn)力工具。

比如，Notion 就沒(méi)有文生圖功能。文字生成圖片方面，海外做得最好的是 Midjourney。盡管釘釘文檔生成的圖像在畫(huà)質(zhì)優(yōu)雅方面不如 Midjourney，但我覺(jué)得這不是大問(wèn)題，因?yàn)獒斸攺?qiáng)調(diào)的是辦公場(chǎng)景，更加強(qiáng)調(diào)的是圖像的功能性。反而，我覺(jué)得釘釘文生圖兩個(gè)最大的 Bug 是：

第一，因?yàn)楸娝苤脑?，釘釘無(wú)法生成敏感人物的圖（如特朗普、范冰冰等）；第二，釘釘無(wú)法很好地生成涉及名人的圖。根據(jù)釘釘告訴我的說(shuō)法：這個(gè)問(wèn)題與版權(quán)有關(guān)，因?yàn)槊藞D像非常容易被惡搞之后四處傳播，在法律上容易存在風(fēng)險(xiǎn)。

下面，是我用釘釘文檔中“文生表格”功能生成的一張表格，我把它調(diào)成了我最喜歡的綠色。隨后，我將用這張圖來(lái)測(cè)試釘釘在生成應(yīng)用方面的生成式 AI 能力。

（二）

在釘釘應(yīng)用生成方面，我最喜歡的是一個(gè)傻瓜級(jí)功能，叫“識(shí)圖搭應(yīng)用”，它允許任何人通過(guò)拍照的方式來(lái)讓釘釘識(shí)圖，然后快速生成應(yīng)用，非常適合我這種不會(huì)寫(xiě)代碼的人。

如下圖，當(dāng)我把上述綠色的表格上傳到“識(shí)圖搭應(yīng)用”里，機(jī)器人很快就把我制作的表格變成了一個(gè)應(yīng)用，讓我預(yù)覽。

預(yù)覽中，我發(fā)現(xiàn)表格的標(biāo)題不完整，于是動(dòng)手修改。這個(gè)時(shí)候，頁(yè)面飛快地轉(zhuǎn)到了釘釘在 2020 年推出的低代碼應(yīng)用平臺(tái)——宜搭。

根據(jù)從釘釘了解到的信息：我用 AI 生成的這些應(yīng)用，也可以打通釘釘、內(nèi)部系統(tǒng)。如銷(xiāo)售人員可以在群里實(shí)時(shí)提交當(dāng)天的客戶跟進(jìn)記錄，相關(guān)信息也可以通過(guò)宜搭接口同步到企業(yè)內(nèi)部的 CRM 系統(tǒng)中，數(shù)據(jù)打通實(shí)現(xiàn)數(shù)據(jù)回流。

第二，釘釘已經(jīng)把低代碼的各類(lèi)通用模板、常見(jiàn)小程序喂給大模型。因此，大模型里沉淀了千行百業(yè)（制造業(yè)、醫(yī)療、建筑等）以及各類(lèi)高頻業(yè)務(wù)場(chǎng)景（人事行政、財(cái)務(wù)報(bào)銷(xiāo)、生產(chǎn)制造）中的上千個(gè)應(yīng)用模板，構(gòu)建了大量業(yè)務(wù) Knowhow 數(shù)據(jù)，可以根據(jù)用戶指令來(lái)智能推薦并補(bǔ)全業(yè)務(wù)應(yīng)用信息。

另一個(gè)我覺(jué)得很有意思的 AI 功能，是釘釘群聊 IM 中的問(wèn)答機(jī)器人。

這個(gè)機(jī)器人支持任何人和公司在投喂給它私有數(shù)據(jù)后，都可以定制一個(gè)專(zhuān)屬于自己的 AI 對(duì)話機(jī)器人。如下圖，我投喂給了機(jī)器人我的《加入知識(shí)星球必讀》。

在快速學(xué)習(xí)了我的私有數(shù)據(jù)后，下面是我向機(jī)器人提取的信息：

這個(gè)機(jī)器人的胃口很大，可以一次學(xué)習(xí)數(shù)十萬(wàn)字的中文材料，然后，智能生成對(duì)話問(wèn)答。每一位群成員都可以在群里 @它、向它提問(wèn)。

從體驗(yàn)中可以想象到商業(yè)場(chǎng)景的可能性：這種 AI 場(chǎng)景將在社群運(yùn)營(yíng)、客服答疑、新人培訓(xùn)、公司制度及各種專(zhuān)業(yè)類(lèi)內(nèi)容（如法律等）時(shí)發(fā)揮重大作用，并大大幫助公司節(jié)省人力、提升分析問(wèn)題和尋找答案的效率。

當(dāng)然，釘釘也有群聊 AI 方面的其他功能。如在面對(duì)群內(nèi)海量聊天記錄時(shí)，能夠一鍵自動(dòng)生成聊天摘要、拿捏出重要信息。

此外，釘釘會(huì)議還可以實(shí)現(xiàn)無(wú)時(shí)長(zhǎng)限制、無(wú)字?jǐn)?shù)限制的摘要能力，一場(chǎng)兩小時(shí)、一兩萬(wàn)字的會(huì)議，釘釘會(huì)議會(huì)根據(jù)內(nèi)容智能劃分章節(jié)，最終根據(jù)信息整合類(lèi)似的內(nèi)容生成為幾個(gè)大的議題摘要。

需要注意的是：5 月 4 日，Salesforce 也推出了人工智能工具 SlackGPT。和今年 3 月 Slack 推出的 ChatGPT 機(jī)器人作為一個(gè)集成添加到平臺(tái)中不同，SlackGPT 是被嵌入到了 Slack 的核心功能里。

簡(jiǎn)單講，SlackGPT 具有集成到應(yīng)用本機(jī)界面的功能，以及用于自定義工作流程的無(wú)代碼工具。用戶可以一鍵點(diǎn)擊迅速“總結(jié)”錯(cuò)過(guò)的內(nèi)容。在大家的討論場(chǎng)景下，SlackGPT 還可以根據(jù)音頻記錄生成智能摘要并將其放入聊天中。

但是截至目前，Slack 還沒(méi)有推出 SlackGPT，高管說(shuō)可能需要等到明年。也就是說(shuō)，釘釘推出群聊 AI 的速度要比 Slack 快很多。

（三）

當(dāng)然，Notion 和釘釘?shù)淖畲蟛町惼鋵?shí)是“第一邏輯”。

盡管兩者在整體架構(gòu)上很像，都可以用于經(jīng)營(yíng)公司、管理項(xiàng)目和捕捉想法，但 Notion 的第一邏輯首先是一個(gè)個(gè)人工具，然后才是公司邏輯；而釘釘則首先是公司邏輯，然后才是一個(gè)個(gè)人工具。也正因?yàn)榇?，我非常期待融合?AI 屬性的釘釘個(gè)人版的出現(xiàn)。

并且，我很自然地就由釘釘個(gè)人版的 “/”，聯(lián)想到了伊隆.馬斯克的 “X”。

因?yàn)橥?5 月 29 日消息：根據(jù)薩姆.奧特曼在接受人工智能公司 Humanloop 的 CEO 拉扎.哈比卜訪談時(shí)的說(shuō)法：

“盡管許多開(kāi)發(fā)者都表達(dá)了在 API 中融入 ChatGPT 插件的興趣，但是插件可能不會(huì)很快發(fā)布：因?yàn)椴寮壳皼](méi)有達(dá)到產(chǎn)品市場(chǎng)契合度（PMF），除了瀏覽之外，插件的使用情況表明他們還沒(méi)有和市場(chǎng)達(dá)到最佳的契合點(diǎn)。

第二，很多人認(rèn)為他們希望他們的應(yīng)用程序在 ChatGPT 中，但他們真正想要的是在他們的應(yīng)用程序中可以使用 ChatGPT。”

這里透露出的一個(gè)重要問(wèn)題是：為什么目前 ChatGPT 的插件沒(méi)有達(dá)到產(chǎn)品與市場(chǎng)的契合度？

我猜測(cè)可能的答案如下：

根據(jù)我查閱的 Chat.openai.com 在 Similarweb 的信息，如下圖：

Chat.openai.com 在今年 3 月的總訪問(wèn)量（桌面和移動(dòng)設(shè)備）達(dá)到了 18 億次，平均每次訪問(wèn)的頁(yè)數(shù)為 6.22，平均訪問(wèn)的持續(xù)時(shí)間為 8:32 分鐘。

從上圖中可以看到：平均訪問(wèn)的持續(xù)時(shí)間太短，可能是一個(gè)問(wèn)題。

此外根據(jù)美媒的最新報(bào)道：為了對(duì)抗微軟和 OpenAI，以及谷歌的 DeepMind 的合作伙伴關(guān)系，伊隆.馬斯克正在 AI 領(lǐng)域準(zhǔn)備一個(gè)新項(xiàng)目，這個(gè)新項(xiàng)目“某種程度上”可能涉及利用馬斯克的至少兩家公司——特斯拉和推特——的技術(shù)。

馬斯克的原話是：“我認(rèn)為這場(chǎng)比賽中，應(yīng)該有重要的第三匹馬?！?/p>

馬斯克近日對(duì)美媒表示，他不想在公告上倉(cāng)促行事，“但 OpenAI 與微軟的關(guān)系似乎運(yùn)作良好……所以 X.AI、推特和特斯拉，可能會(huì)有類(lèi)似的東西。”

上個(gè)月，馬斯克將 X.AI Corp. 注冊(cè)為 AI 的初創(chuàng)公司，并將 Twitter Inc. 并入了 XCorp.。根據(jù)馬斯克的說(shuō)法，他對(duì) Twitter 的抱負(fù)之一是將其轉(zhuǎn)變?yōu)椤耙磺袘?yīng)用程序”，也就是它戲稱(chēng)的 “X”。

而葉軍也曾在 4 月 18 日的媒體專(zhuān)訪會(huì)上提到了一個(gè)很有意思的觀點(diǎn)，如下：

“未來(lái)不需要那么多 App 了，用戶端有一個(gè)超級(jí) App 就可以了。然后，這個(gè)超級(jí) App 去跟周邊包括打車(chē)軟件、訂房軟件全集成到一起。這是一種新形態(tài)，以前都是鏈接、跳來(lái)跳去，但未來(lái)的智能時(shí)代不會(huì)有跳轉(zhuǎn)，不會(huì)有界面，也不會(huì)有 App。”

“我個(gè)人的判斷是：未來(lái)是一個(gè)從 Low Code 到 No APP 的過(guò)程，而智能入口就是核心的入口，操作極簡(jiǎn)，把底層數(shù)據(jù)都打通。這個(gè)過(guò)程一旦完成，格局將發(fā)生非常大的變化。所以從今年開(kāi)始，釘釘?shù)墓δ芤矔?huì)變得越來(lái)越簡(jiǎn)潔。我認(rèn)為未來(lái)釘釘個(gè)人版的 AI 助手，會(huì)是就嵌入到各種場(chǎng)景里的自然語(yǔ)言的表達(dá)，這種形式將成為終極的形式。”

因此，我也非常期待釘釘 AI 個(gè)人版的發(fā)布。并且我想提出的一個(gè)重要問(wèn)題是：

如果 ChatGPT 的用戶平均訪問(wèn)的持續(xù)時(shí)間太短是一個(gè)問(wèn)題，那么一個(gè)本身就有極強(qiáng)用戶粘性的超級(jí) App——可能是如 Twitter 這樣的 IM（即時(shí)通訊）或是如釘釘這樣的辦公 IM——是否可能塑造未來(lái) AI 的終極形式呢？

本文為專(zhuān)欄作者授權(quán)微想智云發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表微想智云立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系http://gpt.idea2003.com/。

編者按：本文來(lái)自微信公眾號(hào) 紅餐網(wǎng)（ID：hongcan18），作者：曾憲天，微想智云經(jīng)授權(quán)發(fā)布。

機(jī)器人餐廳歷經(jīng)十年發(fā)展，有著大量無(wú)疾而終的商業(yè)故事。無(wú)論是謹(jǐn)慎探索的中小品牌還是不差錢(qián)的巨頭大廠，為何都沒(méi)能成功？

最近，有業(yè)內(nèi)人士向紅餐網(wǎng)爆料稱(chēng)，某巨頭轟轟烈烈搞了幾年的機(jī)器人餐廳項(xiàng)目，已經(jīng)到了業(yè)務(wù)停滯、團(tuán)隊(duì)解散的階段。

這個(gè)失敗案例其實(shí)有著共性意義，機(jī)器人餐廳歷經(jīng)十年發(fā)展，有著大量無(wú)疾而終的商業(yè)故事。

比如2016年時(shí)，曾經(jīng)的“網(wǎng)紅”湖南米粉品牌人人湘，就在北京開(kāi)過(guò)一家無(wú)人化的機(jī)器人餐廳，當(dāng)時(shí)這家店在餐飲消費(fèi)和互聯(lián)網(wǎng)科技領(lǐng)域都引起了轟動(dòng)。然而僅僅過(guò)了兩年，人人湘就關(guān)閉了無(wú)人餐廳，并宣告前期投入的100多萬(wàn)全部打水漂。

這么多年來(lái)，不只是中小品牌折戟，就連不差錢(qián)、不差資源的巨頭大廠，也沒(méi)能講好機(jī)器人餐廳這個(gè)故事。

巨頭下場(chǎng)，也沒(méi)做成

2018年時(shí)，執(zhí)掌碧桂園的楊國(guó)強(qiáng)曾公開(kāi)表示，5年內(nèi)碧桂園要在機(jī)器人領(lǐng)域投入至少800億元，引發(fā)外界關(guān)注。

2019年5月，碧桂園成立了負(fù)責(zé)餐飲機(jī)器人的千璽機(jī)器人集團(tuán)，不僅覆蓋餐飲機(jī)器人設(shè)備的研發(fā)、制造、銷(xiāo)售，還嘗試打造自營(yíng)的機(jī)器人餐廳，企圖通過(guò)合營(yíng)、加盟等方式構(gòu)建連鎖化品牌發(fā)展生態(tài)。

2020年1月，千璽機(jī)器人集團(tuán)打造的FOODOM天降美食王國(guó)機(jī)器人餐廳首家旗艦店在廣州珠江新城開(kāi)業(yè)。

隨后的2020年6月，F(xiàn)OODOM天降美食王國(guó)機(jī)器人餐廳，在碧桂園博智林公司總部所在地順德開(kāi)出了第二家店。

公開(kāi)信息顯示，F(xiàn)OODOM天降美食王國(guó)是業(yè)態(tài)完整的機(jī)器人餐廳綜合體，面積約2000平米，點(diǎn)餐、出餐、送餐均由機(jī)器人設(shè)備完成，餐廳內(nèi)有炒鍋機(jī)器人、煲仔飯機(jī)器人、粉面機(jī)器人等20余種餐飲機(jī)器人設(shè)備，可提供近200種各式菜品，最快20秒出餐。

在2021年初的碧桂園年度工作會(huì)議上，時(shí)任碧桂園董事局主席的楊國(guó)強(qiáng)再度強(qiáng)調(diào)了對(duì)機(jī)器人業(yè)務(wù)的野心，其表示一年內(nèi)機(jī)器人餐廳要在大灣區(qū)布局1萬(wàn)家門(mén)店，未來(lái)劍指全球最大餐飲集團(tuán)、最大餐飲設(shè)備制造商。

然而站在2023年回望，這一目標(biāo)終成空談。FOODOM天降美食王國(guó)機(jī)器人餐廳高調(diào)開(kāi)出的廣州珠江新城店早已歇業(yè)退場(chǎng)，位于順德碧桂園博智林公司總部的門(mén)店似乎也處于“半隱退”的狀態(tài)中。

目前，在大眾點(diǎn)評(píng)上搜索該餐廳僅出現(xiàn)一個(gè)結(jié)果，也就是博智林機(jī)器人總部店，評(píng)分為3.9分。紅餐網(wǎng)翻看數(shù)百條用戶點(diǎn)評(píng)發(fā)現(xiàn)，該餐廳存在缺少服務(wù)、點(diǎn)餐后無(wú)反應(yīng)、機(jī)器人故障、出餐慢、菜品味道差等槽點(diǎn)。

值得一提的是，在最近幾次財(cái)報(bào)季中，碧桂園方面幾乎沒(méi)再提及過(guò)餐飲機(jī)器人、機(jī)器人餐廳等相關(guān)信息，轉(zhuǎn)而聚焦于其建筑機(jī)器人方面的進(jìn)展披露。

阿里旗下的盒馬鮮生，很早以前也已涉足機(jī)器人餐廳市場(chǎng)。

2018年2月，盒馬Robot.HE機(jī)器人餐廳落地上海，顧客選座/落座后使用手機(jī)掃碼點(diǎn)餐付款，智能機(jī)器人制作餐品，智能送餐車(chē)送餐，全程不超過(guò)30分鐘。

目前，該店在大眾點(diǎn)評(píng)上的評(píng)分同樣只有3.9分，存在菜品、餐具不干凈，環(huán)境衛(wèi)生不好，上菜太慢，菜品味道一般等問(wèn)題。

從數(shù)百條用戶反饋的評(píng)論可以看出，大部分用戶被機(jī)器人餐廳的噱頭所吸引，在體驗(yàn)前就有了較高的期望值，然而在實(shí)際體驗(yàn)過(guò)程中卻出現(xiàn)了不愉快的經(jīng)歷，導(dǎo)致產(chǎn)生較大的落差感。

值得一提的是，早在2018年時(shí)盒馬就對(duì)外宣稱(chēng)，機(jī)器人餐廳開(kāi)業(yè)4個(gè)月便已營(yíng)收平衡，但直到2023年4月，其才在上海開(kāi)出第二家機(jī)器人餐廳。這或許也從側(cè)面說(shuō)明，目前機(jī)器人餐廳的模式還不適合大面積復(fù)制落子。

有著類(lèi)似經(jīng)歷的還有京東。2018年“雙11”前，京東首家機(jī)器人餐廳“京東X未來(lái)餐廳”在天津開(kāi)業(yè)，從點(diǎn)餐、配菜、炒菜、傳菜到用餐、結(jié)算，智能機(jī)器人和人工智能后臺(tái)貫穿餐廳運(yùn)營(yíng)全過(guò)程。

消費(fèi)者點(diǎn)餐后，后臺(tái)將炒菜任務(wù)分配給烹飪機(jī)器人，機(jī)器人依據(jù)菜譜進(jìn)行菜品的烹制，最后再由采用自動(dòng)駕駛和高精地圖技術(shù)的傳菜機(jī)器人將烹制好的菜品送到餐桌前，盡可能實(shí)現(xiàn)了無(wú)人化模式。

彼時(shí)擔(dān)任京東集團(tuán)副總裁、X事業(yè)部總裁肖軍稱(chēng)，京東X未來(lái)餐廳打造的智能餐廳解決方案將面向更多城市，進(jìn)一步拓展無(wú)界零售應(yīng)用場(chǎng)景和線上線下融合版圖，未來(lái)將持續(xù)在全國(guó)落地。

△圖片來(lái)源：大眾點(diǎn)評(píng)

然而如今再查看這家門(mén)店，已“查無(wú)此店”，彼時(shí)宣布擴(kuò)張計(jì)劃的京東副總裁肖軍也早已于2021年11月從京東離職。目前在大眾點(diǎn)評(píng)中能查詢到的京東未來(lái)餐廳信息，僅剩其沈陽(yáng)門(mén)店。

機(jī)器人餐廳，為何水土不服？

不差錢(qián)的巨頭們親自下場(chǎng)布局?jǐn)?shù)年，這件事也沒(méi)能做成。在風(fēng)口期涌入的中小餐飲企業(yè)，更是折戟無(wú)數(shù)。

為什么機(jī)器人餐廳始終無(wú)法走出合適的發(fā)展路子？

△圖片來(lái)源：大眾點(diǎn)評(píng)

早在2018年時(shí)，人人湘聯(lián)合創(chuàng)始人嚴(yán)興會(huì)就曾進(jìn)行過(guò)復(fù)盤(pán)，并坦言互聯(lián)網(wǎng)科技的未來(lái)感風(fēng)格并不太適合餐飲體驗(yàn)，餐飲門(mén)店更需要煙火氣。

“不可以犧牲顧客體驗(yàn)去做技術(shù)。”嚴(yán)興會(huì)認(rèn)為，餐飲行業(yè)的成本重構(gòu)，還遠(yuǎn)未到能完全用機(jī)械化來(lái)替代人力成本的時(shí)候。

今年4月，客如云COO蘭彥暉在在紅餐網(wǎng)推出的系列化直播欄目《紅咖說(shuō)》中 曾表示，目前國(guó)內(nèi)大概有1000萬(wàn)餐飲企業(yè)，整體的連鎖化、數(shù)字化率可能僅在20%左右。

在餐飲數(shù)字化率并不高的當(dāng)下，想要跳過(guò)管理系統(tǒng)、結(jié)算系統(tǒng)、點(diǎn)餐系統(tǒng)、供應(yīng)鏈系統(tǒng)等多個(gè)方面的數(shù)字化打磨升級(jí)，直接一步登天進(jìn)入“全自動(dòng)”的機(jī)器人餐廳階段，顯然是不現(xiàn)實(shí)的。

此外，機(jī)器人餐廳代表的無(wú)人模式理論上可以減少人力成本，提高餐品制作、門(mén)店運(yùn)營(yíng)等方面的效率，但在實(shí)際落地中，這一模式又往往會(huì)帶來(lái)新的問(wèn)題。

無(wú)論是機(jī)器人餐廳還是未來(lái)智能餐廳，勢(shì)必需要突出經(jīng)營(yíng)自動(dòng)化的能力，而這樣會(huì)增加很多運(yùn)營(yíng)成本，動(dòng)輒數(shù)萬(wàn)元的迎賓機(jī)器人、送餐機(jī)器人、炒菜機(jī)器人等等，需要投入大量資金引入。驟增的成本支出，也拉高了機(jī)器人餐廳的建設(shè)門(mén)檻。

△圖片來(lái)源：1688

不僅如此，當(dāng)下的機(jī)器人交互技術(shù)和手段，還難以滿足消費(fèi)者的對(duì)話需求，無(wú)法確保消費(fèi)者的用餐體驗(yàn)。機(jī)器人餐廳普遍評(píng)分不高，用戶吐槽較多的情況也印證了這一點(diǎn)。

而對(duì)于互聯(lián)網(wǎng)大廠，以及試圖跨界科技的巨頭而言，打造機(jī)器人餐廳的意義或許更多是展示其技術(shù)能力和落地場(chǎng)景的可能性，為后續(xù)的推廣打個(gè)樣。

大廠們尋求的更多是以輔助、賦能的輕資產(chǎn)模式來(lái)運(yùn)作，出售手中的技術(shù)能力，使其產(chǎn)生營(yíng)收價(jià)值。這也就不難理解，為何大廠們總是不親自下場(chǎng)，用自營(yíng)的重資產(chǎn)模式來(lái)連鎖化、規(guī)模化打造機(jī)器人餐廳了。

用一個(gè)比喻能更好理解這種純自動(dòng)、無(wú)人化，滿滿科技感的機(jī)器人餐廳的發(fā)展境況，它就像汽車(chē)工業(yè)里的概念車(chē)一樣，是大廠們“秀肌肉”的媒介之一，短期內(nèi)無(wú)法也不會(huì)量產(chǎn)。

△圖片來(lái)源：Midjourney

事實(shí)上，不僅僅是餐飲行業(yè)，完全依賴(lài)技術(shù)和機(jī)器人設(shè)備的無(wú)人模式在不少應(yīng)用場(chǎng)景中都出現(xiàn)了問(wèn)題。

來(lái)看看酒店領(lǐng)域。阿里在2018年12月高調(diào)開(kāi)業(yè)了一家名為“菲住布渴”的無(wú)人酒店，從大堂、電梯、房間，再到餐廳、健身房等酒店空間，都整合了人臉識(shí)別、語(yǔ)音控制、智能機(jī)器人等黑科技，住客從入住到離店全程可實(shí)現(xiàn)無(wú)人化服務(wù)。

“晚上點(diǎn)了機(jī)器人送餐，結(jié)果是酒店員工送來(lái)的，說(shuō)是機(jī)器人送餐經(jīng)常卡頓，暫時(shí)在升級(jí)中。”有入住過(guò)的用戶在大眾點(diǎn)評(píng)上寫(xiě)下了上述吐槽評(píng)論。在其他用戶相關(guān)的負(fù)面評(píng)價(jià)中，還存在著諸如缺乏人情味，冷冷清清，房間用品存在瑕疵難以找人處理等吐槽。

有知情人士向紅餐網(wǎng)表示，其實(shí)“菲住布渴”無(wú)人酒店是飛豬旗下的業(yè)務(wù)，曾經(jīng)希望通過(guò)這個(gè)酒店樣本，將阿里的無(wú)人酒店解決方案出售給更多的酒店集團(tuán)，從而引領(lǐng)行業(yè)的智能化發(fā)展。

但落地至今近5年，飛豬的核心管理層屢次更替，“菲住布渴”酒店逐漸淪為無(wú)人問(wèn)津的邊緣業(yè)務(wù)，阿里、飛豬都鮮少再提及這個(gè)曾經(jīng)的發(fā)展構(gòu)想和野心。

從業(yè)界主流酒店集團(tuán)并未出現(xiàn)大規(guī)模跟進(jìn)類(lèi)似無(wú)人酒店業(yè)態(tài)的舉措來(lái)看，“菲住布渴”所代表的酒店智能化解決方案，也并未得到行業(yè)的認(rèn)可，普及更是無(wú)從談起。

餐飲+機(jī)器人，正在走出新路子

回看餐飲行業(yè)，這終歸是一門(mén)講究體驗(yàn)、產(chǎn)品和服務(wù)的生意。

在餐廳中只能對(duì)著冷冰冰的機(jī)器人，人們更多還是會(huì)表現(xiàn)得無(wú)所適從，再智能化的設(shè)備、模式，似乎都與當(dāng)下的用戶需求格格不入。

“未來(lái)餐廳，讓我感覺(jué)好孤獨(dú)。”大眾點(diǎn)評(píng)用戶@蝦仁兒在體驗(yàn)機(jī)器人餐廳時(shí)，面對(duì)擬人造型的機(jī)器人廚師和智能傳送帶發(fā)出了這樣的感慨。而這，其實(shí)也是大部分消費(fèi)者對(duì)機(jī)器人餐廳最直觀的感受。

△圖片來(lái)源：@蝦仁兒，紅餐網(wǎng)已獲授權(quán)

可以看到的是，后來(lái)也有不少餐飲智能化企業(yè)轉(zhuǎn)而采取了相對(duì)“折中”的方式，不再追求完全替代人力的“無(wú)人化”，而是轉(zhuǎn)向研發(fā)一些幫助餐飲門(mén)店提質(zhì)增效的智能機(jī)器人設(shè)備或是解決方案。

比如碧桂園旗下的千璽機(jī)器人集團(tuán)，在2019年成立了廣東智源機(jī)器人科技有限公司，同步布局不同品類(lèi)的智能化機(jī)器人設(shè)備，其相關(guān)解決方案及硬件設(shè)備還應(yīng)用在了2022年的北京冬奧會(huì)的智慧餐廳中。

△圖片來(lái)源：千璽機(jī)器人官網(wǎng)

2021年7月，原美團(tuán)核心高管郭慶創(chuàng)立了橡鷺科技，聚焦“機(jī)器人+ Food”賽道，深耕布局炒菜機(jī)器人產(chǎn)品，通過(guò)機(jī)器人全自動(dòng)化策略提升餐飲門(mén)店后廚效率，同時(shí)又兼顧菜品的煙火氣問(wèn)題，從后廚板塊幫助餐飲品牌強(qiáng)化快速連鎖、規(guī)?；瘡?fù)制的可能性。

再比如商用服務(wù)機(jī)器人企業(yè)普渡科技，通過(guò)算法升級(jí)與機(jī)器人視覺(jué)融合導(dǎo)航技術(shù)的迭代，打造出了能夠在室內(nèi)外作業(yè)的送餐機(jī)器人產(chǎn)品，為餐飲商家、門(mén)店提升運(yùn)營(yíng)效率提供了更多可能性。

眼下，智能機(jī)器人設(shè)備在麥當(dāng)勞、海底撈等諸多連鎖品牌的門(mén)店中已然能夠看到。

各式各樣的機(jī)器人設(shè)備或是以門(mén)店功能性機(jī)器人的方式落地，或是以無(wú)人便民早餐車(chē)等方式呈現(xiàn)，更高效地滿足了消費(fèi)者在不同場(chǎng)景下的餐飲需求，提升餐飲商家的服務(wù)效率，增加消費(fèi)觸點(diǎn)。

△圖片來(lái)源：Midjourney

在餐飲門(mén)店的后廚里，機(jī)器人的用處也越來(lái)越大。連鎖品牌“霸碗蓋碼飯”，在四年時(shí)間里投入兩千多萬(wàn)元資金，成功自研蓋碼飯機(jī)器人，并將其應(yīng)用到了門(mén)店的后廚里。

霸碗的廚房工作人員只需要負(fù)責(zé)菜品的清洗處理，將食材和事先研制的調(diào)料瓶準(zhǔn)備好后，機(jī)器人就會(huì)以極快的速度完成放油、投料、爆炒、出鍋、清洗等所有程序，極大提升了餐品的標(biāo)準(zhǔn)化品質(zhì)與出餐效率。如今，憑借著智能化的優(yōu)勢(shì)，霸碗蓋碼飯也在全國(guó)開(kāi)出了上百家門(mén)店。

可以看到，“餐飲+機(jī)器人”在經(jīng)歷多年曲折后，逐漸走出了一條更為合適的路子。

煙火氣、人情味與科技賦能本不應(yīng)是“你死我活”的對(duì)立關(guān)系，或許不遠(yuǎn)的將來(lái)，行業(yè)中能真正出現(xiàn)兼具科技效率與用戶體驗(yàn)的機(jī)器人餐廳大模型，而不是過(guò)去那般“有名無(wú)實(shí)”的概念型門(mén)店。

本文為專(zhuān)欄作者授權(quán)微想智云發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表微想智云立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系http://gpt.idea2003.com/。