人人人免费人人专区人人,欧美精品不卡,欧美大片无尺码在线观看,久久精品小视频,成人免费黄色大片,欧美+亚洲+精品+三区

AI算力70年增長6.8億倍,3個歷史階段見證AI技術指數級爆發

聲明:本文來自于微信公眾號 新智元(ID:AI_era),作者:新智元,授權微新創想轉載發布。

【新智元導讀】一張圖揭示了AI算力70多年發展了6.7億倍,未來AI各方面能力將全面超越人類,而真正令人期待的是,AI行業才剛剛進入爆發前的萌芽期。

電子計算機于上世紀40年代誕生,而在計算機出現后的10年內,人類歷史上的第一個AI應用就出現了。

70多年過去了,AI模型現在不僅能寫詩,還能根據文本提示生成圖像,甚至是幫助人類發現未知的蛋白質結構。

那么,是什么推動了AI技術在如此短時間內的指數級增長呢?

一張來自「我們數據中的世界」(Our World in Data)的長圖,通過用于訓練AI模型的算力變化為刻度,對AI發展歷史進行了追溯。

高清大圖:https://www.visualcapitalist.com/wp-content/uploads/2023/09/01.-CP_AI-Computation-History_Full-Sized.html

圖中數據的來源,是源于一篇由MIT等大學研究人員發表的論文。

論文地址:https://arxiv.org/pdf/2202.05924.pdf

除了論文之外,還有一個研究團隊根據這篇論文數據做了一個可視化的表格,可以隨意縮放圖標來獲取精細的數據

表格地址:https://epochai.org/blog/compute-trends#compute-trends-are-slower-than-previously-reported

圖表的作者主要通過計算運算次數以及GPU時間來估計訓練每個模型的計算量,而對于選擇哪一個模型作為重要模型的代表,作者主要通過3個性質來確定:

顯著的重要性:某個系統具有重大歷史影響,顯著提高了SOTA,或者被引用次數超過1000次。

相關性:作者只收錄了包含實驗結果和關鍵機器學習組成部分的論文,并且論文目標是推動現有SOTA發展。

獨特性:如果描述同一系統的另一篇論文更具影響力,那么該論文將被從作者的數據集中排除。

AI發展的三個時代

在1950年代,美國數學家Claude Shannon訓練了一個名為Theseus的機器老鼠,使其能在迷宮中導航并記住路徑—這是第一個人工學習的實例。

Theseus的構建基于40個浮點運算(FLOPs)。FLOPs通常用作衡量計算機硬件計算性能的指標。FLOP數量越高,計算能力越強,系統也越強大。

計算能力、可用的訓練數據和算法是AI進步的三大要素。而在AI發展的最初幾十年里,所需的計算能力是按照摩爾定律增長的——計算能力也在大約20個月的時間翻一倍。

然而,在2012年由AlexNet(一個圖像識別AI)標志著深度學習時代的開始時,這個翻倍時間大大縮短到了六個月,因為研究人員加大了對計算和處理器的投資。

隨著2015年AlphaGo的出現——一個擊敗了人類職業圍棋選手的計算機程序——研究人員發現了第三個時代:大規模AI模型時代到來了,它的計算需求比以前所有的AI系統都要大。

未來AI技術的進展

回顧最近的十年,計算能力的增長是如此之快,簡直令人難以置信。

例如,用于訓練Minerva(一個可以解決復雜數學問題的AI)的計算能力幾乎是十年前用于訓練AlexNet的600萬倍。

這種計算增長,加上大量可用的數據集和更好的算法,令AI在極短的時間內取得了大量進展。如今,AI不僅能達到人的表現水平,甚至在很多領域超過了人類。

AI能力將在方方面面不斷超越人類

從上圖可以清楚地看出,人工智能在很多領域已經超越了人類的表現,并且在其他方面也將很快超越人類的表現。

下圖展示了在常見的人類日常工作和生活會使用到的能力中,AI在哪一年已經達到或者超過了人類水平。

AI技術發展勢能充足

難以說計算增長是否會保持相同的速度。大規模模型需要越來越多的算力來訓練,如果算力供應不能繼續增長,可能會減緩AI技術發展的進度。

同樣,耗盡目前可用于訓練AI模型的所有數據也可能妨礙新模型的開發和實施。

然而,2023年,大量資本涌入AI行業,尤其是以大語言模型為代表的生成式AI。或許更多的突破即將出現,似乎以上3個促進AI技術發展的元素都將在未來進一步得到優化和發展。

2023年上半年,AI行業的初創公司融資規模達到了140億美元,甚至比過去4年獲得的融資總和還要多。

而大量(78%)的生成式AI初創公司都還處于發展非常早期的階段,甚至27%的生成式AI初創公司公司還沒有進行融資。

360多家生成式人工智能公司,27% 尚未進行融資。超過一半是 輪或更早的項目,說明整個生成式AI行業還屬于非常早期的階段。

由于開發大型語言模型的資本密集型性質,自2022年第三季度以來,生成式AI基礎設施類別已獲得超過70% 的資金,僅占所有生成式AI交易量的10%。大部分資金源于投資者對基礎模型和API、MLOps(機器學習操作)以及向量數據庫技術等新興基礎設施的興趣。

參考資料:

https://www.visualcapitalist.com/cp/charted-history-exponential-growth-in-ai-computation/

您可能還喜歡...

發表回復

您的郵箱地址不會被公開。 必填項已用 * 標注