特斯拉 Dojo 2 芯片正「魔改」以適應 AI 訓練 xAI 公司將采用推特的公開推文訓練
站長之家(ChinaZ.com) 7月17日消息:埃隆·馬斯克(Elon Musk)上周三宣布推出一家新的人工智能公司,名為xAI,旨在「了解宇宙的真實本質」。
xAI 團隊成員來自 DeepMind、OpenAI、Google Research、微軟研究院、Twitter 和特斯拉等公司,他們曾參與過 DeepMind 的 AlphaCode 和 OpenAI 的 GPT-3.5 和 GPT-4 聊天機器人等項目。馬斯克似乎將 xAI 定位為與 OpenAI、谷歌和 Anthropic 等公司競爭,這些公司背后的聊天機器人(如 ChatGPT、Bard 和Claude)處于領先地位。
xAI 的聯合創始人 Greg Yang 表示,該初創公司將深入研究人工智能中的「深度學習數學」,并「為大型神經網絡開發『萬有理論』」,將人工智能推向「下一個水平」。
馬斯克在 Twitter Space 上的 xAI 討論會上表示,新成立的人工智能公司 xAI 將采用來自推特的公開推文訓練。據悉,包括 OpenAI 聯合創始人 Greg Brockman、推特前 CEO Jack Dorsey 也作為觀眾收聽了此次直播。
馬斯克表示,人類創造的數據總有一天會用完,因此人工智能最終將生成內容并訪問。另外,xAI 還將在開發人工智能軟件等多方面與特斯拉合作。
對于芯片的使用,馬斯克確認 xAI 團隊已經實現「人均 GPU」(gpu per person),也就是集齊了 2 萬張英偉達 A100 加速卡。但問及特斯拉,他認為更多是定制制造計算芯片,而不是 GPU(圖形處理器)。
「我不會把特斯拉生產的任何東西稱為 GPU,盡管我們可以用 GPU 等效或 100s 或 H100 等效來描述它。所有的特斯拉汽車都有高度能源優化的推理計算機,我們稱之為 Hardware 3.0。」
馬斯克表示,特斯拉 Dojo 2 芯片正在采取很多措施來緩解內存帶寬限制,使其能夠高效地運行 LLM 以及其他形式的人工智能訓練。他在思考芯片短缺、電力短缺是否未來幾年還會出現,因此希望用太陽能量完成更多有用的工作。
他認為,最終只有一家在 AI 領域占據主導地位,因此一定會有競爭,而 xAI 和 OpenAI 絕對是競爭對手關系。
他還批評 OpenAI 現在其實是閉源的,稱他們貪圖利潤,他理解 OpenAI 是三年要達到 1000 億美元。而相比于谷歌、微軟,xAI 公司沒有上市、沒有公開交易,因此公司發展將更為靈活,不受市場激勵或非市場激勵的影響。
不過,馬斯克并沒有透露更多產品路線圖信息。