編者按：本文來自微信公眾號 有新Newin（ID：NewinData），作者： 有新，微新創想經授權轉載。

AI 的討論度自 ChatGPT 發布以來基本上是有增無減，無論你在哪個行業或者是做什么，都有人談 AI，不僅是國內焦慮，海外市場也一樣。

為了搞清楚基于 LLM 的初創公司到底在市場上有沒有立足點，外媒 TechCrunch 在不久前與 6 家海外 VC 機構合伙人/區域負責人等進行了專題討論，并拋出了關于商業模式、市場競爭、應用層空間、GTM策略以及定價趨勢：

關于生成式 AI 技術堆棧，更偏好各個堆棧層的方案還是垂直方案？

Rick Grinnell（Glasswing Ventures）我們將生成式 AI 技術堆棧分為四個不同的層次：基礎模型提供商、中間層公司、最終市場或頂層應用以及全?；蚨说蕉说拇怪惫?。

我們認為，大多數機會存在于應用層，而在這個層次內，我們認為在不久的將來，最佳應用將利用其內部的專業知識來構建專門的中間層工具，并將它們與適當的基礎模型相結合。這些是“垂直集成”或“全?！睉谩?/p>

對于初創公司，這種方法意味著更短的上市時間。初創公司可以在不需要與外部實體協商或集成的情況下，以加快的速度創新、迭代和部署解決方案。這種速度和靈活性通常可以成為在競爭對手之前占領市場份額或滿足關鍵市場需求的區分因素。

另一方面，我們將中間層視為一個連接 AI 的基本要素與精細化專業應用層的通道，這部分堆棧包括最先進的能力，包括模型微調、提示工程和敏捷模型編排。

我們預計類似于 Databricks 的實體將在這個領域嶄露頭角。然而，這個層次的競爭動態帶來了獨特的挑戰。首先，基礎模型提供商進軍中間層工具領域加大了商品化風險。此外，已經建立的市場領導者進入這個領域進一步加劇了競爭。因此，盡管在這一領域內涌現出了許多初創公司，但仍需要找到明顯的贏家。

Edward Tsai（Alumni Ventures）我認為會有很多初創公司在兩者之間進行選擇。不過，我認為出色的基礎設施需要更高的門檻，因為有來自 OpenAI、Anthropic、Cohere和其他基礎模型公司的競爭，它們正在擴展其LLM技術堆棧相關的工具和解決方案。

端到端的初創公司提供垂直解決方案，使解決業務問題變得容易，需要很少的額外工具，我認為值得認真考慮。在SaaS領域，許多垂直特定的端到端公司取得了很大的成功，比如 Toast 和 Procore。同樣，提供易于使用的工作流程和行業特定數據增值的 AI 公司可以為其最終企業客戶提供很大的幫助。

Lisa Calhoun（Valor VC）雖然有一些初創公司專門專注于技術堆棧的某些部分，比如 Pinecone，但 Valor 的關注點是應用型 AI ，我們將其定義為解決客戶問題的AI。例如，Saile.ai 就是一個很好的例子 – 它使用 AI 為財富 500 強公司生成可關閉的潛在客戶線索。或者使用自己訓練的數據集來創建更有用的信用風險評分，以及使用 AI 處理個體 DNA 的治療解決方案，以在特定情境下找到最適合你個人的最佳醫療治療方法。

Wei Lien Dang（Unusual Ventures）兩者都有，但大多數將從各個層面入手。例如，像 Lamini 這樣的公司專注于微調，LlamaIndex 正在致力于數據管理，LangChain 開始時處理 LLM 調用的順序，后來變得更像一個工具包，甚至那些提供端到端平臺的公司，如 MosaicML，也是從特定訓練開始的。隨著時間的推移，更多公司將采用垂直方法，因為沒有人想使用十幾種不同的工具來構建一個 LLM 應用，但每個工具仍將具有核心的專業化領域。

Rak Garg（貝恩資本）我認為有一些層次將保持水平分層，特別是芯片組和堆棧底部的預訓練/微調層，很難想象初創公司會構建一個垂直解決方案，涉足到技術堆棧的如此深層。在這些層面之上，我認為我們將看到既有分層解決方案又有垂直方法，具體取決于特定的客戶特征。對于技術前衛、更愿意自行開發而不是購買的公司，我預計他們將以最佳實踐方式消耗堆棧的每個層面的專業化提供商。

這為他們提供了絕對的靈活性、可定制性和領域特定性，以適應其自身的情境和情況。受監管行業是另一個例子——由于合規性原因，他們無法使用大多數商業產品，因此將使用各種組件進行內部構建。對于非受監管公司內部的更多功能領域，如法律、財務、支持、運營等，我預計他們將購買垂直應用程序，其中包含特定組需要的一切，類似于銷售團隊可能引入 HubSpot 而不是要求中央數據團隊構建 CRM 。

Sandeep Bakshi（Prosus Ventures）構建跨堆棧的解決方案仍然非常有趣，迄今為止，我們在垂直特定和工具空間（即，所謂的"挖掘工具"）花費了大部分時間。垂直方法，如我們的投資組合公司Corti 所展示的，Corti 是一家面向醫療保健領域的 AI 輔助系統，允許公司為特定企業和特定購買者設想構建解決方案，這也使初創公司能夠專注于訓練他們的模型，使用垂直特定的數據集，從而提供與來自更廣泛數據集的結果相比更相關的答案。

隨著 Datadog 以及微軟這樣的新老巨頭加入，初創公司還有多少機會？

Rick Grinnell（Glasswing Ventures）LLM 可觀察性屬于“中間層”范疇，作為專門業務應用程序使用基礎模型的催化劑，像 Datadog 、New Relic 和Splunk 等老牌公司都推出了 LLM 相關的工具，并似乎在這方面投入了大量的研發資金，這可能會在短期內限制市場領域。

然而，正如我們在互聯網和云計算剛興起時所見，老牌公司通常會持續創新，直到創新變得停滯不前。隨著 AI 成為家喻戶曉的名詞，在各個垂直領域都找到了用途，初創公司有機會提供創新解決方案，顛覆并重新構想老牌公司的工作。現在還為時尚早，無法確定贏家是誰，因為每一天都會發現現有 AI 框架中的新漏洞。在這其中，初創公司有巨大的機會。

Edward Tsai（Alumni Ventures）像 Datadog 這樣的老牌公司在向用戶推出優秀的產品后確實會占據一部分市場份額。盡管如此，不同的客戶有不同的需求。除了Datadog 外，還有許多其他數據和 APM 可觀察性初創公司正在與Datadog 競爭，還有一些專門從事 AI 機器學習和 LLM 的公司，如 Arize 和 Aporia，類似于網絡安全領域，還有專門針對 AI 網絡安全的初創公司，比如 HiddenLayer 和 Protect AI，美國企業市場習慣于選擇大型平臺和最佳解決方案。

Lisa Calhoun（Valor VC）像 Datadog 這樣的工具只有在成功監控 AI 性能瓶頸時才能更好的推廣AI工具，這本身仍然是一個尚未被探索的領域，在接下來的幾年里將會經歷很多變化和成熟，其中一個關鍵因素可能是成本監測，因為像 OpenAI 這樣的公司主要按“token”計費，這與大多數云計算的度量標準非常不同。

Wei Lien Dang（Unusual Ventures）我個人見過超過 10 家新創公司嘗試將 LLM 應用于數據分析，它們都有相似的故事。這意味著初創公司的創始人需要更加努力地思考他們公司的“為什么現在？”除了能夠使用 LLM 。

單單 LLM 本身并不一定是成立公司的理由，Datadog 和其他老牌公司并沒有減小整體市場規模，但它們無疑對初創公司提出了更多壓力，要求它們能夠區分其產品并從 GTM 的角度競爭。

Rak Garg（貝恩資本）宏觀環境對許多企業預算施加了壓力，與現有供應商擴展、支出或贏得有利定價更容易，而不是嘗試引入新供應商，這種動態是導致老牌 LLM 產品對初創公司構成威脅的原因。

市場機會仍然存在，特別是在安全性和可觀察性等領域，這些領域傳統上傾向于最佳產品，而不是傳統套件，但由于老牌解決方案產生的預算噪音，這將使很多初創公司在市場推廣方面具有挑戰性。

我鼓勵公司專注于新的機會：以前的解決方案無法自動化的領域，以及可以重新構想為現在可以提供 100 倍改進的領域。如果不是如此，將不足以滿足需求。

除了 LLM 等基礎設施以外，初創公司還有多少市場空間？

Rick Grinnell（Glasswing Ventures）當考慮到像 Alphabet/Google 的Bard、Microsoft & OpenAI 的GPT-4 和 Anthropic Claude 等基礎層模型提供商的市場情況時，明顯更大的玩家在數據獲取、人才庫和計算資源方面擁有固有優勢。我們預計這一層次將像云提供商市場一樣形成寡頭結構，盡管在這里加入了一個強大的開源備用方案，將推動大規模的第三方采用。

當我們看待生成式 AI 技術堆棧時，最大的市場機會位于模型本身之上。推出針對特定行業的 AI 引擎API和操作層的公司將創造全新的用例，并改變工作流程。通過采用這項技術來改革工作流程，這些公司有望釋放出巨大的價值。

然而，需要認識到市場仍然遠未完全成熟。LLM 仍處于初期階段，大公司和初創公司對其采用尚未完全成熟和完善。我們需要強大的工具和平臺，以促進企業和個人更廣泛地利用這項技術。初創公司在這里有機會迅速采取行動，找到新問題的新解決方案，并定義新的領域。

有趣的是，即使大型科技公司也認識到他們的服務中存在的差距，并已開始與風險投資公司一起大量投資初創公司。這些公司將 AI 應用于其內部流程，因此看到初創公司在 LLM 部署和整合方面帶來的價值?？紤]到Microsoft、Nvidia和 Salesforce 最近對 Inflection AI 和Cohere 等公司的投資。

Edward Tsai（Alumni Ventures）一個相關的觀點是，關于 LLM 和 AI 仍然存在許多開源工具。一些項目已經成功籌集了資金，無論是 LangChain、Weaviate 還是 Together，開源初創公司受益于社區的貢獻，我認為從長遠來看這是一種競爭優勢。

Wei Lien Dang（Unusual Ventures）市場上仍有很大的空間，因為幾乎每家公司都會使用 LLM 和 AI，但只有極少數公司希望并有預算進行大規模的專業服務合作。我們將看到更多初創公司提供用于 LLM 部署的工具，而這些工具不需要專門的 AI 基礎架構團隊，這正是推動“ AI 工程師”概念的原因。

當市場上有 3000 多萬的開發人員可以輕松使用 LLM 來構建應用時，AI 將產生最大的影響。OpenAI 、Anthropic、Cohere等公司已經在用戶中樹立了某種期望，即讓 LLM 的使用更加容易入門。

Rak Garg（貝恩資本）在基礎架構方面，最大的科技公司實際上是工業中唯一可以在生產環境中以各種用例大規模運行 LLM 的地方。圍繞這些技術工作的人可以離開并創辦公司，處理生產化 LLM 的各種工作，包括推理、數據整理、非結構化數據 ETL、RLHF（強化學習和人類輔助訓練）平臺等等。

在垂直應用方面，特別是在受監管行業和手動崗位中，由于許多老牌公司的技術復雜度較低，存在許多機會。

那些為特定行業訓練 AI 模型的初創公司更具競爭力？

Rick Grinnell（Glasswing Ventures）為確保在 AI 整合不斷升溫的氛圍中，面向特定行業的初創公司能夠具有防御性，這些初創公司必須優先考慮收集專有數據、整合復雜的應用層，并確保輸出的準確性。

我們已經建立了一個評估 AI 公司應用層防御性的框架。首先，應用程序必須解決高管們優先考慮的真正企業痛點。其次，為提供切實的利益和長期的差異化，應用程序應由符合特定和獨特軟件需求的尖端模型組成。僅僅依賴 OpenAI 并不足夠；相反，應用程序應當在成本、計算和性能之間謹慎選擇其模型。

第三，應用程序的復雜性取決于輸入的數據。專有數據對于提供特定和相關見解以及確保其他人無法復制最終產品至關重要。為此，在內部的中間層能力提供了競爭優勢，同時充分利用基礎模型的力量。

最后，由于生成式 AI 不可避免地存在誤差，所以細分市場必須能夠容忍不確定性，這在主觀和模糊的內容中自然存在，如銷售或市場營銷。

Edward Tsai（Alumni Ventures）需要有良好的行業特定產品工作流程，這需要一些行業特定的專業知識和付出（行業集成、尋找尚不可立即獲得的數據源），這會提高初創公司競爭的門檻，使其更難以與缺乏行業特定知識或不愿深入研究的老牌公司和新參與者競爭。

盡管如此，我想提出一個有爭議的觀點，風投公司和初創公司可能需要暫時減少對競爭優勢的關注，增加對提供引人注目的價值和專注于市場速度的產品的關注。

過去一年里“類人” LLM 性能的顯著提升使得初創公司能夠迅速為最終客戶提供顯著價值。因此，我相信在許多市場上，“總有人會去做”，一些公司將著手開發具有顯著價值但市場尚不明確競爭優勢的產品。

早期的客戶增長和收入增長將有助于初創公司脫穎而出，獲得時間、資源和客戶視野，以在更具競爭優勢的領域部署新產品。

Lisa Calhoun（Valor VC）專注于你為客戶解決的問題，幾乎可以肯定 AI 只能解決問題的一部分。如何將所有部分整合在一起是創建出色解決方案的關鍵。

Rak Garg（貝恩資本）最近的論文越來越多地指向數據質量和數據整理作為 LLM 質量的關鍵因素。從我們自己的投資組合中，我們已經了解到，為培訓或微調提供最高質量和最具差異化的數據對最終用戶產生了真正的影響。除了模型質量，產品必須足夠好，能夠贏得用戶并防止他們流失，這與以往一樣。

Sandeep Bakshi（Prosus Ventures）這將取決于他們是否能夠使用與其細分市場特定的數據進行模型訓練，并使這些數據在某種程度上具有專有性。最終，這還取決于購買者特征。如預期的那樣，面向大型企業的銷售更為耗時，具有更高的準入門檻，因為存在更復雜和多方面的批準流程。因此，一旦一家公司成功進入企業并繼續提供卓越的產品和引人入勝的客戶體驗，它就是自然而然地具有競爭力。

初創公司可以假設他們未來的企業 AI 客戶在內部具備多少技術能力，這種假定的專業知識又如何指導初創公司的產品選擇和市場推廣策略？

Rick Grinnell（Glasswing Ventures）在企業領域，人們清楚地認識到 AI 的價值，然而許多企業缺乏內部開發 AI 解決方案的能力，這種差距為專門從事 AI 的初創公司提供了與企業客戶合作的重要機會。隨著業務環境不斷成熟，利用 AI 的能力正在變得戰略性至關重要。

麥肯錫報告指出，單單生成式 AI 就可以通過編寫代碼、分析消費趨勢、個性化客戶服務、提高運營效率等方式，為各行業增加多達 4.4 萬億美元的價值，94% 的企業領導認為，在未來五年內 AI 將對所有企業的成功至關重要，全球對 AI 的總體支出預計將達到。

Edward Tsai（Alumni Ventures）有一系列解決方案的市場，從需要技術團隊部署的開源解決方案到適用于業務用戶的易于使用、拖放式解決方案。初創公司應考慮他們想要使用的范圍和入口點來部署其產品。簡單和美是難以實現的。因此，我認為以簡單和易用性為出發點為企業 AI 客戶設計 AI 和 LLM 相關產品，可能會為初創公司帶來一些優勢，與大型科技公司相比，一些大型科技公司可能不愿意在產品的簡單性和易用性方面做出妥協，以滿足需要進行大量定制的最大客戶的需求。

Lisa Calhoun（Valor VC）在下一個周期內，我們預計平均應用型 AI 客戶的“ AI 技術能力”將與他們目前的技術能力差不多，總體來說不會太多。目前尚不清楚“提示”和“微調”等功能是否會成為內部經驗的一部分，但這需要時間，解決自然界面問題的初創公司將處于領先地位。

Wei Lien Dang（Unusual Ventures）很多，或者至少它應該對其產生很大影響。我見過很多創始人，尤其是那些來自 AI /機器學習背景的人，他們認為他們的終端用戶將具有與他們相同的技術水平。但這取決于他們所針對的市場細分和用戶畫像。

例如，許多財富500強公司擁有內部機器學習團隊，并具有從使用機器學習進行欺詐檢測、推薦和其他用例的角度來看的高度技術水平。

隨著市場的下沉，很多公司在使用 AI 方面缺乏第一手經驗，但他們對開始自助式使用 AI 表現出濃厚的興趣，一些人擁有的現有 AI 專業知識水平完全影響了他們如何描述自己的問題、解決問題所需的產品以及他們想要采用的方式。

Rak Garg（貝恩資本）根據我與數十家財富 500 強企業的采購商的交流經驗，大公司在整個組織中擁有豐富的技術能力，但在整個組織中利用這些能力可能有點懈??；構建基礎設施的初創公司將不得不說服采購商，現在是時機成熟，增加技術運營的開銷將值得回報，并且基礎設施解決了公司當前正在解決的實際問題。構建應用程序的初創公司需要吸引組織內的功能用戶，這個過程與技術能力無關，更多的是與了解代表的工作有關。

Sandeep Bakshi（Prosus Ventures）這取決于企業 AI 客戶。大型科技老牌企業（也是企業客戶）將擁有自己的技術人才，也將能夠根據他們的工作性質招聘尖端的技術人才。我喜歡以這種方式思考這個問題：“什么會吸引一個具有技術能力的員工加入一家公司？”

我們認為答案在于企業是否在進行技術挑戰性的工作。對于專注于垂直領域的企業， AI 工作的技術性質可能更多地涉及評估解決方案并在其特定垂直領域中實施，而不是構建解決方案，因此我們將發現這些企業對開箱即用的解決方案需求更大。

我們已經看到最近幾個季度使用或基于使用量定價的技術產品增長放緩。OpenAI 基于標記和使用量的定價模式，這個事實是否會導致建立現代 AI 工具的初創公司采用更傳統的 SaaS 定價方式？

Rick Grinnell（Glasswing Ventures）到目前為止，我們看到大多數 AI 初創公司仍然堅持采用傳統的 SaaS 定價模式。在后端，使用基于使用量的分層已經成為常態（AWS、Google），因此與風險投資公司已經有大量關于如何劃分價格的知識庫，所以這并沒有太大不同。

Edward Tsai（Alumni Ventures）隨著基礎模型性能的提高和價格的下降，我們很可能會繼續看到更多傳統的基于 SaaS 的定價模式。在一些用例中，根據部署需要大量 API 調用基礎模型，可能會采用一種混合模型，其中使用會被限制或對異常高使用率進行限制，或采用定制的“企業”模型。

Wei Lien Dang（Unusual Ventures）隨著時間的推移，基礎架構和應用公司都將轉向傳統的 SaaS 定價模式，以通過功能和更好的開發者/用戶體驗從他們的客戶那里捕獲更多的價值。

投資者也將更加關注這一點，因為它直接影響了這些企業的利潤率配置，基本上要求使用這些提供商的公司采用基于使用量的定價模式。

Rak Garg（貝恩資本）我們看到平臺費用以及基于使用量的費用的混合模式，這為最終用戶提供 LLM 功能變得有價值。

本文為專欄作者授權微新創想發表，版權歸原作者所有。文章系作者個人觀點，不代表微新創想立場，轉載請聯系原作者。如有任何疑問，請聯系http://www.i0562.net/。