制約 AI 人工智能發(fā)展最大的桎梏是什么？如在幾年前，這個答案可能五花八門。但在大模型盛行的當(dāng)下，這個問題只有一個答案——算力不夠！

或者，換句話說，英偉達(dá)專用的 AI 算力芯片不夠。

誰控制了英偉達(dá)的 AI 芯片，誰就控制了 AI 的未來。

現(xiàn)在，有這么一家公司，手中掌握了成千上萬塊英偉達(dá)的 AI「算卡」，客戶涵蓋了 OpenAI、微軟等眾多 AI 巨頭。

作為「AI 算力黃?！梗@家名為 CoreWeave 的公司，在 4 年時間就將公司估值做到了 80 億美元。拿到英偉達(dá)的獨(dú)家投資之外，CoreWeave 還以手中的英偉達(dá)芯片做抵押，從黑石 Blackstone、Coatue 等頂級機(jī)構(gòu)獲得了 23 億美元的債務(wù)融資。

沒什么能阻擋 CoreWeave 的瘋狂擴(kuò)張，它到底是怎么搞定英偉達(dá)、從一家加密幣「挖礦」公司，搖身一變成為 AI「算力基建」巨頭的？

從「礦卡」到「算卡」

CoreWeave 的初創(chuàng)團(tuán)隊(duì)由三人組成，分別是 Michael Intrator，Brian Venturo 和 Brannin McBee，三人最初在金融領(lǐng)域工作，經(jīng)營過對沖基金、家族辦公室。

當(dāng)年他們還在紐約管理基金時，加密貨幣挖礦熱潮還未消退，最初只是為了賺取額外收入，他們購買了第一塊 GPU，隨后越買越多，華爾街的辦公桌上堆滿了 GPU。

「2016 年，我們購買了我們的第一塊 GPU，插上電源，將其放在了俯瞰東河的曼哈頓下城辦公室的臺球桌上，然后挖掘了以太坊網(wǎng)絡(luò)上的第一個區(qū)塊?！笴oreWeave 首席執(zhí)行官 Michael Intrator，在一篇 2021 年的博客文章中如此回憶道。

很快，在 2017 年，他們將副業(yè)正式變成了一家公司，公司名字最初與加密貨幣相關(guān)，后來才改名叫 CoreWeave。在選擇告別華爾街時，如同硅谷大佬都喜歡在車庫里創(chuàng)業(yè)那樣，他們將 GPU 硬件搬進(jìn)了一個車庫，不過這個車庫不在西海岸的硅谷，而是在東海岸的新澤西郊區(qū)，屬于其中一名創(chuàng)始人的祖父。

在過去十年中，GPU 是加密貨幣、人工智能技術(shù)熱潮的重要引擎。在 2018 年底，CoreWeave成為北美最大的以太坊礦工之一，手握超過五萬塊 GPU，占以太坊網(wǎng)絡(luò)的 1% 以上。

期間，幾人也開始了解到其他公司對 GPU 資源的渴求。他們同時認(rèn)識到，在加密貨幣領(lǐng)域并無持久競爭優(yōu)勢，因?yàn)槭袌龈偁幖ち?，受電力價格影響大。

當(dāng) 2018 年和 2019 年加密貨幣價格暴跌時，他們決定多元化經(jīng)營，進(jìn)入其他領(lǐng)域，這些領(lǐng)域比較穩(wěn)定，但也需要大量 GPU 計(jì)算。他們關(guān)注人工智能、媒體娛樂和生命科學(xué)三大領(lǐng)域，并從 2019 年起，專注于購買企業(yè)級 GPU 芯片組，構(gòu)建專門的云基礎(chǔ)設(shè)施，圍繞英偉達(dá)的芯片調(diào)整業(yè)務(wù)。

隨著新業(yè)務(wù)步入正軌，以太坊挖礦業(yè)務(wù)漸漸邊緣化。轉(zhuǎn)型的決定證明是正確且幸運(yùn)的，幾個創(chuàng)始人都沒有料想到即將到來的 AI 浪潮之熱，讓 CoreWeave 逐漸從一個小辦公室擴(kuò)張成遍布全國的數(shù)據(jù)中心，以對應(yīng)不斷膨脹的 AI 市場需求。

據(jù)其中一名創(chuàng)始人披露，2022 年，CoreWeave 收入約有 3 千萬美元，預(yù)計(jì) 2023 年將超過 5 億美元，增長超 10 倍，并且已經(jīng)簽署了近 20 億美元的合同。今年宣布在德州投資 16 億美元建數(shù)據(jù)中心，并計(jì)劃在年底前擴(kuò)展至 14 個數(shù)據(jù)中心。


把英偉達(dá)芯片作為抵押物，CoreWeave 獲得 23 億美元融資

要論讓 CoreWeave 迅速火起來的事件，必然是 ChatGPT 和大量生成式 AI 工具的落地，后者推動了整個行業(yè)對 GPU 的高需求，這也讓 CoreWeave 成為很多公司眼中的”香餑餑“，因?yàn)?GPU 并行執(zhí)行許多計(jì)算的能力使其非常適合訓(xùn)練當(dāng)今最強(qiáng)大的模型。

與此同時，就 CoreWeave 公司自身而言，其提供了包括原生 Kubernetes 編排、對頂級 GPU 加速器的支持以及存儲和網(wǎng)絡(luò)功能，它完全可以滿足包括 Inflection AI 在內(nèi)的大型語言模型（LLM）公司的需求。

根據(jù) Venturebeat 報道， 突然之間，所有人都在談?wù)?CoreWeave，這也為其帶來了一場投資的“潮流轉(zhuǎn)變”。

在今年 4 月，CoreWeave 獲得了 2.21 億美元的 B 輪融資，其中包括來自英偉達(dá)的投資。此舉讓 CoreWeave 公司估值達(dá)到了 20 億美元。

5 月，CoreWeave 又獲得了 2 億美元。

8 月初，也就是在幾天前，CoreWeave 再次獲得了 23 億美元的債務(wù)融資。

據(jù)路透社報道，和其他次融資有所不同的是，CoreWeave 是通過使用 NVIDIA 需求量很大的 H100 GPU 作為抵押品，才成功獲得了 23 億美元的融資。

此次是由現(xiàn)有投資者 Blackstone 和 Magnetar Capital 領(lǐng)投，Coatue、DigitalBridge Credit 以及 Pimco 和 Carlyle 管理的基金和賬戶參投了這筆信貸融資。


英偉達(dá)與微軟的加持

令人感到十分驚奇的是，NVIDIA 的 H100 AI GPU 被用作“抵押”資產(chǎn)，這顯示了這些 GPU 的重要性和價值。要知道，價值 23 億美元的 H100 GPU 并不容易獲得。

因此，CoreWeave 得以在 AI GPU 這條路”橫行“的一個主要原因要?dú)w功于英偉達(dá)的支持，包括 H100 GPU 和 HGX H100 超級計(jì)算機(jī)。

據(jù)悉，CoreWeave 已經(jīng)獲得英偉達(dá)在提供最先進(jìn)且供應(yīng)短缺的芯片方面的"獨(dú)家"支持。

外媒 Venturebeat 透露，盡管供應(yīng)緊張，英偉達(dá)還是將其最新的 AI 服務(wù)器芯片大量分配給 CoreWeave，而不是 AWS 等頂級云提供商。這是因?yàn)楹笳吣切┐髲S公司正在開發(fā)自己的 AI 芯片，試圖減少對英偉達(dá)的依賴。

不過，在很多人看來，高度依賴某一家半導(dǎo)體公司，會有很強(qiáng)的風(fēng)險存在。然而，CoreWeave 創(chuàng)始人之一的 McBee 則認(rèn)為，「不自己研發(fā)芯片肯定不是劣勢。我可以想象，這肯定有助于我們不斷努力從英偉達(dá)獲得更多 GPU，而犧牲我們同行的利益?！?/span>

同時，McBee 還指出，隨著時間的推移，將會有一種由不同類型基礎(chǔ)設(shè)施構(gòu)成的矩陣，支撐不同類型的 AI 模型。不過，他認(rèn)為 GPU 仍將是支持最前沿、計(jì)算密集型模型開發(fā)的基礎(chǔ)設(shè)施——GPU 供應(yīng)短缺的情況至少還需要兩年甚至三年才能開始緩解。

所以，此時他們依賴于英偉達(dá)的 GPU 也是明智之舉。

CoreWeave 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Michael Intrator 也分享了他的看法，其表示，債務(wù)融資將提供 "財(cái)務(wù)余地和靈活性"，以實(shí)現(xiàn) CoreWeave 在今年年底前建成 14 個數(shù)據(jù)中心的目標(biāo)。

"[我們將把融資]全部用于購買和支付已與客戶簽訂合同的硬件，并繼續(xù)聘用業(yè)內(nèi)最優(yōu)秀的人才。沒有人預(yù)料到對 GPU 計(jì)算的需求會達(dá)到如此高的水平，但我們?yōu)樘岣弋a(chǎn)能而進(jìn)行的戰(zhàn)略投資繼續(xù)得到回報——我們正在提供其他公司無法提供的服務(wù)“， Intrator 說道。

值得慶賀的是，CoreWeave 與英偉達(dá)合作打造的世界上最快的人工智能超級計(jì)算機(jī)在上個月推出了。

除了有英偉達(dá)的加持之外，據(jù) CNBC 在 6 月報道稱，微軟已同意在未來幾年內(nèi)向初創(chuàng)公司 CoreWeave 投資數(shù)十億美元用于云計(jì)算基礎(chǔ)設(shè)施，以確保運(yùn)營 ChatGPT 聊天機(jī)器人的 OpenAI 未來擁有足夠的計(jì)算能力。

英偉達(dá)才是人生贏家

英偉達(dá)成為生成性人工智能爆發(fā)式崛起的大贏家，這項(xiàng)技術(shù)有可能重塑各個行業(yè)，產(chǎn)生巨大的生產(chǎn)力收益，并取代數(shù)百萬的工作崗位。

H100將加速這一技術(shù)飛躍，這種芯片基于被稱為 Hopper "的新的Nvidia芯片架構(gòu)，以美國編程先驅(qū)格雷斯·霍普的名字命名，成了硅谷最熱門的商品。

"這整個事情就在我們開始生產(chǎn)Hopper的時候起飛了，"黃說，英偉達(dá)在ChatGPT首次亮相的幾周前，就開始了大規(guī)模的生產(chǎn)。黃對未來收益的信心，部分源于能夠與芯片制造商臺積電合作，擴(kuò)大H100的生產(chǎn)規(guī)模，以滿足微軟、亞馬遜和谷歌等云供應(yīng)商、Meta等互聯(lián)網(wǎng)集團(tuán)和企業(yè)客戶的爆炸性需求。

H100被證明特別受微軟和亞馬遜等大型科技公司的歡迎，這些公司正在建立以人工智能工作負(fù)載為中心的整個數(shù)據(jù)中心，以及OpenAI、Anthropic、Stability AI和Inflection AI等生成性人工智能初創(chuàng)公司。這種芯片有更高的性能，可以加速產(chǎn)品的推出或隨著時間的推移降低培訓(xùn)成本。

雖然H100的推出時機(jī)非常理想，但Nvidia在人工智能方面的突破，可以追溯到近二十年前的軟件創(chuàng)新，而不是硅。

英偉達(dá)的Cuda軟件創(chuàng)建于2006年，允許GPU作為加速器被重新用于圖形以外的其他類型的工作負(fù)載。然后在2012年左右，巴克解釋說，"人工智能找到了我們"。

加拿大研究人員意識到，GPU非常適合創(chuàng)建神經(jīng)網(wǎng)絡(luò)，這是一種受人腦中神經(jīng)元互動方式啟發(fā)的人工智能形式，當(dāng)時正成為人工智能發(fā)展的一個新焦點(diǎn)。巴克說："我們花了近20年時間才達(dá)到今天的水平。"

英偉達(dá)現(xiàn)在擁有比硬件工程師更多的軟件工程師，能夠支持隨后幾年出現(xiàn)的許多不同種類的人工智能框架，并使芯片在訓(xùn)練人工智能模型所需的統(tǒng)計(jì)計(jì)算方面更加高效。

Hopper是第一個針對“Transformer模型”進(jìn)行優(yōu)化的架構(gòu)，這種方法是OpenAI的“生成式預(yù)訓(xùn)練變換（generative pre-trained transforme）”聊天機(jī)器人的基礎(chǔ)。

英偉達(dá)與AI研究人員的緊密合作，使其能夠在2017年發(fā)現(xiàn)Transformer模型的出現(xiàn)，并開始相應(yīng)地調(diào)整其軟件。"

"Transformers"在這里指的是一種機(jī)器學(xué)習(xí)模型，特別是在自然語言處理領(lǐng)域中廣泛使用的模型。這種模型基于"注意力機(jī)制"（Attention Mechanism）工作，能夠捕捉輸入數(shù)據(jù)（如文本）中的復(fù)雜模式和依賴關(guān)系。

"英偉達(dá)可以說比其他人更早地看到了未來，他們的支點(diǎn)是使GPU可編程，"AI初創(chuàng)企業(yè)的投資者Air Street Capital的普通合伙人內(nèi)森·貝奈奇說。"發(fā)現(xiàn)了一個機(jī)會，并下了大賭注，而且一直超過了競爭對手。"

貝奈奇估計(jì)，英偉達(dá)比競爭對手有兩年的領(lǐng)先優(yōu)勢，但他也說："英偉達(dá)的地位在硬件和軟件方面都遠(yuǎn)非不可撼動。"

Stability AI的莫斯塔克也同意，"谷歌、英特爾和其他公司的下一代芯片正在迎頭趕上，隨著軟件的標(biāo)準(zhǔn)化，即使是Cuda也變得不再是一道護(hù)城河。"

對人工智能行業(yè)的一些人來說，華爾街本周的熱情看起來過于樂觀了。然而，芯片咨詢公司D2D咨詢公司的創(chuàng)始人杰伊·戈德堡說，"就目前而言，還在半路上的人工智能市場，看起來仍將是屬于英偉達(dá)的贏家通吃市場。"