AI究竟是不是泡沫?最大GPU買家微軟保守看待,樂觀派則認為盛宴才剛開始。從這波資料中心狂潮可一窺三波新趨勢:「輝達親衛軍」崛起,台廠跟著受益;AI耗電暴衝,黃仁勳解方「密集化」又是什麼?
您的閱讀篇數已達上限
立刻訂閱全閱讀,即可享全站不限篇數閱讀
華爾街澆冷水:AI是泡沫嗎?
論壇現場討論熱絡、氣氛樂觀。
一名坐在第一排、來自矽谷的科技基金經理人突然舉手,「你們知道華爾街已經吹起泡沫化的AI懷疑論嗎?真的需要蓋那麼多AI資料中心?」
一個提問,當場澆了一大盆冷水。
這論點有其根據。
今年9月在台北舉辦的國際半導體展,微軟雲端硬體與基礎建設全球副總裁巴卡爾,在演講現場秀出一張圖表,顯示AI加速器(主要是GPU)從2022到25年有7到8倍的高速成長,但2025年之後卻是一條水平線。
也就是說,微軟這家世界最大規模的GPU買家,竟然認為明年就是AI買氣由燦爛轉趨平淡的轉捩點。
然而樂觀派則認為,這場AI盛宴才剛開始,若干矽谷巨頭仍不惜一切代價投入GPU軍備競賽。
包括甲骨文執行長艾利森,在9月發布財報後,便對《巴倫週刊》透露,自己為了搶GPU不惜向輝達執行長黃仁勳低頭。
「那天我跟特斯拉執行長馬斯克和黃仁勳,在帕羅奧圖市的Nobu餐廳用餐,我和馬斯克整晚都要求黃仁勳賣我們更多GPU,求他賺我們的錢,」艾利森打趣地說。
甲骨文盛大宣布要打造千兆瓦級別的超級AI資料中心,以及馬斯克旗下新創xAI要在田納西州曼菲斯建立的超級運算中心,都各需要超過十萬顆輝達GPU,量體十分龐大。
BCG台灣總經理徐瑞廷舉一張GPU交貨表,GPU塞車的情形要到2027年以後,才會逐步紓解。
「所以(投資資料中心)這趨勢,至少這幾年應該是停不了的,」他觀察。
從佔全球近4成高速運算資料中心的資料中心廊道,可一窺三波方興未艾的新趨勢。
趨勢1:新雲端服務商崛起
「輝達親衛軍」成台廠潛力客戶
首先,這波AI資料中心風潮催生出一票新生代雲端服務商,他們的資料中心內,放的全是輝達DGX系列機櫃,只做AI運算服務。甚至因此直接被貼上輝達「親衛軍」標籤,可以優先取得搶手的GPU。這群輝達親衛軍,未來也是台灣供應鏈搶單的對象。
最具代表性的就是成立7年,總部在紐澤西州的CoreWeave。
今年5月,CoreWeave剛完成新一輪募資,估值暴增兩倍,達到190億美元,全用來建置純GPU的AI資料中心。
CoreWeave原本是一間以太幣「礦商」,為挖礦買了超過5萬顆GPU,成為北美最大以太幣礦廠,但旋即遇到2018年幣圈寒冬。CoreWeave轉而將觸角伸向AI和高速運算,因此和輝達很早結緣,輝達甚至也入股。
CoreWeave提供的AI雲端服務按小時出租GPU,和傳統CPU構成的資料中心相比,速度能夠提高35倍。連法國著名AI新創Mistral都是客戶。
隨著「地表最強AI晶片」出現,CoreWeave更是摩拳擦掌,要成為首批取得的業者。
「之前是8顆GPU,現在可以將72顆GPU串在一起作為一個單元運作,我們會看到許多新應用出現,不只AI,」CoreWeave首席策略長范圖諾在6月接受《彭博》採訪時透露。
一名輝達主管告訴《天下》,輝達打造超級運算中心的經驗豐富,也樂意協助客戶。然而Google等大型雲端服務業者對資料中心的設計想法,輝達不易影響,「我們轉而和二階雲端服務商合作,就像CoreWeave這些。」這就是所謂的「輝達雲端伙伴」。
CoreWeave崛起的最大受益者,是台灣伺服器製造廠技嘉。技嘉去年成為台灣伺服器代工廠中唯一業績成長的業者,就是靠第四季來自AI伺服器代工大爆發的貢獻,主要便來自CoreWeave。技嘉還因此把桃園廠產線從一條擴增到三條來因應。
貼著輝達雲端伙伴標籤的新世代雲端服務商,還有Applied Digital、克魯索能源(Crusoe Energy)、Lambda Labs、IBM Cloud。
而新創克魯索能源的崛起背景更是傳奇。
總部在丹佛的克魯索,雖然和CoreWeave一樣是做加密貨幣挖礦起家,兩年前才專注在AI資料中心的雲端服務。但它帶有濃厚能源公司的色彩,將生產石油的副產品甲烷轉為電力,供給自家的資料中心發電。客戶多是AI新創公司。
克魯索在北達科他、科羅拉多、懷俄明州等靠近油井的地區附近,蓋了100多座小型資料中心。為什麼要靠近油井?就是為了燃燒極為廉價、同時也是惡名昭彰溫室氣體的甲烷,可謂一舉兩得。
加密貨幣挖礦出身的克魯索能源,是輝達雲端伙伴成員,專找油井附近蓋模組化AI資料中心,租給AI新創公司。(達志影像/美聯社)
克魯索獨樹一格的商業模式,也同步反映第二個趨勢「電」。
趨勢2:有電才是老大
科技大咖結盟能源業者,急找低碳電力
資料中心廊道反映的最大挑戰,其實是大量湧現的用電需求。國際能源署報告預估,到2026年,全球資料中心的用電量會達到1000太瓦,相當於日本全國用電量。
「今天誰有電,誰就是老大,」工研院院長劉文雄直率地說。
像四大雲端服務業者,早就著手結盟能源公司,一方面確保供電,還要能供綠電。原因很簡單,就是要避免成為「排碳大戶」。
譬如大手筆在維州擴建資料中心的亞馬遜,便結盟在地的道明尼能源。
道明尼能源離岸風電總監盧比對《天下》表示,手上有全美最大離岸風電專案,同時投入小型核能發電技術。
對美國能源產業十分了解的劉文雄觀察,像道明尼這類發電配比著重在再生能源、核電的電廠,對於注重綠色發電的雲端服務業者來說,是好的合作對象。
AI資料中心用電量龐大,附近輸電的變電所、高壓電塔拔地而起。(王建棟攝)
9月中,美股核電板塊突然大暴漲,背後一股驅動力,就是因為微軟和核電運營商星座能源(CEG)簽訂了20年無碳能源供電協議,並預計在2028年重啟三哩島核電廠。
許多美國人記憶猶新,三哩島核電廠曾是美國核電業最大的失敗地,現在將因AI浪潮重生。
星座能源執行長多明尼哥曾透露,資料中心客戶的強烈購電意願,「過去20年僅見。」星座能源內部曾預估,美國境內AI用電量未來可能是電動車充電量的5到6倍之多。
另外,資料中心不容許一秒斷電,「自己的電力自己發」因此蔚為風尚,帶動虧損累累的燃料電池發電廠博隆能源(Bloom Energy),以在廠區內提供氫燃料電池低碳電力,擺脫電網限制,一舉翻紅。
趨勢3:黃仁勳解方「密集化」
一台新機櫃,能抵數千台伺服器
但在黃仁勳眼中,輝達的「地表最強AI晶片」,從另一個層次看,其實是解方。
這乍看似是而非,Blackwell系列的GPU不是需要更多電力嗎?
黃仁勳在9月備受注目的高盛論壇拋出一個重要關鍵字:Densification(密集化)。
這到底是什麼概念?
黃仁勳認為,過去蓋的超大型資料中心,其實效率非常低,「因為內部空蕩蕩的。」
「舉50、100、200MW的資料中心為例,其實能密集化成一個非常小的資料中心,」黃仁勳說。
這體現在即將面世的GB200 NVL72系列。
「只要一台,就足以替代數千個傳統的伺服器機櫃,」黃仁勳強調。因此即便一個機櫃要價高達1億台幣,但他從單位運算力來看,「是買愈多,省愈多。」
一名了解輝達架構的主管分析,GB200 NVL72出現前,從伺服器到機櫃都是用銅纜線串接,百台主機串一起就有上千條線,難以維護且佔空間。
新一代機櫃的創新設計,是在機櫃中完成GPU串接,接線數量及成本大減,架構密度提高,體積變小,液體散熱相對容易。
「資料中心密度提高,可以節省資金、省電,效率更高,」黃仁勳說。
換言之,這是單位算力、單位能源效能,在密度更高的空間中提升。
「未來能蓋資料中心的地方會愈來愈少,關鍵在能源夠不夠、拉不拉得到電?他(黃仁勳)現在用最新技術,塞大量算力在既有的空間裡,」徐瑞廷分析密集化帶來的效益。
但輝達從單純的晶片廠,進一步推DGX自有品牌,往系統端延伸,掌握成本即設計,台灣合作廠如鴻海則依其參考架構,設計及量產。
「輝達不是要搶台廠生意,而是單一用晶片角度無法解決算力提升的問題時,就必須從系統層級來思考,」矽谷Dalton Investments合夥人黃鐘醇觀察。
傳出吃下最多GB200系列訂單的鴻海,雖然製造工藝難度高,但也享受先期獲益。
摩根士丹利5月報告就預估,鴻海明年來自AI伺服器營收貢獻有256億美元(約8200億台幣),其中54%來自GB200 NVL72/36機櫃解決方案,比重相當高。
已在矽谷聖荷西鴻海神祕廠內進行測試驗證的黃仁勳夢幻GB200 DGX機櫃,預計年底會移到鴻海德州、墨西哥廠進入量產。
根據鴻海先前法說的公開資訊,GB200系列出貨預計在2025年第一季。
屆時,這座體積不變,單位算力、單位能源效率更高的AI機櫃,將運送到北美資料中心,新一波強勢硬體熱潮,將再起。
【更多精彩內容,請購買《天下雜誌》808期「AI算力最前線」,單本即享免運】