华侨网 金融财经 解密AI資料中心40強企業:鴻海搶賺DGX夢幻機櫃、技嘉靠「輝達親衛軍」業績爆發|天下雜誌
公益广告

解密AI資料中心40強企業:鴻海搶賺DGX夢幻機櫃、技嘉靠「輝達親衛軍」業績爆發|天下雜誌

AI究竟是不是泡沫?最大GPU買家微軟保守看待,樂觀派則認為盛宴才剛開始。從這波資料中心狂潮可一窺三波新趨勢:「輝達親衛軍」崛起,台廠跟著受益;AI耗電暴衝,黃仁勳解方「密集化」又是什麼?

AI-資料中心-伺服器-輝達-DGX-黃仁勳-鴻海-缺電 未來,伺服器機櫃將走向密集化,組裝廠內的測試工站、配電也將跟著改變。圖片來源:王建棟攝

華爾街澆冷水:AI是泡沫嗎?

論壇現場討論熱絡、氣氛樂觀。

一名坐在第一排、來自矽谷的科技基金經理人突然舉手,「你們知道華爾街已經吹起泡沫化的AI懷疑論嗎?真的需要蓋那麼多AI資料中心?」

一個提問,當場澆了一大盆冷水。

這論點有其根據。

今年9月在台北舉辦的國際半導體展,微軟雲端硬體與基礎建設全球副總裁巴卡爾,在演講現場秀出一張圖表,顯示AI加速器(主要是GPU)從2022到25年有7到8倍的高速成長,但2025年之後卻是一條水平線。

也就是說,微軟這家世界最大規模的GPU買家,竟然認為明年就是AI買氣由燦爛轉趨平淡的轉捩點。

然而樂觀派則認為,這場AI盛宴才剛開始,若干矽谷巨頭仍不惜一切代價投入GPU軍備競賽。

包括甲骨文執行長艾利森,在9月發布財報後,便對《巴倫週刊》透露,自己為了搶GPU不惜向輝達執行長黃仁勳低頭。

「那天我跟特斯拉執行長馬斯克和黃仁勳,在帕羅奧圖市的Nobu餐廳用餐,我和馬斯克整晚都要求黃仁勳賣我們更多GPU,求他賺我們的錢,」艾利森打趣地說。

甲骨文盛大宣布要打造千兆瓦級別的超級AI資料中心,以及馬斯克旗下新創xAI要在田納西州曼菲斯建立的超級運算中心,都各需要超過十萬顆輝達GPU,量體十分龐大。

BCG台灣總經理徐瑞廷舉一張GPU交貨表,GPU塞車的情形要到2027年以後,才會逐步紓解。

「所以(投資資料中心)這趨勢,至少這幾年應該是停不了的,」他觀察。

從佔全球近4成高速運算資料中心的資料中心廊道,可一窺三波方興未艾的新趨勢。

趨勢1:新雲端服務商崛起
「輝達親衛軍」成台廠潛力客戶

首先,這波AI資料中心風潮催生出一票新生代雲端服務商,他們的資料中心內,放的全是輝達DGX系列機櫃,只做AI運算服務。甚至因此直接被貼上輝達「親衛軍」標籤,可以優先取得搶手的GPU。這群輝達親衛軍,未來也是台灣供應鏈搶單的對象。

最具代表性的就是成立7年,總部在紐澤西州的CoreWeave

今年5月,CoreWeave剛完成新一輪募資,估值暴增兩倍,達到190億美元,全用來建置純GPU的AI資料中心。

CoreWeave原本是一間以太幣「礦商」,為挖礦買了超過5萬顆GPU,成為北美最大以太幣礦廠,但旋即遇到2018年幣圈寒冬。CoreWeave轉而將觸角伸向AI和高速運算,因此和輝達很早結緣,輝達甚至也入股。

CoreWeave提供的AI雲端服務按小時出租GPU,和傳統CPU構成的資料中心相比,速度能夠提高35倍。連法國著名AI新創Mistral都是客戶。

隨著「地表最強AI晶片」出現,CoreWeave更是摩拳擦掌,要成為首批取得的業者。

「之前是8顆GPU,現在可以將72顆GPU串在一起作為一個單元運作,我們會看到許多新應用出現,不只AI,」CoreWeave首席策略長范圖諾在6月接受《彭博》採訪時透露。

一名輝達主管告訴《天下》,輝達打造超級運算中心的經驗豐富,也樂意協助客戶。然而Google等大型雲端服務業者對資料中心的設計想法,輝達不易影響,「我們轉而和二階雲端服務商合作,就像CoreWeave這些。」這就是所謂的「輝達雲端伙伴」。

CoreWeave崛起的最大受益者,是台灣伺服器製造廠技嘉。技嘉去年成為台灣伺服器代工廠中唯一業績成長的業者,就是靠第四季來自AI伺服器代工大爆發的貢獻,主要便來自CoreWeave。技嘉還因此把桃園廠產線從一條擴增到三條來因應。

貼著輝達雲端伙伴標籤的新世代雲端服務商,還有Applied Digital、克魯索能源(Crusoe Energy)、Lambda Labs、IBM Cloud。

而新創克魯索能源的崛起背景更是傳奇。

總部在丹佛的克魯索,雖然和CoreWeave一樣是做加密貨幣挖礦起家,兩年前才專注在AI資料中心的雲端服務。但它帶有濃厚能源公司的色彩,將生產石油的副產品甲烷轉為電力,供給自家的資料中心發電。客戶多是AI新創公司。

克魯索在北達科他、科羅拉多、懷俄明州等靠近油井的地區附近,蓋了100多座小型資料中心。為什麼要靠近油井?就是為了燃燒極為廉價、同時也是惡名昭彰溫室氣體的甲烷,可謂一舉兩得。

加密貨幣挖礦出身的克魯索能源,是輝達雲端伙伴成員,專找油井附近蓋模組化AI資料中心,租給AI新創公司。(達志影像/美聯社)

克魯索獨樹一格的商業模式,也同步反映第二個趨勢「電」。

趨勢2:有電才是老大
科技大咖結盟能源業者,急找低碳電力

資料中心廊道反映的最大挑戰,其實是大量湧現的用電需求。國際能源署報告預估,2026年,全球資料中心的用電量會達到1000太瓦,相當於日本全國用電量。

「今天誰有電,誰就是老大,」工研院院長劉文雄直率地說。

像四大雲端服務業者,早就著手結盟能源公司,一方面確保供電,還要能供綠電。原因很簡單,就是要避免成為「排碳大戶」。

譬如大手筆在維州擴建資料中心的亞馬遜,便結盟在地的道明尼能源。

道明尼能源離岸風電總監盧比對《天下》表示,手上有全美最大離岸風電專案,同時投入小型核能發電技術。

對美國能源產業十分了解的劉文雄觀察,像道明尼這類發電配比著重在再生能源、核電的電廠,對於注重綠色發電的雲端服務業者來說,是好的合作對象。

AI資料中心用電量龐大,附近輸電的變電所、高壓電塔拔地而起。(王建棟攝)

9月中,美股核電板塊突然大暴漲,背後一股驅動力,就是因為微軟和核電運營商星座能源(CEG)簽訂了20年無碳能源供電協議,並預計在2028年重啟三哩島核電廠。

許多美國人記憶猶新,三哩島核電廠曾是美國核電業最大的失敗地,現在將因AI浪潮重生。

星座能源執行長多明尼哥曾透露,資料中心客戶的強烈購電意願,「過去20年僅見。」星座能源內部曾預估,美國境內AI用電量未來可能是電動車充電量的5到6倍之多。

另外,資料中心不容許一秒斷電,「自己的電力自己發」因此蔚為風尚,帶動虧損累累的燃料電池發電廠博隆能源(Bloom Energy),以在廠區內提供氫燃料電池低碳電力,擺脫電網限制,一舉翻紅。

趨勢3:黃仁勳解方「密集化」
一台新機櫃,能抵數千台伺服器

但在黃仁勳眼中,輝達的「地表最強AI晶片」,從另一個層次看,其實是解方。

這乍看似是而非,Blackwell系列的GPU不是需要更多電力嗎?

黃仁勳在9月備受注目的高盛論壇拋出一個重要關鍵字:Densification(密集化)。

這到底是什麼概念?

黃仁勳認為,過去蓋的超大型資料中心,其實效率非常低,「因為內部空蕩蕩的。」

「舉50、100、200MW的資料中心為例,其實能密集化成一個非常小的資料中心,」黃仁勳說。

這體現在即將面世的GB200 NVL72系列。

「只要一台,就足以替代數千個傳統的伺服器機櫃,」黃仁勳強調。因此即便一個機櫃要價高達1億台幣,但他從單位運算力來看,「是買愈多,省愈多。」

一名了解輝達架構的主管分析,GB200 NVL72出現前,從伺服器到機櫃都是用銅纜線串接,百台主機串一起就有上千條線,難以維護且佔空間。

新一代機櫃的創新設計,是在機櫃中完成GPU串接,接線數量及成本大減,架構密度提高,體積變小,液體散熱相對容易。

「資料中心密度提高,可以節省資金、省電,效率更高,」黃仁勳說。

換言之,這是單位算力、單位能源效能,在密度更高的空間中提升。

「未來能蓋資料中心的地方會愈來愈少,關鍵在能源夠不夠、拉不拉得到電?他(黃仁勳)現在用最新技術,塞大量算力在既有的空間裡,」徐瑞廷分析密集化帶來的效益。

但輝達從單純的晶片廠,進一步推DGX自有品牌,往系統端延伸,掌握成本即設計,台灣合作廠如鴻海則依其參考架構,設計及量產。

「輝達不是要搶台廠生意,而是單一用晶片角度無法解決算力提升的問題時,就必須從系統層級來思考,」矽谷Dalton Investments合夥人黃鐘醇觀察。

傳出吃下最多GB200系列訂單的鴻海,雖然製造工藝難度高,但也享受先期獲益。

摩根士丹利5月報告就預估,鴻海明年來自AI伺服器營收貢獻有256億美元(約8200億台幣),其中54%來自GB200 NVL72/36機櫃解決方案,比重相當高。

已在矽谷聖荷西鴻海神祕廠內進行測試驗證的黃仁勳夢幻GB200 DGX機櫃,預計年底會移到鴻海德州、墨西哥廠進入量產。

根據鴻海先前法說的公開資訊,GB200系列出貨預計在2025年第一季。

屆時,這座體積不變,單位算力、單位能源效率更高的AI機櫃,將運送到北美資料中心,新一波強勢硬體熱潮,將再起。

【更多精彩內容,請購買《天下雜誌》808期「AI算力最前線」,單本即享免運】

免责声明:本文仅代表作者个人观点,与华侨网无关联。其原创性及文中陈诉内容未经本网证实,对本文内容、文字的完整、真实性,以及时效性本网部作任何承诺,请读者自行核实相关内容。如发现稿件侵权,或作者无意愿在华侨网发布文章,请版权拥有者通知华侨网处理。

AI電力新寵》資料中心自己發電!燃料電源模組供應鏈,台廠佔6成|天下雜誌

美國直擊AI最前線》矽谷鴻海神祕廠、「資料中心廊道」搶電爭地實況|天下雜誌


联系我们

联系我们

514-3979969

邮箱: cpress@chinesepress.com

工作时间:周一至周五 10:00-16:00,节假日休息
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部