輝達執行長黃仁勳在全台掀起AI旋風,只是他口中最常提到的不是AI PC,而是將更多篇幅,擺在要價數百億的AI伺服器與「AI工廠」。未來每一座工廠都需要具有五感,並裝上「大腦」,不僅提升效率、更節省能耗。
美超微、日月光半導體、中華系統整合攜手在高雄打造全台首座水冷散熱技術的資料中心,透過人工智慧優化研發與生產流程,還能提供更好減碳成果。日月光表示,採用水冷技術伺服器,預計可節省20%以上的能耗。
替工廠打造大腦、增加五感 提升效率、降低能耗
日月光副總李政傑說明,正如同人有五感,日月光也能利用感測元件加AI,應用到工廠,譬如攝影鏡頭可以監測廠區,聽覺也可以監測馬達異音,能運用在環境保護與智能助理,
李政傑說,現在使用AI愈來愈多,因此需要的算力也愈來愈大,目前粗估每年至少有1.2倍的成長。過去的資料中心、伺服器使用空冷來卻,需要比較大的空間,但水冷技術完全不同,能有效降低20%以上的能耗,進而達成2030淨零的目標。
採用水冷散熱 節省電費與空間
日月光這次導入的美超微水冷AI伺服器,搭載了兩顆英特爾CPU,單顆功耗就達350W,此外還有8張輝達H100 GPUs,每張功耗達700W,算力強大,但發出的熱能也十分可觀。
過去空冷時代,伺服器機櫃需要有足夠空間,讓機器能夠散熱,還得隨時開啟冷氣,讓室內溫度能夠在25度以下。採用空冷散熱後,藉由水路將伺服器的熱能帶走,不僅不需耗費冷氣電費,也更節省資料中心的空間。
▲日月光半導體在高雄導入台灣首台美超微水冷AI伺服器。黃靖文攝
AI伺服器需求熱絡 美超微:未來數月產能全被包下
美超微高層透露,目前AI伺服器機櫃需求熱絡,未來幾個月的產能、材料幾乎都已被少數大廠包下。第一波需求幾乎都是美國雲端供應商、大型企業包下,當AI需求突然暴增,這些客戶對算力的需求也跟著大幅提高。未來,還會有像日月光這樣的智慧工廠,也會跟著加入。接著,甚至連學校、政府單位都會跟進,到時候的需求量就會得更大。
美超微透露,過去30年來水冷伺服器的建置,可能僅有1%以下。不過今年已經開始出貨,客戶對算力需求快速提升,市占要衝上15%非常有可能。
美超微說明,其實目前空冷、水冷伺服器的建置成本,已經十分接近氣冷伺服器。但水冷能節能省電,還能省下空間,過去只能擺1,000櫃的資料中心,未來就能擺放更多。
相關新聞:
影/梁見後的場子、黃仁勳驚喜給抱抱!喊美超微AI機櫃「五告水」,30年交情從哪來?老黃說只有他信我
黃仁勳演說科技大佬全來!3兆男喊「輝達的一切、AI起點在台灣」…算力通膨時代來臨,什麼是CEO數學?
美超微自行開發水冷零組件 讓客戶放心
美超微高層分享,過去有大廠曾經採用過浸沒式水冷技術,用容器把整個機櫃浸泡在專用水冷液中,想不到因為停電,液體溫度升高膨脹,全滲出機櫃外,讓資料中心花更多時間清理。
由於一般廠家對於水冷的接受度仍不高,「畢竟只要一漏水,那可能就是台機器報銷」。為此,美超微還自行開發各種水冷組件,嘗試各種可能性,為的就是讓客戶相信水冷解決方案。
中華系統整合吳明德董事長則分享,綜整 ICT 應用、能源管理、機房維運經驗,搭配合作夥伴商的高速運算伺服器主機及最先進水冷散熱解決方案,讓我們得以解決機房高耗能的問題。
高雄經發局:歡迎各大廠來台
高雄市政府經發局副局長高鎮遠表示,非常歡迎全球封裝大廠日月光半導體加大投資高雄,進一步設立資料中心與增加就業,藉由引入美超微新一代的創新水冷散熱技術,不但可大幅節能減碳,響應政府 ESG 政策,並帶動產業升級,為高雄快速崛起的科技產業聚落做出示範。
高鎮遠說明,除了日月光,台積電、IBM、鴻海等國際大廠已陸續進駐,日前信驊、Skymizer也宣布投資高雄。近年高雄非常熱鬧,今年不僅有黃色小鴨、演唱會經濟,現在更要打造AI灣區,高雄市政府會成為企業投資最堅強後盾。