在今天看見明天
熱門: 006208 00900 00896 天氣 AI
投資理財
保險稅制
產業時事
職場生活
今周大耳朵 Podcast
富足今周起
幸福熟齡
ESG永續台灣
專題報導
今選頻道
存股助理
今周學堂
訂購優惠
活動報名

矽谷直擊一場輝達開發者大會,揭AI未來3大亮點 黃仁勳的新霸圖

矽谷直擊一場輝達開發者大會,揭AI未來3大亮點          黃仁勳的新霸圖

2024-03-27 09:15

(今周刊1423)

說起輝達,你第一個想到的是什麼?

GPU、飆漲的股價、還是生成式AI背後最重要的軍火庫?

黃仁勳的野心,其實,比你想的多更多。

《今周刊》遠赴矽谷直擊,帶讀者一窺黃仁勳的AI新霸圖。

美國時間3月17日周日,加州聖荷西市中心,店家疏落、人車稀少,商業活動明顯還沒有完全從COVID-19的衝擊中復甦。但是當天下午,整個市中心瞬間活了過來,聖荷西會議中心周邊的街道,被一群又一群戴著識別證與螢光綠掛繩的人占滿,穿戴螢光綠掛繩的人的臉上,隱隱透露著雀躍氣息。

 

聖荷西會議中心旁的旅館大廳與附設的咖啡座,從小貓兩、三隻,變成不論何時都充滿穿戴著螢光綠掛繩的人,或是聊天、或是低頭打電腦,要不就是用手機猛傳訊息,而聖荷西會議中心周邊的餐廳,即使提早半個多月訂位,連續四天都是一位難求。

 

為冷清的聖荷西市中心帶來滿滿螢光綠色彩的,就是「GTC」,這是當今AI王者輝達(NVIDIA)自2009年起每年舉行的開發者大會。今年的GTC在3月18日登場、為期4天,是5年來首度恢復實體舉辦,加上AI的熱潮,讓GTC附帶的展覽與演說、工作坊,規模都是16年來之最。

 

參與者來自四面八方,能想到的,像是伺服器業者、AI新創、網際網路服務大廠、零組件供應商等,不易直接聯想的參與者,則像是製藥業、人形機器人製造商、汽車業者……。這場盛會共聚集了3百多家參展廠商、7萬5千多名參觀者;「今天在這個房間裡,代表的是全球1百兆美元行業的縮影。」這是輝達創辦人兼執行長黃仁勳在GTC主題演說的開場。

 

黃仁勳的主題演說,就是這場開發者大會的最大亮點,全球只有1萬5千名幸運兒能在現場聆聽,18日下午1點開始的演說,早上10點多就湧現排隊人潮。同步在YouTube直播的主題演說,不僅當天有30萬人次觀看,過去6天來累積觀看次數更高達兩千七百萬次,比黃仁勳去年的GTC演說還要高出超過十倍。

 

「Jensen(黃仁勳英文名)就像是當年的賈伯斯!」現場一位科技業者這麼說。一度,蘋果電腦創辦人賈伯斯用他的演說魅力與奇炫產品,在發表會上一次又一次地驚豔全球,每個小動作、每句喊話,往往牽動著科技趨勢、資本市場,並且逐步改變世界;而今,每天穿著黑皮衣、黑T恤、黑牛仔褲、黑球鞋、頂著一頭灰白頭髮的黃仁勳,有著同樣的顛覆能量。

 

尤其,在今年這場開發者大會上,黃仁勳所揭示的,是這位AI王者前所未見的雄心,是他要帶領輝達改變世界的完整路徑……,是黃仁勳的AI新野心。

 

自從去年初ChatGPT引爆生成式AI巨浪以來,站在浪尖的輝達,營收從去年初單季僅約60億美元上下的規模飆速成長,到結算至今年1月底、輝達財務年度「2023年第四季」的單季營收,已經來到221億美元,1年之間暴增265%,同期間,單季毛利率也從原本的63%急速跳升,來到最新的76%以上。

 

「但是,我們還有很長的路要走……。」在演說中,黃仁勳用這句話鋪陳生成式AI的發展,以及他的企圖心。企圖心的第一個關鍵點,用黃仁勳自己的話來形容,是「非常、非常巨大的GPU」,或是「超越物理限制」的算力;又或者,是在整場大會結束後不少投資機構法人的形容,黃仁勳所展演的,「是讓競爭者看不到車尾燈的算力提升速度。」

 

「每個人都跟我說,(為了成功)20年的等待是值得的。但他們往往下一句話就會問我:那麼,你下個禮拜能做出來嗎?」黃仁勳半開玩笑地這麼說,但他的結論很篤定:「所以,我們需要更大的GPU。」

 

事實上,去年以來成為AI世界話題重心的「大語言模型」,之所以能有一日千里的進展,關鍵正在於參數愈來愈多、訓練資料量愈來愈大、模型愈長愈「胖」,2022年11月底釋出的ChatGPT,參數量為1750億,比前一代激增超過8倍,終於一夕暴紅,到了2023年4月推出的GPT-4,一般估計參數量已經破兆。5個月內,參數量暴漲超過5倍,需要的算力也就必須等量齊觀。

 

除了鬼速膨脹的模型,在演說隔天參加分析師會議的黃仁勳,也對投資機構進一步形容:「生成式AI需要大量的失敗、大量的運算……。這是瘋狂的計算量!」而前面提到的「非常巨大」、「超越物理極限」等說法,就是他對這次輝達新產品Blackwell架構GPU的描繪。

 

在大會開始之前,市場便熱烈期待輝達新GPU的「超能力」,而在主體演說時,黃仁勳果然端出效能超群的新GPU Blackwell,配備2080億顆電晶體、採用台積電客製化四奈米製程,由兩顆GPU裸晶互連成單一顆GPU,而兩個B200搭配一顆輝達自研的ARM架構處理器Grace,就成為黃仁勳口中的AI「超級晶片」:GB200。

 

規格艱澀生硬,但若用更易理解的方式形容,比起輝達現有的最強晶片H100,新的超級晶片訓練效能高4倍、推論效能高出30倍,專為「兆級參數量」的大語言模型需求而生;也因為運算效率提高,耗電量比H100降低四分之三。而一座全部以GB200打造的資料中心,將有三萬兩千個GPU在裡面,「這是新工業革命中的AI工廠。」黃仁勳說。

 

「Hopper很棒,但我們需要更大的GPU。」黃仁勳口中的Hopper,其實就是輝達現有最強晶片H100的架構名稱,這款在二二年首度發表的晶片,是在去年下半年才開始生產,幾乎同時間,輝達也發表了第一代的超級晶片GH200,如果還有印象,這就是讓黃仁勳喊出「買愈多、省愈多」名言的產品。未滿一年之際,如今輝達又推新的超級晶片,速度之快,已然打破輝達近年慣例。

 

輝達GTC大會

 

輝達2022年以來各季營收、毛利率

 

輝達

 

加速運算晶片

 

算力大躍進  GPU世代交替兩年變一年

 

回顧2017年以來輝達GPU世代交替過程,當年推出的Tesla V100,被稱為「用八顆組成一台伺服器,可抵四百台一般伺服器」,過了3年,才有已被美國限制出口中國的A100登場,當時號稱「最強七奈米晶片」。此後再過兩年,H100亮相。對比過往頻率,這一回,輝達確實有著要讓對手看不見車尾燈的企圖。

 

英國科技產業研究機構Omdia分析師溫璟如觀察,生成式AI正在展現無限多種的可能,輝達將產品升級節奏加快,除了「實力展現」,可以說,在競爭者愈來愈多之下,更是為了「緊緊抓住了這個機會」。

 

某外資則認為,Blackwell架構與GB200的推出,宣示「輝達效能最好」的意味濃厚;此外,現在還是AI發展初期,以一線網際網路業者打造AI伺服器資料中心這類超大型的資本支出,回收期可能長達6年,在此之下,輝達愈快發表新產品,愈能搶到更多市占率,而且輝達的算力有領先性,客戶用輝達的GPU用得愈多、就能愈快推出新的AI模型,是客戶願意付錢的關鍵。

 

這還沒完,「我們會有更大的GPU、比Blackwell還要大。」黃仁勳在現場這麼預告,而GTC展場上也流傳著各種耳語與業界小道消息,不約而同直指,輝達明年將推出算力更強大的GPU架構與新的超級晶片、進入一年一更新的節奏。可以說,只要大語言模型的發展一直以跑百米的速度向前衝,黃仁勳的野心,就是不斷增進輝達GPU的算力、不斷挑戰極限。

 

機器人

今年的GTC主題演說,黃仁勳宣布輝達將打造人形機器人AI模型,與九台合作夥伴的人形機器人在台上一字排開,氣勢驚人。(圖/達志)

 

利用輝達Omniverse訓練的四足機器人,能夠敏捷地在障礙 物爬上爬下、執行任務。

利用輝達Omniverse訓練的四足機器人,能夠敏捷地在障礙物爬上爬下、執行任務。(攝影/吳筱雯

 

機器人

已在亞馬遜倉庫裡「實戰」擔任搬運紙箱搬運工,本刊記者在現場找麻煩詢問:「如果紙箱掉到地上或是放在地面,它也能搬?」未料在場人員嚴肅回答:「沒問題,這個機器人,已經學會了『深蹲』!」(攝影/吳筱雯)

 

台廠點將錄  黃仁勳霸略的關鍵夥伴

 

過程中,台灣供應鏈就是讓黃仁勳的野心得以落地最重要的合作夥伴,鴻海、廣達、緯創、緯穎、英業達、華碩、華擎、和碩,都是在GTC中被黃仁勳欽點的AI伺服器業者。

 

鴻海旗下的鴻佰、廣達、緯穎是GB200伺服器機櫃首批供應商,協助輝達將最先進的AI算力快速落地。其中,鴻海旗下的鴻佰在現場展出GB200 NV72搭配液冷系統的整機櫃,據了解,如果輝達GB200供貨順暢,鴻佰最快九月就能出貨,有很高的機會是全球第一家;而鴻海董事長劉揚偉日前將今年集團營收由「持平」調至「明顯成長」,關鍵因素之一,就是GB200整機櫃接單暢旺。

 

以子公司雲達之名參展的廣達,也展出兩款Blackwell架構主機板,負責伺服器業務的廣達資深副總經理楊麒令在現場透露,廣達GB200整機櫃可望在第四季大量出貨。

 

AI伺服器代工廠在黃仁勳加持之下,股價也開始活蹦亂跳,鴻海近期創下14年來股價新高、英業達也一度寫下去年8月以來波段新高。至於身為AI伺服器後進者的和碩,更因為首度躋身輝達整機櫃伺服器供應商之列,股價也在主題演說後亮燈漲停、直上百元大關,一度觸及109.5元、寫下歷史新高,向來不評論公司股價的和碩董事長童子賢,也很難得地說:「終於輪到我們搭上AI順風車。」

 

追求無限算力的另一個效應,是一舉打開了資本市場討論多時的「伺服器液冷散熱」想像。GB200整機櫃耗電量高達120千瓦,必須改用散熱效率高的液冷系統,「攝氏25度的水進了機櫃,變成攝氏45度的溫水出來,大概就是室溫的水進、按摩浴缸的水溫出。」黃仁勳形容。

 

為了幫這麼「熱」的伺服器解熱,帶「熱」了一缸子散熱概念股,在GTC正式登場前一周,黃仁勳受邀在母校史丹佛大學演說公開稱讚液冷系統後,元山、尼得科超眾、協禧、奇鋐、雙鴻、廣運、泰碩、健策、動力-KY、業強等散熱股都大漲一波,GTC登場之時,台達電股價接棒而起。

 

這回GTC,台達電不僅是全球唯一受邀參展的電源廠,市場傳出,GB200的DGX整機櫃液冷散熱系統,正是由台達電參與設計,台達電有望成為伺服器電源及散熱的大贏家。

 

輝達有了台灣供應鏈的鼎力相助,黃仁勳也情義相挺、將台灣供應鏈擺在「C位」。為台灣供應鏈舉行的GTC晚宴上,黃仁勳特別表示,AI是新的工業革命,在這個過程中,「台灣正處於最中心的位置」,他更說:「我是很棒的台灣大使,因為我了解歷史,我了解台灣公司的重要性,我了解在新的AI革命、新的工業革命中,台灣的角色有多麼重要,我們一定要確保,這個故事由台灣的視角來講述。」

 

台灣在今年的GTC「露臉」程度,並不只於此,台灣廠商、甚至是台灣本體,都在GTC主題演講舞台占有一席之地;而這就帶出黃仁勳另一個雄心壯志:用AI顛覆製造業。

 

緯創湖口廠  藏輝達「智造革命」亮點

 

接下來,位在台灣新竹湖口的緯創新廠,成了黃仁勳向全世界展現「AI驅動智慧製造」的亮點範例。

 

「讓我向你們展示,緯創正在做什麼……。」此時,黃仁勳提到了一個關鍵字:「Omniverse」,它是一個平台、一個工具,用來打造「數位孿生」的場景,白話地說,就是能在數位世界複製一個真實世界的環境。而緯創的湖口新廠,就是用輝達Omniverse與數位孿生系統,來優化生產線布局。

 

事實上,Omniverse可說是長久存在黃仁勳心裡的一個大夢,他曾在接受美國某位部落客訪問時簡單提到這個名詞,當時,他形容這是「零個十億美元(Zero Billion)」的市場,意思是,此時還沒被世人看見、但未來潛力無窮的市場。如今,被Omniverse顛覆的製造業,愈來愈多,他每一次的主題演說中,占比也愈來愈高,似也暗示在輝達的催動下,黃仁勳有信心,「零個十億美元」即將跨出「從零到一」的重要一步。

 

台灣新竹的工廠,成了他的信心底氣。他侃侃而談,緯創這座新廠在產線規畫過程中,運用數位孿生系統,模擬了一個完美符合物理世界的「虛擬湖口新廠」,先在數位世界進行驗證各種設計,才開始真的拉線、進設備,湖口新廠的布建時間因此由五個月、縮短至兩個半月,整整省了一半。

 

而湖口新廠上線後,緯創也繼續透過數位孿生、模擬,來減少改換生產線所需時間,裝在生產線上每個機台上的感應器所蒐集到的即時現場資料,則幫助緯創生產所需時間降低50%、不良率降低4成。

 

事實上,不只緯創,輝達另一重要台灣供應商台達電也正在研究導入輝達的數位孿生,記者好奇追問台達電,輝達老愛講自己的數位孿生系統能夠模擬真實世界的光影變化,到底有什麼意義?「這很重要,智慧工廠生產線的天花板上,裝滿監視器,如果天花板上的燈具有任何一盞滅了、閃爍了,導致出現本來不存在的陰影,監視器看到的產線因此而跟原本的不同,自動化設備就會錯亂,有了能夠模擬光影變化的數位孿生模型,我們就能預先設想、預先訓練,避免生產線大亂。」

 

「世界上絕大多數工業都是重工業,而重工業至今還沒有真正從科技發展中受益。」黃仁勳在分析師會議中篤定宣告:「人工智慧的下一波浪潮,實際上就是關於『工業人工智慧』!」

 

智慧工廠中常見的機器手臂,也持續獲得Omniverse的加持。黃仁勳表示,機器手臂的AI推論系統,在輝達DGX伺服器組成的雲端裡,以Omniverse數位孿生系統訓練完成後,放在搭載有輝達專為機器手臂開發的GPU Jetson Orin中,目前已能用來執行生產線組裝、倉庫堆棧、汽車烤漆或是沖咖啡等各種任務。談到這裡,台灣老牌貿易商所羅門的公司LOGO,也赫然出現在黃仁勳的簡報檔中。

 

所羅門代理許多品牌的機器手臂,並未自行生產,但是,所羅門搭配機器手臂開發的3D電腦視覺軟體,因為採用輝達Omniverse訓練而獲得黃仁勳「點名」,不僅在GTC主題演說結束當天差一檔漲停,截至3月25日止,已經連續四個交易日跳空漲停。

 

Omniverse不僅運用在智慧製造、機器手臂,只要能在數位虛擬環境下做出數位孿生模型、模擬真實物理世界的系統,都可以用上Omniverse,比如說……地球。

 

「歷史性乾旱、災難性颶風、大洪水,以驚人的頻率出現。」黃仁勳說,極端氣候每年為世界帶來1千5百億美元的損失,而且極端氣候帶來的影響分布並不平均,1千5百億美元的損失,集中在少部分地區。為了協助減少極端氣候帶來的影響,他宣布,輝達特別開發出地球的數位孿生模型Earth-2。而台灣,就是Earth-2展現功力的舞台。

 

輝達以2021年差點登台的強颱璨樹為例,當時多個氣象預測模型都失準,不過,Earth-2與輝達開發的生成式AI模型CorrDiff結合後,可以將圖像解析度從現有的25公里、一口氣提高精準度至兩公里,該模型的預測速度比現有傳統天氣預報模型快1千倍,卻只需傳統天氣預測模型能耗的3千分之1。

 

黃仁勳

(圖/取自NVIDIA YouTube影片)

 

AI 革命

 

「機器人ChatGPT時刻」深蹲搬物也在行

 

那麼,在GPU不斷挑戰算力極限、Omniverse連地球都能做出數位孿生模型之後,還有什麼領域是黃仁勳意欲挑戰的?去年,黃仁勳喊出「AI的iPhone時刻已經來臨」,今年,他則說「機器人的ChatGPT時刻,即將到來!」一句話,顯現他另一個積極進軍的全新領域:人形機器人

 

如果說,生成式AI是大腦,那麼,人形機器人就是生成式AI的身體,幾乎每個投入生成式AI的AI業者,都在積極地為自己的「大腦」尋找合適的「身體」。黃仁勳也認為,下一世代的機器人,很有可能就是通用型的人形機器人,「建立一個通用人形機器人的基礎模型,是目前AI領域最令人興奮的課題之一。」

 

黃仁勳表示,輝達已經開發出Jetson Thor晶片,作為通用人形機器人的「心臟」,用以執行AI基礎模型,來推論、感知、執行任務,並透過Omniverse與數位孿生,來訓練基礎模型。

 

在演講中,他把前面提到的Omniverse,比喻成機器人的「健身房」,在完全貼合物理原則的世界的「虛擬健身房」裡,機器人的通用模型能學會轉手腕、下樓梯、端盤子、相互碰撞的反應……,各種人類日常真實動作,都能在此「練」成。等到訓練完成後,這套AI模型便可直接部署到真實世界的人形機器人,在真實世界運作毫不出錯。

 

在現場觀眾一片掌聲與叫好聲中,黃仁勳高調宣布,輝達投入人形機器人,「Project GR00T,專為人形機器人提供通用基礎模型的計畫……。輝達的靈魂,包括電腦繪圖、物理學和AI,此時此刻正交會於GR00T!」

 

語畢,原本漆黑的舞台亮起來,黃仁勳與一字排開、種類各異的人形機器人站在一起,向觀眾揮手,全場氣氛歡騰、人人搶拍畫面。與輝達合作的人形機器人業者,包括機器人老字號的波士頓動力、獲得亞馬遜採用並獲台灣工研群英基金(TIEF)投資的Agility Robotics、獲得輝達投資的Figure AI等共9家。

 

值得一提的是,站在舞台上的亞馬遜倉庫機器人,其實也在會展場館內的一隅展出,當記者找麻煩地詢問:「如果機器人必須撿起地面上的物件,它要怎麼做?」沒想到解說人員正色回答:「這是個好問題,它可以像人一樣蹲下去撿,因為它已經學會了對機器人來說難度甚高的『深蹲』動作。」

 

有趣的是,在黃仁勳演講舞台登場的一整排人形機器人中,輝達GPU大客戶特斯拉所開發的人形機器人Optimus,並不在這個舞台上。而相較於電動車大廠特斯拉在GTC舞台上毫無存在感,與輝達在車用晶片合作的聯發科,則是現場另一亮點。

 

在這次GTC當中,聯發科推出一系列結合AI的智慧座艙系統單晶片,聯發科表示,4款晶片皆支援輝達DRIVE OS軟體,涵蓋從豪華車、入門級的各種市場區隔,智慧座艙晶片組採用ARM架構,以輝達次世代GPU加速的AI運算、RTX繪圖技術與光線追蹤技術,能在車內執行大語言模型,提供聊天機器人、多螢幕顯示、逼真遊戲效果、駕駛警覺性偵測等先進的AI安全與娛樂應用。

 

一趟說明,其實已能具體而微完整說明黃仁勳對AI下一趨勢的霸圖,他要一路追求超越物理極限的算力,練出完美符合物理法則的數據與推論,而這些數據與推論,從顛覆工業製造開始,也將導向人類生活的層層面面。

延伸閱讀
微軟成AI 5市值新龍頭!蘋果有機會翻身?謝金河提醒「小心黃仁勳」:浪潮下台灣會產生蛻變
微軟成AI 5市值新龍頭!蘋果有機會翻身?謝金河提醒「小心黃仁勳」:浪潮下台灣會產生蛻變

2024-03-22

黃仁勳率台廠戰隊催出最強GB200!陸行之提「關鍵數字」:這事若成真,英特爾、超微就免玩了
黃仁勳率台廠戰隊催出最強GB200!陸行之提「關鍵數字」:這事若成真,英特爾、超微就免玩了

2024-03-19

GTC大會》機械公敵成真?輝達秀人形機器人「能觀察行為、模仿任務…」黃仁勳:容易與現實世界互動
GTC大會》機械公敵成真?輝達秀人形機器人「能觀察行為、模仿任務…」黃仁勳:容易與現實世界互動

2024-03-19

全球瞭望》輝達新晶片多剽悍?GTC大會見真章 美通膨轉熱,點狀圖將透露新玄機
全球瞭望》輝達新晶片多剽悍?GTC大會見真章 美通膨轉熱,點狀圖將透露新玄機

2024-03-17

英特爾是CPU霸主、輝達是GPU一哥 為何台灣在AI時代 有機會從這家才八歲的新創小公司勝出?
英特爾是CPU霸主、輝達是GPU一哥 為何台灣在AI時代 有機會從這家才八歲的新創小公司勝出?

2023-08-28