「AI軍火商」輝達(Nvidia)創辦人黃仁勳周一(5/29)在2023台北國際電腦展(Computex)做專題演講,在南港展覽館二館的七樓會場擠進數千人聽講,現場排隊人龍拉到好幾層樓。
從經濟部長王美花、前行政院副院長沈榮津、台塑集團總裁王文淵、台塑四寶高層,到廣達副董事長梁次震等產官界大咖都來聽講,顯見外號「1兆男」黃仁勳的市場魅力。
黃仁勳周一上午原定演講一個半小時,最後延長至幾乎兩小時才結束。
從產品面來說,他在暌違四年的首次台灣公開演講,總計發表了加速運算、網路及元宇宙等領域的多項產品。
加速運算部分
1. 推出DGX GH200的AI超級電腦,是把256個Grace Hopper超級晶片連接成一個超大型、1-Exaflop、144TB GPU的巨型模型,用於推動生成式人工智慧、推薦系統和資料分析。
2. Grace Hopper超級晶片設計開始量產,搭載GH200的系統,加入了全球系統製造商根據NVIDIA Grace、Hopper、Ada Lovelace架構的400多種系統配置。
3. NVIDIA MGX 提供系統製造商模組化架構,以滿足全球資料中心多樣化的加速運算需求。
黃仁勳也提到,售價20萬美元(約600萬台幣)的GPU H100,已經全面量產。
網路部分
為超大規模生成式人工智慧打造的乙太網路平台:全新 NVIDIA Spectrum-X ,結合了NVIDIA Spectrum-4、BlueField-3 DPU 與加速軟體,已有全球主要雲端服務提供商,使用此平台來擴大生成式人工智慧服務的規模。
元宇宙部分
已有全球主要電子製造商運用NVIDIA生成式AI與Omniverse,打造先進的數位化工廠。
例如,鴻海旗下的富士康工業互聯網、宜鼎國際、和碩聯合科技、廣達及緯創資通使用 NVIDIA Omniverse、Isaac Sim 及 Metropolis 多項技術打造虛擬工廠、模擬機器人、自動檢測系統。
相關新聞:
「1兆男」黃仁勳來台先逛夜市!親民又霸氣、喊水結凍24年前就展露:我很擅長戰鬥,不獨特毋寧死
10年來電腦速度提升100萬倍,摩爾定律只有兩倍
黃仁勳在演講中再度強調,生成式AI的iPhone時刻已經到來,每個人都能自己寫程式,只要開口告訴電腦即可。
他說明,導入AI的運算效益很驚人,累計10年來電腦速度提升了100萬倍,反觀摩爾定律只有兩倍。
黃仁勳請大家想像,未來每個數據中心都有生成式AI能力,來做壓縮、解壓縮。3D圖像重建,不需要特別軟體,在任何裝置都可以進行,這將是全面改變溝通互動的方式。
電競及遊戲是輝達的重要事業,今天他也發表遊戲角色的客製化生成AI模型NVIDIA Ace for Games,是一種結合語音、聊天機器人和動畫的基礎模型,透過NVIDIA NeMo框架客製化,從邊緣裝置到雲端都可部署,黃仁勳直言,「AI將是未來遊戲非常重要一部分」。
NVIDIA GPU是AI伺服器市場搭載主流 市占率達60~70%
另外,產業研究機構TrendForce預估,2023年AI伺服器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬台,年增38.4%,占整體伺服器出貨量近9%,至2026年將占15%,並同步上修2022~2026年AI伺服器出貨量年複合成長率至22%。而AI晶片2023年出貨量將成長46%。
TrendForce表示,NVIDIA GPU為AI伺服器市場搭載主流,市占率約60~70%,其次為雲端業者自主研發的AISC晶片,市占率逾20%。
觀察NVIDIA市占率高的主因有三個,第一,目前美系或中系雲端服務業者(CSP)在採購原有NVIDIA的A100與A800外,下半年需求也將陸續導入H100與H800 GPU。
尤其是,新機種H100與H800在平均銷售單價約為A100與A800的2~2.5倍,加上NVIDIA同時積極銷售自家相關整機解決方案。
相關新聞:
黃仁勳台大演說全文!分享輝達3個「失敗與成功」分岔點:為覓食而奔跑,或為逃離被當成食物而奔跑!
第二,高階GPU A100及H100的高獲利模式也是關鍵,由於旗下產品在AI伺服器市場已擁有主導優勢,根據TrendForce研究,H100本身的價差也依據買方採購規模,會產生近5000美元差異。
第三,2023半年ChatBOT(聊天機器人)及AI運算風潮將持續滲透至各種專業領域(如雲端/電商服務、智慧製造、金融保險、智慧醫療及智慧駕駛輔助等)的開發市場,帶動每台搭配4~8張GPU的雲端AI,以及每台搭載2~4張GPU的邊緣AI伺服器應用需求漸增。
本文暫不開放媒體夥伴授權
相關新聞:
直播/黃仁勳COMPUTEX演講大秀5年來GPU改變:用AI模擬光線與物質,是運算的終極挑戰