新創擁獨門壓縮術從輝達H100缺貨挖商機大減成本75％滿拓攻生成式AI訓練

滿拓執行長吳昕益展示公司推出的AI訓練機。他看好現在企業有訓練自家大語言模型的需求，樂觀今年公司營收將首度突破億元。

王子承

科技

攝影／陳睿緯

1420期

2024-03-06 11:02

+A -A

加入收藏

滿拓科技獨家壓縮技術，搭上群聯的SSD解決方案，竟然打造出比輝達H100建置成本便宜七五％的生成式AI訓練機，他們是如何辦到的？

隨著生成式AI需求暴增，用以訓練大語言模型的輝達繪圖卡（GPU）H100因而全球大缺貨，也讓台灣半導體廠商看到商機。NAND Flash控制IC設計業者群聯，以輝達工作站等級繪圖卡RTX 4000整合SSD（固態硬碟），就不需使用輝達H100，且更比僅用H100的建置成本節省七五％以上。而這個解決方案中，少不了僅成立五年的新創——滿拓科技的協助。

讓工作站級繪圖卡跑得動

它的微型化軟體是關鍵

滿拓執行長吳昕益過去在網通IC大廠瑞昱任職，他表示，二○一六年回清華大學就讀博士時，眼見AI即將成為趨勢，促使他在一八年成立滿拓，投入AI晶片設計。公司研發的微型化IP（矽智財）、軟體技術，能將資料傳輸量壓縮九成，誤差卻可小於一％，不僅能大幅提升資料傳送效率，後來更發現，「我們當時就是在做AI模型中的推論晶片，我們已經把基礎準備好了。」

此外，以滿拓的技術壓縮模型進行低精度運算，可以大幅降低GPU算力以及功耗需求。

當時，滿拓成功打入幾家台灣客戶、進行概念化驗證（PoC），導入的產業包括智慧工廠、智慧交通等。不過受限於AI應用過於廣泛、整體需求量不大，滿拓年營收沒有太大的成長，始終徘徊在一、兩千萬元上下。

不過機會也在二三年找上門，投資滿拓的群聯執行長潘健成表示，群聯原本計畫將滿拓開發的 NPU IP（神經網路處理單元）導入群聯NAND控制器IC，然而，NPU被整合進CPU已是現在進行式，群聯與滿拓討論過後決定轉型，搶攻生成式AI訓練機這個全新的市場。

不過，生成式AI訓練機跟滿拓，有什麼關係？潘健成觀察，訓練大語言模型需要占用大量記憶體空間，但輝達H100內建的HBM（高頻寬記憶體）容量有限，需要多買幾張繪圖卡，才有足夠記憶體空間跑模型，「比如Meta的大語言模型Llama 2有七百億個參數，光是訓練就至少需要用到十八張 H100。」

如今，沃爾瑪利用各門市即為倉庫的概念，結合電商平台，做到最大涵蓋範圍銷售網，亦即「最後一哩物流（last mile delivery）概念」：美國三．三億人口中，有九○％住在距離沃爾瑪門市僅十五公里距離內。

（二）以科技拉近消費者

二○一六年起，沃爾瑪便開始積極布局未來，除了發展自有品牌，並與其他品牌合作豐富線上平台產品種類，提升產品價值外（以往沃爾瑪以販售低價雜貨為主），更開始收購一系列電商平台，例如：Jet.com、Modcloth、Bonobos、Art.com等，增加滲透率，培養用戶使用習慣；與Alphabet（Google母公司）旗下無人駕駛車公司Waymo合作，提供接送消費者的服務；與日本樂天聯手進軍電子書市場；與叫車公司Uber和Lyft合作物流配送；與微軟簽署合作協議，未來共同開發無人商店；開發App提供客戶「代選」商品等，都是透過科技拉近與消費者距離—「線上下單，物流配送或實體店取貨」。DNA重組後的沃爾瑪，用其電商銷售額的高成長率，宣告電商戰場進入白熱化。

另一個成功抵禦電商狂潮，並持續成長茁壯的例子是好市多（Costco）。

二、好市多，一九八三年創立，全美最大連鎖會員制倉儲量販店，也是全美第二大零售商，以其獨特且高效率商業模式，市值自二○○九年低點約一百三十億美元，成長至目前逾一千二百億美元，在實體零售業遭受電商巨大衝擊的情況下，業績仍能不墜，令人驚歎！

好市多的商業模式圍繞著「價值與誠信」之承諾，主打批發優惠價提供高品質產品，並善待客戶、員工及供應商，我們可以觀察到好市多確實努力在執行其所設定的模式：

（一）定位明確

好市多的目標客群定位為「中產階級」，以每年六十美元會員費作為門檻，二○一八年全球會員已經達到九四三○萬人；而在銷售商品的選擇上，其以自有品牌搭配嚴格標準篩選銷售商品，並將商品項目限制在四千項以下，可確保會員購買時降低選擇成本，取得所需之高品質商品。

（二）低營運成本

公司會員數眾多，且商品多以大包裝數量銷售，因此其可以大量採購壓低商品售價，創造供應商、客戶雙贏。

公司通常也選擇郊區土地營運、省去裝修成本，且不作廣告，降低成本。從財報觀察，好市多設定「薄利多銷」策略，過去五年（二○一三年至二○一八年）商品銷售毛利率皆僅維持在一○％至十一％左右（沃爾瑪毛利率約二五％），從商品銷售中微幅獲利，壓低會員購買成本。

（三）提高客戶黏著度

目前好市多全球有七七六個銷售據點，單點每年可創造約一．七六億美元之營收，效率驚人。公司強調高品質，但產品價格超優惠，並不定期舉辦不同品牌、期間限定之商品特展，使會員消費能體驗不同驚喜內容，也讓全球會員續卡率接近九○％，黏著度高且有持續性。

好市多主要獲利來源為會員費收入，近五年會員費收入約占營業利益六九％至七六％，我們可統括其模式為一媒介廠商，媒介會員以較低成本取得高品質商品，目標為增加更多會員收取會費，此與其他零售通路商主要以銷售商品為獲利來源之模式有巨大差異，也使好市多具有強大的競爭優勢，在電商狂潮中仍能屹立不搖，股價屢創新高，創造好市多不敗傳奇。

在亞馬遜新商業模式崛起過程中，實體店家死傷無數，但優質企業仍能以其優勢因應衝擊，無論是利用既有競爭優勢進化，抑或是獨特商業營運模式，皆能創造價值。

值得一提的是，此兩家皆為股神巴菲特曾經考慮或持續長期投資之優質公司，具備「護城河」的商業模式，值得投資人細究思考。