AI熱潮從雲端燒到邊緣,不管是筆電、手機甚至是監視器、汽車都在積極導入。
有研調預估,到二○二八年,全球邊緣AI裝置將超過二十億個,摩根士丹利也預測,二○二七年邊緣AI晶片將創造逾二四○億美元(約七八○○億新台幣)商機,而台灣IC設計公司已經端出不少產品,準備好迎接這一波成長。
聯發科技企業策略與前瞻技術資深處長梁伯嵩認為,未來手機的AI運算,將會是雲端、終端混合式運作。(攝影/唐紹航)
聯發科手機NPU算力比AI PC高四成!
邊緣人工智慧(Edge AI,以下稱邊緣AI)是今年台灣半導體業最火熱的關鍵字之一,以六月舉行的台北國際電腦展(COMPUTEX)為例,不論是輝達、英特爾、高通等國際大廠,或是全球手機晶片一哥聯發科技,都重點展示邊緣AI的應用。
身處邊緣AI矽智財(Intellectual Property,簡稱IP)領先群的Skymizer董事長賴俊豪觀察,雲端訓練模型用的AI晶片,已經成為兵家必爭之地,但應用於終端產品的「推論」,目前仍依賴雲端,不但拖慢運算速度,還有付費、隱私等問題待解,「我們認為,推論會慢慢落到裝置端來,AI PC、AI手機,都是不用連網就能運行AI的代表性邊緣AI裝置。」
外資券商摩根士丹利總結,邊緣AI具有六大優勢:個人化、低功耗、可用性、低延遲、隱私與安全,包括汽車、消費性電子、電腦、手機,都將導入邊緣AI晶片,預估在二○二三年到二七年間,邊緣AI晶片營收將會有三二%的年複合成長率。