手機輕鬆分析論文創作影像
而聯發科，就是多家券商點名邊緣AI的重要受惠者。摩根士丹利預估，二四到二六年間，AI將會為聯發科帶來八十億美元的營收，主要由AI手機以及AI PC所帶動。
聯發科技企業策略與前瞻技術資深處長梁伯嵩對本刊指出，最早在一二年加拿大研究團隊AlexNet利用圖形處理器（Graphics Processing Unit，簡稱GPU）晶片訓練模型時，聯發科便關注到AI技術，Google於一六年發表用來訓練自家AI模型的張量處理單元（Tensor Processing Unit，簡稱TPU）晶片後，蘋果也推出應用於iPhone與iPad、內建AI處理單元的A系列晶片，激勵聯發科投入邊緣AI的研發，並於隔年推出內建專門處理AI運算神經網路處理單元（Neural Processing Unit，簡稱NPU）的手機晶片。
不過邊緣AI發展尚屬早期，梁伯嵩回憶，「一開始不知道AI運算能做什麼。」在研發各式邊緣AI應用上，最難的還是如何將手上的技術去配合使用者需求。
梁伯嵩觀察，最早暴紅的手機AI應用，是從辨識人臉開始，後來演變成在相機大量導入AI，作出精準對焦、調整曝光、美顏等效果，至此，手機的AI需求才真的打開來。隨著生成式AI出現，聯發科旗艦手機晶片天璣九三○○系列能夠支援生成式AI邊緣運算，讓採用這款晶片的生成式AI手機，如Vivo X100、小米14，去年底在中國上市後都銷量暴增、賣到缺貨。
聯發科NPU的算力與日俱進，最新一代NPU的算力已高達六十八TOPS（Tera Operations Per Second，每秒一兆次操作），比現有AI PC NPU處理器算力四十五至五十TOPS還高出四成，甚至要在手機上分析論文、利用AI自動生成影像創作都沒問題，「我們開發一個算力平台，讓大家發揮想像力去開發AI軟體。」
替用戶打造專屬AI代理人
除了現有的推論，聯發科手機晶片，也能針對現有模型作個人化調整。梁伯嵩舉例，訊息、個人資產或是健康狀態等隱私，大都會留在手機上、不會上傳雲端，此時手機內建的生成式AI模型，就可以學習使用者的語氣、回覆方式，替每個用戶打造專屬適合的AI Agent（代理人）。
- AI代理人：具有自主行為的人工智慧，能感知環境、處理訊息、做出決策。
不論是做客製化或是推論，都需要一定的算力，梁伯嵩笑說，現在對晶片的要求是「算力需求要提升百倍、甚至千倍，但不能發燙、還得低功耗，簡直是又要馬兒好，又要馬兒不吃草。」一名產業分析師表示，聯發科搭載NPU的手機晶片，有提升處理效能兼具省電的效果。
梁伯嵩也分享，未來手機的AI運算，將會是雲端、終端混合式運作，而要做到這樣混合式的AI，就需要同時具有軟體開發能力。聯發科擁有自己發展出的軟體平台NeuroPilot，除了能協助開發商在晶片上運行AI應用，也能無縫連接至雲端、個人私有雲的資料。
看好邊緣AI商機，聯發科現在已經把NPU，內建於自家的平板、電視、網通到汽車等不同晶片上，至於未來PC產品線，聯發科也不會缺席，梁伯嵩點出「未來我們所有產品線，幾乎都有AI功能。」
梁伯嵩信心十足地指出，聯發科不只提供算力，更整合軟、硬體開發能力，打造出聯發科的AI生態系，不僅能降低應用程式開發商的開發時間，現在應用程式開發商透過聯發科的NeuroPilot平台，就可以將開發的應用運作在不同邊緣裝置，也能和雲端連結。
邊緣AI不僅在手機的應用廣泛，瑞銀台灣研究主管艾藍迪（Randy Abrams）指出，物聯網也會導入邊緣AI晶片，比如可以運行大語言模型的微控制器，可以感應全景影像、人流的安控設備等等，家電、工控業者導入邊緣AI晶片後，不僅設備將更加聰明，這些應用更將帶動物聯網晶片需求復甦。
信驊營運長謝承儒看好全景影像晶片產品線，除了智慧工廠應用外，在智慧城市也有發展機會。（攝影／陳睿緯）
信驊全景監控連「偷抓獨角仙」都能防
物聯網晶片與邊緣AI結合的商機，信驊科技正是潛在的受惠者。以伺服器遠端管理晶片（Board Management Controller，簡稱BMC）聞名的股王信驊，其實，已經默默孵育物聯網應用的邊緣AI晶片八年之久，不管是連鎖超市、無人智慧工廠、資料中心，甚至是獨角仙保育，都用得到信驊的邊緣AI產品──全景影像晶片。
四鏡頭無死角攻監控市場
接受本刊專訪時，信驊營運長謝承儒指出，「我們的邊緣AI產品線，就是AI的眼睛。」透過信驊影像處理晶片的協助，AI軟體廠商能夠以一組帶有四個鏡頭、三六○度無死角的新型監控產品，透過讀取四周環境影像，達到監視、預警等基礎AI推論。
信驊之所以投入全景影像晶片，是來自董事長林鴻明對於影像處理技術的熱忱。早年出身於台灣GPU晶片廠矽統的他，在一次機會買到影像拼接的IP，透過晶片就能將片段的影像拼成三六○度全景、不需要另外使用軟體整合。對這個技術大感興趣的林鴻明，馬上帶著同事傾心研究，並在一八年推出了信驊第一款影像拼接晶片，主攻線上會議市場。
不過，由於全景影像晶片太過特殊，信驊除了單獨銷售晶片，為了打開市場，也找來鏡頭模組廠、組裝廠製造出全景影像相機，以整台相機的方式販售。而謝承儒自二二年從英特爾加入信驊後，他發現，這個產品線也許可以有新的用途。
謝承儒表示，在英特爾工作時，常常需要進入工廠稽核，不但進出需要穿無塵衣、也不能攜帶電子產品，相當不方便，而管理階層也擔心，產線上的機密會因此而外洩，「那時候就開始有了發想……。」在他的推動下，信驊開始將全景影像相機向製造業拓展。
謝承儒觀察，工廠之所以適合以全景影像相機做巡檢，一大原因就是影像拼接沒有死角，針對工廠內不方便進入的區域，更能利用環景做出身歷其境的效果。此外，對比傳統攝影機一次要裝六台才能三六○度覆蓋，信驊的解決方案，只需要一個相機就能達到相同效果。
在謝承儒的推動下，信驊很快與全球專業電子代工服務（Electronic Manufacturing Services，簡稱EMS）龍頭鴻海搭上線，「他們一看到這技術，就非常有興趣。」鴻海將信驊全景相機與輝達的雲端影像智慧分析平台Metropolis、GPU卡整合，導入集團內生產AI伺服器的鴻佰桃園廠中，不但讓鴻海客戶在遠端就能「看」到產線運作，透過在產線上裝設多個全景攝影機，也能讓信驊產品作定點智慧巡檢、解決製造業缺工問題。
也因為不同的產業、不同的工廠，需求差異很大，信驊開放晶片、攝影機的軟體，讓客戶自行客製化，謝承儒表示，「如果客戶有AI團隊，或是要套其他模型都可以，這是我們與其他封閉軟體系統的同業最大的不同。」
而除了智慧工廠應用外，信驊現在與不少軟體廠商合作，進軍智慧城市。比如揚弈科技就利用自家監控軟體整合信驊的硬體，設置智慧監控桿、偵測是否有民眾在偷抓獨角仙。謝承儒也看好，影像拼接技術可以應用在人型機器人上，讓機器人不用回頭也看得見背後發生什麼事，「這是未來我們技術很好的出海口。」
現在全景影像處理晶片僅占信驊一成營收，但謝承儒樂觀預估，這個產品今年營收有機會翻倍成長。信驊也正研發內建NPU的下一代影像處理晶片，規畫在明年下半年推出，他有信心，這會是下一個成長契機。
神雋總經理范正達指出，邊緣AI晶片的軟體很重要，公司的AI模型為自行研發。（攝影／翁挺耀）
神雋感測器偵測坐姿切入全球五大筆電廠
邊緣AI同樣帶動了新晶片應用出現，今年不少筆電大廠在推出AI PC之際，能夠偵測使用情景的功能，成為賣點之一。筆電不但能偵測人是否在螢幕前，坐姿不佳、背後有人偷窺螢幕，都能被偵測到並且提醒用戶。
而這個既省電、又能正確偵測的祕密，竟藏在筆電邊框內的一個小小邊緣AI處理器上，這個晶片是由IC設計公司神盾旗下神雋提供。神雋成立時間不長，就開發出這顆邊緣AI處理器，不需調用AI PC內的處理器NPU，就能做到AI偵測。神雋已經與全球前五大筆電品牌廠合作導入AI PC，供應內含NPU的低功耗感測器模組。
神雋總經理范正達回憶，團隊來自於IC設計公司安國旗下展匯科技的影像事業處，當時主要客戶為筆電、家電業者，「客戶很早就告訴我們，他們想要做情境感知，不是單單知道有沒有人，還要能判斷人的表情、甚至有沒有在看螢幕。」只不過，當時市面上相應的產品是微控制器（Microcontroller Unit，簡稱MCU），不能滿足客戶的需求。
眼看影像AI模型成熟，當時身為展匯科總經理的范正達，二○年決定投入研發NPU IP以及影像模型，進軍低功耗邊緣AI處理器市場。
自訓AI影像模型辨別特徵
不過萬事起頭難，范正達指出，邊緣AI晶片首重軟體，需要從AI影像模型、軟體做起，跟傳統IC設計公司先把晶片做起來、再導入軟體大不同，為此還得一一說服同事。而為了順利開發出最適合的晶片，團隊更開始自己訓練AI影像模型，各式人種、年紀、身形、甚至眼鏡、頭巾等配件，都要能辨識。
回想起這段日子，范正達苦笑新創單位沒有營收，「還好當時投資者、董事會都支持。」隨著神盾在二一年併購安國，展匯科因而加入神盾集團，隔年，公司也斬獲了重要合作夥伴，也就是微軟。
范正達表示，微軟當時也想要推情境感測軟體，開出了一個既要省電、反應速度快，又需要保護使用者隱私的邊緣AI處理器規格，但傳統的筆電影像處理器（Image Signal Processor，簡稱ISP）業者，卻在隱私保護、耗能上不合格，給了展匯科一個機會，展匯科的解決方案置於感測模組旁，低功耗、不會上傳影像，雙方開始展開合作。
范正達指出，「與微軟合作後，我們的軟體產品變成可以直接放上英特爾、超微的筆電平台，再推給筆電客戶，現在成為AI PC的一部分。」團隊也於二三年正式獨立為神雋。
由於過去展匯科行銷團隊與國際筆電大廠、韓系家電品牌維持多年生意關係，了解主要品牌的規格與供應鏈，是神雋產品推出後，順利拿到多家筆電大廠訂單的關鍵，神雋的第一筆生意，已在今年六月出貨，對方是台系筆電廠，預估能為今年帶來數千萬元營收。
不過，市面上不只神雋擁有低功耗邊緣AI處理器產品，事實上，奇景、新思都有類似產品。但范正達強調，相比於同業都是先做好晶片，再去找合適的演算法放入晶片，神雋是自研演算法，並且以此為基礎量身訂做晶片，在功耗上有較大的優勢。
獲顯示器業者青睞 Q4出貨
范正達透露，除了筆電客戶之外，這款產品也獲得顯示器業者的青睞，預計第四季就會出貨，「顯示器才是耗電元凶，在導入我們處理器後，若監測到沒人在看螢幕、螢幕就會自動關閉，減少能源浪費，很適合雙螢幕的使用者。」在既有產品外，范正達表示，神雋正在開發適合跑大語言模型的下一代晶片，這將是公司下一個新戰場。
