二○一八年聯發科發表軟體開發平台NeuroPilot,希望透過軟硬體整合,加速AI應用開發;
今年,主攻高階市場的高通也推出具類似功能的AI Hub平台。晶片大廠支持軟體開發、經營開發者社群,有何目的?
今年二月二十六日世界行動通訊大會(MWC)上,美國晶片大廠高通宣布推出AI Hub平台,提供超過八十個AI模型,讓開發者能快速打造裝置端AI應用;一個多月後,高通資深行銷總監江昆霖更向本刊表示:「平均每天我們都看到數十名開發者使用AI Hub來驗證模型、交流經驗和想法」、「接下來高通也會在台灣舉辦說明會。」
其實,聯發科在二○一八年就已建立類似的平台NeuroPilot,目標是協助終端裝置廠商和開發者更容易地將AI功能整合到硬體中。這些平台能做什麼?為什麼晶片大廠紛紛投入軟體開發者平台?
平台如模型庫、提供工具包
先來看看高通的AI Hub。高通在這個平台上提供經過優化的AI訓練模型,包括語音、圖像辨識、圖片生成等,搭配高通的神經處理單元(NPU)、中央處理器(CPU)和圖形處理器(GPU)等晶片後,AI的推論速度比原先快四倍。簡單來說,AI Hub就是一個「模型庫」,並提供軟體開發「工具包」,工程師只要微調,就能把AI功能套用在搭載高通晶片的裝置上,像是手機、平板或延展實境(XR)眼鏡。
此外,AI Hub還有裝置農場(device farm)功能,工程師若想測試自己訓練好的模型,在各種搭載高通晶片的Android手機、平板上的運作概況,不需苦尋測試裝置,只要上傳平台,選擇想要套用的裝置,AI Hub便會自動產出報告,告訴你這個AI模型運作起來效果如何,換言之,AI Hub也是一個讓工程師們親自感受使用者體驗的地方。