企業導入人工智慧需要愈來愈多的運算力,勢必難以兼顧節能減碳。
當永續與運算力看似互相衝突,英特爾產品永續長教你善用AI,成為永續發展的解決方案。
根據IDC近期報告,全球二九%的企業高層表示,會在二○二三年投資生成式AI。問題來了,英特爾的近期研究指出,七六%的IT主管認為,要提升運算力因應業務需求,同時又要節能減碳,將是一大挑戰。
企業真的無法兼顧人工智慧(AI)與永續發展,推動更永續的AI?
解決高能耗問題
推動AI普及就是最佳解
十一月六日,《今周刊》舉辦「ESG永續台灣:永續國際峰會二○二三秋季場」,邀請多位國內外相關領域專家分享觀點與經驗,其中,美國半導體巨擘英特爾的產品永續長、負責推動產品永續的Jen Huffstetler,就以「AI運算世代驅動永續發展」為題,跨海分享她對人工智慧及永續議題的想法。當台灣積極朝淨零碳排目標努力時,我們如何從英特爾的經驗中借鏡學習?
專講一開始,她就引用史丹佛大學的報告指出,當今兩大生成式AI模型:Gopher及GPT-3,每次訓練模型均須消耗超過百萬度的電量,碳排放量介於三五○到五○○噸,「訓練這些模型一次,就產生超過一輛車生命週期的碳排放,或是一個人整年的排放量。」
不僅訓練模型會耗費大量能源,應用AI「推論」時更須大量運算力。Google發現,有六成機器學習能耗是用在推論上;Meta也曾公開表明,五○至六五%的機器學習碳足跡都在推論。且從一九到二一年,推論的基礎設施就增加了二.五倍。因此,究竟如何讓AI永續節能?
「我們相信,善用AI,正是永續發展的解決方案!」Huffstetler強調,模型、軟體、硬體以及「執行時序」等幾個項目最需要優化。
她指出,優化模型並利用軟體工具提高效率,可以顯著節能減碳。「首先,強調數據重質不重量,」如此一來,數據集較小,訓練所需能耗也跟著變少,「研究顯示,在訓練過的神經網路中,可精簡或移除的參數高達九九%。」