隨著人工智慧（AI）進步速度越來越快，許多人開始擔心它會不會取代、甚至毀滅人類，因此，如何「AI治理規範」已成為新議題。台灣數位治理協會理事長陳春山、資策會執行長卓政宏都強調，AI治理的目的是要達到信任，因此建立信任是首要之務。
台灣數位治理協會與中研院資訊科技創新研究中心今日（8/31）舉辦「AI數位治理與產業前瞻論壇」，探討AI可能帶來的風險，以及如何因應AI帶來的挑戰。台灣數位治理協會理事長陳春山首先表示，數位發展與國家大小無關，而是治理與創新的能量，針對不當侵害、負面影響，有沒有一個治理的規範。
從政府角度來看，白宮去年就已發佈《人工智慧權利法案》，從保障基本人權出發，規定不得用在不法、侵犯隱私用途上、資料不得濫用，人們也不該受到演算法或是系統的歧視；而台灣行政院今日也通過行政院及所屬機關使用生成式AI參考指引草案，內容明確揭示各機關人員使用生成式AI時，應秉持安全性、隱私性與資料治理、問責等原則，不得任意揭露未經公開之公務資訊、不得分享個人隱私資訊及不可完全信任生成資訊。
以業界而言，華碩雲端暨台智雲總經理吳漢章指出，AI已進階到2.0，可用單模型解決多領域問題，更適合導入各種產業情境，AI商品化也比較容易，確實帶來許多優點。但他也強調，「可信賴、普惠、永續」是AI治理的關鍵原則，且模型需要有訓練技巧並驗證測試，確保問一些敏感問題，不會出現誤導性答案。
台灣微軟全球助理法務長施立成則直言，生成式AI很可能一本正經胡說八道，因為現在的方式是，無論如何它都會生出一個答案，用這方式吸引人繼續使用，再反過來訓練模型，什麼是正確答案。「不問電腦能做什麼，應該要問電腦應該做什麼」他提出，AI治理應該包括負責任、符合倫理、具備讓每個人都能使用普世價值、維護國家安全等要素，避免AI出現偏見、錯誤、保障系統安全。
針對企業擔憂的資安和可靠性，數位發展部數位產業署署長表示，資安院今年將成立AI評測中心，會從準確性、可靠性、公平性、可解釋性及安全性等面向，進行模型評測與驗證，並判斷落實在產業應用的機會。
