在今天看見明天
熱門: 鋼鐵股 富邦金 開發金 鴻海 升息

「生成式AI像核子大戰,對人類帶來極大威脅!」唐鳳:防禦方法要靠它

「生成式AI像核子大戰,對人類帶來極大威脅!」唐鳳:防禦方法要靠它
▲左起依序為數位發展部民主網絡司資安制度工程師黃彥霖、臺北醫學大學人文暨社會科學院副院長李崇僖、理慈國際科技法律事務所共同創辦人蔡玉玲、數位發展部部長唐鳳、台灣設計研究院院長張基義、台灣設計研究院研發長劉世南

朱偉銓

政治社會

朱偉銓

2023-07-12 18:01

今日(7/12)由行政院數位發展部與台灣設計研究院共同主辦的點子松論壇以「啟動未來—數位民主與公民參與」為主軸,邀請蔡玉玲律師(理慈國際科技法律事務所共同創辦人)、李崇僖教授(臺北醫學大學人文暨社會科學院副院長)以及黃彥霖先生(數位發展部民主網絡司資安制度工程師),針對數位時代下的公民參與議題、多元年齡的共創共融以及民主化AI的展望與實驗,讓民眾在不斷創新的科技潮流中,了解如何在數位時代中發揮公民力量。

 

台灣設計學院院長張基義表示,點子松論壇目前舉辦到第二屆,藉由各界的集思廣益,延續第一屆「WeWe Futures」的精神,擴展至社會的多元性,邀請全民共同探討,不論在生活、社群、職場、環境都能夠被友善包容及共融存在的未來,同時也期待在生成式AI盛行的潮流下,人類的想像能與AI激盪出更精彩的無限未來。

 

行政院數位發展部部長唐鳳分享,今年最大的亮點就是生成式AI的出現,對各個領域都產生衝擊,情況和新冠疫情以及核子大戰一樣,對人類帶來極大的威脅,目前其中一個防禦的方法,就是透過訓練下一代的AI,幫助人類擔任守護者的角色。

 

本屆點子松將從8月起針對AI議題辦理審議式工作坊,透過公民審議的方式,凝聚社會對AI發展的共識,將邀請投件者與相關專家,共同探討AI應用倫理及創作心得,作為未來政策方向的參考。

 

台灣設計學院研發長劉世南鼓勵全民參與未來想像的機制,他認為不同世代關心的議題不同,表現議題的方式也不同,透過點子松論壇,劉世南希望民眾可以針對新的議題,利用創新科技應用,以及未來商業與服務模式,促進民眾對數位工具更加多元的見解。

 

 

蔡玉玲談到現今科技帶來的挑戰,法律未必能馬上跟進科技的進步,蔡玉玲分享她早期擔任法官,以及後來在IBM工作,科技變化日新月異,社群媒體使用成為人們的日常,區塊鏈技術也帶來去中心化的期待,AI讓資訊整合更有效率,而行動裝置也可以更準確辨別身分,雖然蔡玉玲認為數位時代下各種科技創新對於公民精神的促進可以更加有效,但政府在管理上也需要做出法律的配套,才能因應科技帶來的社會問題,例如日益猖獗的網路詐騙。

 

數位資訊更透明能讓組織管理更扁平,實現民主更加容易,但蔡玉玲認為演算法也帶來同溫層效應的偏失,而假訊息日益氾濫也是一大挑戰,大公司或政府的濫權風險難防,蔡玉玲認為科技產生的問題,也許用科技來解決會更有效率,尤其是在這無國界的虛擬世界。

 

她分享在科技與法學領域的經驗見解,強調數位時代的法律與倫理挑戰,特別是在數位治理方面,蔡玉玲提出建立一個公正、透明且負責任的治理框架的必要性,以保障公民的權益和避免潛在的風險,她強調社會各界合作的重要性,包括政府、學術界、業界和公民社會組織,以確保新的數位技術發展符合公眾利益。

 

 

李崇僖認為科技為新舊世代帶來差異,但對人類的心理健康也產生許多問題,數位科技可能讓人樂於獨處,也會讓人苦於孤獨,統計顯示,孤獨逐漸成為數位時代下的文明病,人類在生活發展上需要連結和歸屬,而數位共融和多元年齡如何達到同理與共感將是未來一大議題。

 

李崇僖表示,目前當代社會對於科技的批判,仍多著眼於個人權利保護層面,例如隱私保護、避免偏見歧視、尊重個人自主權等,他認為所謂科技倫理,不只是一種個人層次的議題,而是社會生活中建構的規範,數位倫理或AI倫理,不能迥避社會生活關係的建構與公共道德的辯論。

 

李崇僖觀察,在科技時代下,多元年齡的核心議題在於如何達到同理與共感,因為人生不同年齡階段會有不同體驗與心境,也會受到時代環境影響,透過數位科技設計來拉近這種差距,將是未來數位科技使用者需要共同思考的課題,才能創造更連結而非更孤立的社會關係。

 

黃彥霖針對未來的AI發展趨勢,認為目前AI的訓練資料可能會讓AI產生偏見,在未來人機協作時,可能會帶來監控與賦能上的困難,而AI大量運用個人資料與偏好,也會帶來隱私上的風險疑慮。

 

黃彥霖鼓勵在數位發展下的多元意見整合,他認為多元意見並非是消滅偏見,而是創造出更多元多樣的演算法來因應不同聲音。

 

黃彥霖也舉日本知名動畫獵人為例,鼓勵人類在這個創新時代,應主動去探索AI世界的暗黑大陸,而非固守在自己的疆界,人類需要盡可能快速了解AI,使用AI,讓我們可以及早認識AI,才能盡快找出新科技可能產生的風險漏洞,然後因應挑戰。

 

數位時代下,資訊安全的重要性,特別是在民主政治和公民參與的背景下將顯得更加重要。數位資安不僅關乎個人隱私和數據保護,也關係到公民的資訊權利和民主價值,黃彥霖分享了數位資安的挑戰,包括大規模數據洩露、假新聞和網絡攻擊等,黃彥霖鼓勵政府、企業和公民共同努力,建立健全的數位資安制度和文化,以保護公民的數位權益。

延伸閱讀

解決全球長照人手不足之困境 智齡科技挾AI優勢搶攻全球智慧照護市場 
解決全球長照人手不足之困境 智齡科技挾AI優勢搶攻全球智慧照護市場 

2023-07-20

AI概念股大噴出,低毛利族群變身高價股,是人為炒作?還是未來業績會很好?
AI概念股大噴出,低毛利族群變身高價股,是人為炒作?還是未來業績會很好?

2023-07-12

連外資都翻多喊進,緯創飆漲停創天價!印度廠傳賣給塔塔「成交價188億」,這群AI概念股同歡
連外資都翻多喊進,緯創飆漲停創天價!印度廠傳賣給塔塔「成交價188億」,這群AI概念股同歡

2023-07-12

緯創、廣達...AI讓大象股飛起來,13檔績優生攤牌!營收三升加上1條件「拉回買就對了」
緯創、廣達...AI讓大象股飛起來,13檔績優生攤牌!營收三升加上1條件「拉回買就對了」

2023-07-12

站上強韌電網與新能源的浪尖\華城總經理 許逸德
站上強韌電網與新能源的浪尖\華城總經理 許逸德

2023-12-27