在今天看見明天
熱門: 鋼鐵股 富邦金 開發金 鴻海 升息
投資理財
保險稅制
產業時事
職場生活
今周大耳朵 Podcast
富足今周起
幸福熟齡
ESG永續台灣
專題報導
今選頻道
存股助理
今周學堂
訂購優惠
活動報名

AI衍生新型犯罪 檢察總長邢泰釗親揭備戰實錄 總統大選竄假音檔 AI來襲有「法」管?

AI衍生新型犯罪  檢察總長邢泰釗親揭備戰實錄  總統大選竄假音檔  AI來襲有「法」管?
最高檢察署檢察總長邢泰釗認為,目前法制完備,不需特別為AI犯罪再修法;棘手的反而是跨國司法互助、科技偵查的正當性。

陳子萱

政治社會

攝影/唐紹航

1404期

2023-11-15 10:36

今年八月,一段仿民眾黨主席柯文哲的AI假音檔流出,為總統大選假訊息大戰揭開序幕,隨著AI發展快速,生活應用無所不在,我國是否須為AI立法,掀起各界關注。

賴清德這次在美國的見面會,搞得聲勢浩大,每個人去可以領八百塊……比蔡英文場面還大。」今年八月中,副總統賴清德訪美之際,國內多家媒體收到一封不明郵件,夾帶一則聲音神似民眾黨主席柯文哲、長約五十八秒的神祕錄音,劈頭就質疑民進黨聘走路工、施政無力,為總統大選再添幾分火藥味。

 

不過,音檔的內容邏輯紊亂,語速、發音也略顯怪異。事發後,柯文哲總統競選辦公室火速澄清,錄音檔非柯文哲本人聲音,遭有心人士以假亂真。經台北市調查處鑑別後發現,該音檔具人工智慧(AI)深度偽造的可能性極高,目前由台北地檢署偵辦調查中。

 

最高檢設中心  防AI亂大選

 

隨著今年初ChatGPT暴紅,掀起「生成式AI元年」熱潮,AI伴隨的衝擊,卻也在生活中無孔不入。每到總統大選前就大舉入侵的假訊息,如今結合AI技術,更加真假難辨,讓官方不得不嚴陣以待。

 

「AI假訊息現在還不會出現,大家還在試探。」最高檢察署檢察總長邢泰釗觀察,「他們是有備而來,不是臨時起意,一定是在大選最後時刻來混淆。」他提前示警,愈接近明年初選舉日,作為「殺手鐧」的AI假訊息出現可能性就愈高。

 

根據最高檢統計,二○一六年總統及立委二合一大選,選前假訊息案件共計有五件、涉案五人;到了二○年大選,假訊息案量竟激增至八四九件、共一三一○人涉案。短短四年,案件數成長近一七○倍,且這只是假訊息統計,尚未納入最新的AI涉假案件,「可以預料,隨著社會型態改變,通訊軟體的進步,這一定還會再增加。」邢泰釗提醒。

 

為了防止AI造假影響選舉,最高檢在今年九月成立「AI生成或深度偽造假訊息案件處理中心」,檢察機關、調查局、刑事警察局去年就已「備戰」,籌備相關偵查工作,包括採買AI鑑別軟體、執法人員的訓練,今年則要實際上戰場。

 

 

只不過,AI爆炸式成長,新形態犯罪迅速興起,衝擊民主運作,法律和制度真能追上科技的變化速度嗎?

 

邢泰釗觀察,在查緝AI假消息上,國內的鑑識軟硬體已非常先進,法制面也屬完備,不須特別再為AI訂新法才能入罪。尤其,最高檢在今年八月、九月兩度更新給各地檢警參考的「選罷法偵查要領彙編」手冊,當中詳列AI假訊息的各式情境、適用偵辦的法規,讓第一線人員執法時有所本。

 

他舉例,今年四月,美國網路流傳一則影片,內容是民主黨前國務卿希拉蕊支持共和黨總統候選人,後被證實是深偽造假;坊間還流傳一段音檔,當中支持同性戀權益的美國總統拜登,竟說起反同言論,後來也被確認造假。

 

回到台灣來看,邢泰釗指出,針對類似的AI「換臉」、「變聲」造假影音流傳、混淆選民,目前《總統副總統選舉罷免法》已規範到深偽影音的問題,可依法下架影音,並對造假者處七年以下有期徒刑。

 

不過,對第一線執法人員而言,找到定罪法條不難,難的是如何抓到境外犯罪者,甚至進行事前偵查。尤其AI假消息的IP位址多來自國外,邢泰釗認為,現在最大問題是怎麼進行跨國的司法互助,共同打擊犯罪。

 

科技偵查缺法源  事前打擊難

 

針對事前預防部分,由於AI網路的匿蹤性、跨境性更高,邢泰釗認為,若能透過M化車或特定程式工具,做到前期的偵查,可以先掌握正在進行的犯罪或「案外案」。

 

  • M化車:在一般汽車裡,裝設虛擬基地台,可於半徑五百米內攔截特定訊號,鎖定嫌犯位置。

 

事實上,台灣科技偵查的技術不是問題,重點在沒有法源依據。過去有員警利用M化車偵破詐騙機房,但被最高法院認定M化車侵犯人民隱私權、且於法無據,不可作為直接證據,嫌犯最終被判無罪定讞。雖然法務部從二○年就積極推動《科技偵查法》立法,不過至今爭議未減,草案推出無疾而終。

 

「《科技偵查法》可能還是比較關鍵,倒不是《刑法》之類的修法。」邢泰釗強調,在妥善監督的使用下,科技偵查的效益是好的,「這在前期預防會有一定的效果,否則都等犯罪發生再偵辦,其實意義有限。」

 

「假訊息不是今天才有,問題不是沒有法律,而在於它傳播非常快,有可能不知道要告誰。」中研院法律所所長李建良也說,基本上目前法律已經能規範到AI假訊息的情境,例如《刑法》裡的誹謗、詐欺等罪,或一些特別法如《選罷法》、《傳染病防治法》都可處理。

 

不過,他也點出,若AI涉及的不是犯罪問題,反而較為複雜。像是有關AI的行政管制,相關法制作業會更棘手,「因為行政管制的重點不是事後的處罰,而是事前的防弊,也就是AI的相關運用是否需要『事前的許可』。」

 

舉例來說,一輛AI自駕車上路,應經過交通主管機關哪些審核?AI辨識生物特徵的技術,該怎麼把關?針對這些較高風險的AI運用,法規可能就需有相應的調整,避免危險發生。

 

其實,在AI行政管制上,歐盟在二一年就擬定《人工智慧法》草案,主要規範AI開發商及技術提供者,並將AI技術略分為四類風險:最低風險、有限風險、高風險、不可接受的風險,訂有不同要求。例如,若產品藉AI進行社會評分,屬不可接受風險層級,在歐盟市場禁止使用。草案於今年六月進入歐盟議會的最後立法階段,有望今年底通過。

 

  • 社會評分:藉AI自動評估個人行為、並予以積分或分類,例如中國的社會信用系統。但可能因有資料偏見,導致如種族、性別、階級等歧視。

 

有鑑於歐盟已為AI的行政管制鋪路,國內也開始出現《AI基本法》的立法聲浪。「現在生成式AI大家使用得這麼快樂,但我們也不知道接下來會怎麼變遷。」人工智慧法律國際研究基金會執行長張麗卿認為,「還是要有一套共同遵守的基本法。」

 

歐盟《人工智慧法》草案

 

基本法暫緩  各領域指引先行

 

當智慧醫療、自駕技術愈來愈發達,她指出,理想上《AI基本法》同時要落實監管責任、鼓勵AI產業發展。在管制方面,要能區分程式設計者、使用者所對應到的法律責任,並強調演算法的透明性,才能具體究責。法律也應透過租稅獎勵、補助來推動AI的新創發展。

 

實際上,國科會原本預計在九月推出《AI基本法》草案,但因技術和應用太廣,目前暫緩。而在基本法出動前,各領域早已為AI管制動起來。如行政院在八月底通過指引,規範公部門的AI使用並防範資安風險;銀行公會也在十月底,依據金管會公布的原則,擬定金融機構運用AI自律規範。

 

當各領域已有相應規範,是否還需為AI訂定專法,各界仍有爭論。

 

資策會科法所副所長顧振豪認為,一部基本法僅是原則性規範,指引各行各業訂定相關準則,不可能管到所有事情,「各個領域運用AI所遇到的問題,還是目的事業主管機關最清楚。」當各機關、產業的指引逐漸成形,例如衛福部調整行政規則,作為醫學研究或醫院運用AI的倫理規範,可能也就不需要基本法。

 

李建良則認為,我國目前確實無法一步到位、訂定全面性的AI基本法,但仍可參考歐盟《人工智慧法》的規範架構與風險分級,盤點出影響個人權益較大、危險性較高的領域,先行個別立法規範。例如,公私部門若運用到AI的臉部辨識,或自駕車具全自動技術等,單靠各自指引並不充足,有賴更高的法律位階來約束。

 

生成式AI元年,開啟科技運用的無限想像,衍生的犯罪衝擊不容忽視,法規和制度如何與時俱進,跟緊科技發展腳步,仰賴政府智慧。

延伸閱讀
生成式AI時代來臨!高通發表迄今最強大行動平台,手機也能運行AI模型「明年可能有數千種應用」
生成式AI時代來臨!高通發表迄今最強大行動平台,手機也能運行AI模型「明年可能有數千種應用」

2023-10-25

「生成式AI像核子大戰,對人類帶來極大威脅!」唐鳳:防禦方法要靠它
「生成式AI像核子大戰,對人類帶來極大威脅!」唐鳳:防禦方法要靠它

2023-07-12

別再相信假消息!「多疑、多查、不亂傳」 轉傳不實消息最重罰300萬
別再相信假消息!「多疑、多查、不亂傳」 轉傳不實消息最重罰300萬

2021-05-20

用通訊軟體說話將被監聽?科技偵查重罪犯 警可植「木馬」蒐證
用通訊軟體說話將被監聽?科技偵查重罪犯 警可植「木馬」蒐證

2020-09-10

來桃園地景藝術節 探索秘境之美
來桃園地景藝術節 探索秘境之美

2017-08-28