去年總統大選，台灣首見政治人物的生成式AI假訊息。台大新聞所所長洪貞玲指出，儘管這些AI假訊息目前品質拙劣，容易破解，但已出現聲音、AI主播等各種型態，過去的查證技術逐漸不足以應付。此外，雖然這些AI假訊息對選舉影響不大，但許多炒作「疑美論」的誤導性論述，長期恐影響台灣社會對國家認同、國際地緣政治的公共討論，是需要特別注意之處。
台灣大學新聞所4月12日舉行論壇，由傳播學者分享2024總統大選期間出現的生成式AI假訊息攻擊型態，以及台灣媒體應對假訊息方式。
這項調查報告由台大新聞所所長洪貞玲、台大新聞所助理教授蔡蕙如、政大新聞所教授劉昌德、國防大學政戰學院教授傅文成共同完成，透過訪談與資料搜集，初步歸納成三種類型。第一是生成式AI的假訊息，第二是誤導式論述，第三種是協同行為。
去年大選台灣首見AI生成的「假音檔」 偽造柯文哲談話
在AI假訊息上，洪貞玲指出，台灣在去年8月第一次出現AI的假訊息是一則假錄音檔，偽造柯文哲的聲音批評賴清德。此後也出現過偽造賴清德聲音宣稱「支持藍白合」的假音檔，還有「習近平說三組候選人都是台獨」的假影片。
這些AI假影片、假音檔品質拙劣，也不符合台灣民眾對這些政治人物的認知，對選舉結果影響不大。但第二類的「誤導性論述」，恐長期會影響台灣社會對國家認同與全球地緣政治的公共討論。
這類誤導性論述包括「選務」、「政府政策」、「疑美論」、「兩岸議題」。研究中共資訊戰的智庫IORG更進一步歸納從中共官媒傳播到台灣的「疑美論」，細分為八種論述，例如「美國棄台論」、「美國是世界亂源」、「美國是假朋友」等。
1.4萬多個來自中共的帳號 跟隨台灣時事散步誤導性論述
而這些誤導性論述，則是透過協同行為來操作。傅文成說，研究團隊結合人工辨識與深度學習技術，搜羅網路上所有新聞、留言，分析上百萬則貼文的帳號行為、散播內容、Metadata。長期追蹤下，他們發現有超過1萬4千個帳號來自中共，也確定這些帳號來自境外勢力，而且是有組織、有目的地行動。
研究團隊也發現，這些協同團體（亦即一起行動的帳號群體）從2023年就開始炒作疑美論，從AIT擴建、藍白合、台美軍購到拜登競選，各種議題都可以操作。
傅文成說，從外交、內政、經濟、選舉議題都可以看到這些帳號的身影，他們很了解台灣社會在討論什麼，並能進一步操作。而且這些帳號每個月會有一個主題，分工來操作此論述。其中，有些論述主題一開始會出現在中國官媒，再散佈至台灣的網路世界。
傳統媒體跟不上AI假訊息 應對方式形同「用明朝的劍斬清朝的官」
面臨來自境外的輿論操作，台灣媒體又如何應對？研究團隊共訪談5家媒體集團，劉昌德坦言，現在台灣媒體集團應對假訊息的方式，形同「用明朝的劍斬清朝的官」。
「面對AI生成的假訊息，他們（媒體工作者）碰到非常大的困難，技術上相對是弱的。而且這些假訊息、誤導性論述的量非常大，單一人力無法一一應付。」劉昌德說。
在受訪的5家媒體集團中，公共媒體、國營媒體在應對假訊息態度上較為被動與保守，儘管在嚴謹的新聞產製流程下可以杜絕假訊息，或與查核組織合作、報導闢謠後的資訊，但受限於人力、資源與技術，面對網路平台、INE群組上氾濫的假訊息，難以發揮資訊守門人的角色，一一去查證。
比起傳統電視頻道 網路新聞問題更大
而商業媒體受到高度市場競爭與時間壓力，對傳播廣泛的資訊有不得不報導的壓力，更何況許多假訊息可能來自政治人物、網路KOL的討論，商業媒體有時必須跟進報導。
不過仔細觀察，電視台在「電視頻道」與「網站」上受到假訊息影響的程度還是不同。電視頻道受到廣電三法規範，以及新聞產製過程仍有內控機制與專業，其實假訊息問題不如外界想像糟。
但網路新聞的問題就非常嚴重。劉昌德說，以TVBS在總統大選期間報導假民調的案例，電視頻道的工作者基於TVBS自家的民調中心，知道「指傳媒」的民調結果非常違背常識，選擇不報導。但網路新聞卻不加查證地報導了這份假民調。
跨國平台壟斷下的數位環境 商業媒體面臨過度競爭
劉昌德也分享，他現在借調擔任華視總經理，可以理解電視台業者的處境，是傳統電視市場不斷萎縮、所有傳統媒體朝向數位轉型的趨勢下，數位的世界相對於電視，競爭更激烈、平台壟斷的問題也更嚴重。
劉昌德說，在整個數位化趨勢下，所有商業媒體不得不配合跨國平台過度競爭的遊戲規則，這不是個別業者可以扭轉的，如果台灣要避免重蹈開放有線電視後業者過度競爭的覆轍，政府應該要求這些跨國平台負起責任、獎勵優質的新聞，才能對抗AI假訊息。
劉昌德強調，對抗AI假訊息的工作非常花錢，也需要人力與技術，如果沒有改善數位平台帶來的傳播環境，商營媒體只能繼續隨波逐流下去。
學者：因應假訊息 更重要的是要求數位平台負起責任
洪貞玲也指出，假訊息背後更大的問題，是整個資訊環境生態的改變，且多數假訊息是透過數位平台散播。「如果我們對這些數位平台完全沒有要求與約束，公民團體只能疲於奔命地處理假訊息最末端的問題。」
洪貞玲強調，要對抗假訊息，光要求媒體及平台自律是不夠的，政府不只要做好資訊透明，也應思考類似歐盟《數位服務法》的立法，讓法律讓資訊環境更健全。
