AI生成氾濫與媒體信任危機
隨著生成式人工智慧技術快速普及，網路資訊傳播模式正在經歷劇烈變革。面對日益氾濫的AI生成新聞、內容農場洗稿與虛假敘事，傳統的事實查核與單一中心化監管已難以應付海量的資訊操弄。在此背景下，新聞傳播界與技術社群開始重新思考：在演算法主導的時代，如何守護新聞的公信力、客觀性與社會責任？
本期優沙龍邀請到台灣人工智慧實驗室（Taiwan AI Labs）創辦人杜奕瑾，與新聞媒體專業人士共同探討在AI普及與境外認知作戰夾擊下，新聞產業該如何確立核心價值，並展望透過「聯邦式驗證」與多中心協作，打造一套可信、負責任的新聞評議機制。
人機分工關鍵：人是唯一能「負責任」的角色
杜奕瑾開宗明義指出，面對「AI是否會全面取代記者」的廣泛焦慮，核心分野在於「責任歸屬」。如同醫療診斷最終仍須醫師簽署確認、系統架構需由工程師把關資安漏洞與穩定性，新聞產製的關鍵在於記者的專業把關：
- 查證與多方平衡：新聞必須立基於真實與客觀，具備雙向查證基礎，不能僅呈現單一說法。
- 深度挖掘與調查報導：挖掘不為人知的事實與脈絡，是調查記者的核心功力，絕非AI所能取代。
- 把關「一本正經的胡說八道」：當前大型語言模型易生成貌似合理但內容虛構或偏頗的訊息，新聞人應成為「AI的老闆」，而非被演算法牽著走。
杜奕瑾強調，AI應是賦能專業人員的工具，其訓練與應用成果的價值應回饋到內容創作者與專業機構身上，而非任由少數跨國科技巨頭壟斷超級智慧並剝奪產業價值。
境外認知操作手法與言論極化威脅
針對當前社群網路的資訊環境，杜奕瑾分析了團隊長期追蹤「協同性造假行為」（CIB）的實證觀察。他指出，當前認知作戰的策略已非單純憑空捏造假消息，而是深入操弄社會情緒：
- 真假混雜與陰謀論：藉由無法即時查核的陰謀論，或基於真實事件但植入主觀意識與虛構記者的報導，混淆公眾視聽。
- 製造假來源與海量放大：境外勢力常在海外成立看似獨立的外圍媒體作為「洗來源」節點，再利用大量AI協同帳號進行跨平台擴散，最後引誘主流媒體或官媒引述擴大聲量。
- 分化對立與摧毀體制信任：以歐洲暴動與各國輿論事件為例，操作者往往刻意將一般民生議題轉移為激烈的族群或移民衝突，並同步部署「誇誇群」讚揚特定對象與攻擊帳號激化仇恨。其最終目的不在於單純支持特定陣營，而是透過全方位的極化，摧毀公眾對媒體、司法體制與民主制度的信任。
主權AI與聯邦式學習：打破中心化壟斷
在法規治理與資料主權層面，杜奕瑾指出，國際社群平台過去享有免責紅利，但新聞媒體卻需承擔嚴格責任。台灣若一味依賴封閉式境外大型模型，不僅面臨個人隱私與企業Know-how流失的風險，亦缺乏模型調整與治理的自主權。
借鏡早期PTT的分散式架構及台灣聯合學習產業大聯盟在醫療、金融跨機構合作的成功經驗，杜奕瑾倡議媒體產業應走向「主權AI」與「聯邦式架構」：
- 資料自主與不出門：各家新聞媒體各自保有專屬知識庫與資產，無需將原始語料交由單一中心集中。
- 共同平台與精進模型：透過公開協定合作訓練並共享模型，在保障資料治理主權的同時，共同提升本土AI工具的品質與抗偏見能力。
推動AI輔助評議機制：負面表列與專家制度
為了在實務上輔助新聞評量，杜奕瑾展示了初步開發的自動化分析系統。他認為評斷「最好」的新聞往往牽涉主觀審美，但辨識「有問題、具操弄風險」的內容卻具有客觀標準。他建議業界可先從「負面表列」著手建立共識：
- 標題與內文不符：標題刻意隱藏核心關鍵或與內文結論嚴重偏離。
- 誇大重要性與煽動情緒：刻意下達「憤怒誘餌」或過度渲染無關緊要之情節。
- 來源不可溯源與未經平衡：引述缺乏可驗證之出處，或在具爭議事件中缺乏客觀對照查核。
杜奕瑾呼籲，新聞界應秉持開源、透明原則，由具備公信力的公協會（如優質新聞發展協會、卓越新聞獎基金會）與資深新聞學者、第一線工作者共組獨立委員會，共同訂定透明的評判規矩來指導AI執行多中心檢測。透過長期且公開的違規指標統計，不僅能協助大眾即時辨別異常操作，更能彰顯具備良好自律與內部控制機制的優質媒體。
結語與展望
綜合而言，AI技術與社群演算法的交織為新聞生態帶來了嚴峻的真偽考驗，但也開啟了傳播科技革新的契機。面對境外操弄與資訊極化，新聞業界除了強化傳統的查證倫理與機構自律，更需主動參與技術規則的建構。透過新聞公協會、專業記者與技術研發團隊的跨界協作，以開放透明的聯邦式機制引導AI落地應用，台灣新聞環境將能建立起更堅實的可信屏障，引領數位時代的民主溝通邁向健康與永續。
本文以AI工具依現場錄音檔製作摘要，並經人工審閱、修訂完成
（紀錄整理：劉采妮；編輯：邱家宜）
廣告/本次講座由國家通訊傳播委員會贊助