國安人士發現,youtube頻道「AI命運共同體」於今年7月28日創立,截至目前累積1.2萬名訂閱者與51部影片。頻道雖然宣稱「純粹為了娛樂」,但該頻道成立至今,發布多則以捏造政治人物談話、影像、語音的影音,並與中國官方長期立場一致,散布各類「揚中、貶台、批美」等政治陰謀論。
國安人士指出,該頻道在9月17日發布一段AI生成的賴清德與蕭美琴兩人對話影片,在片中說出「美國已無法遏止中國,沒準哪天就把我們交易出去」、「就是把美國的裝備全買過來,我們也打不過中共」、「我們得趁這段時間多撈點,以後就沒有機會了」,這段透過AI造假生成的48秒影片,依序製作出與北京當局長期輸出「疑美」、「疑軍」、「疑賴」的造謠敘事。
國安人士分析,該影片觀看數雖然僅約不到2千次,按讚與留言數也都極低,推估其真正目的是吸引不知情的一般民眾受騙,或是對政府不滿的民眾協助擴散。例如前太平洋房屋代銷事業體總經理賴勝源,就在臉書引述這則影片,並評論表示現在的AI製作愈來愈精湛,連FB的管制室都沒說「它是假的」,讓臉友當卡通片看看。
該人士提醒,也許第一個分享影片的人知道這是AI假影片,只是單純覺得有趣所以分享給朋友,但當大量擴散分享到第5層、第10層後,就無法確保所有人都能理解這是錯誤資訊,萬一有人相信這是真的,導致對政府失去信任,甚至做出不可控的行為,就會造成遺憾。新版國防手冊也提醒國人「境外敵對勢力可能透過錯假帳號或在地協力者發布深偽影片,斷章取義、散播陰謀論」
國安人士表示,這類AI頻道的操作手法,代表錯假資訊透過結合深偽技術,形成虛假訊息操作的混合攻擊,成為新型資安威脅。影響程度不僅侷限於個別影片的觸擊者,也對民主制度信任基礎造成系統性侵蝕。提醒國安單位必須以多層次的戰略,包含技術、法律、媒體識讀、公民教育等多種面向,才能有效遏制敵對勢力的惡意攻擊,保衛民主自由與社會韌性。